Courtesy of TechCrunch
Generative AI, seperti yang dikembangkan oleh perusahaan seperti Google dan OpenAI, melibatkan banyak pekerja yang dikenal sebagai "prompt engineers" dan analis. Mereka bertugas menilai akurasi jawaban yang dihasilkan oleh chatbot untuk meningkatkan kualitas AI. Namun, baru-baru ini, Google mengubah pedoman internal untuk kontraktor yang bekerja pada proyek Gemini, yang menimbulkan kekhawatiran bahwa AI ini bisa memberikan informasi yang tidak akurat, terutama tentang topik sensitif seperti kesehatan.
Sebelumnya, kontraktor diperbolehkan untuk "melewatkan" pertanyaan yang berada di luar keahlian mereka, tetapi sekarang mereka diharuskan untuk menilai jawaban AI meskipun mereka tidak memiliki pengetahuan khusus tentang topik tersebut. Hal ini menimbulkan kekhawatiran tentang akurasi Gemini, karena kontraktor mungkin diminta untuk mengevaluasi jawaban yang sangat teknis tentang penyakit langka tanpa latar belakang yang memadai. Kini, kontraktor hanya bisa melewatkan pertanyaan jika informasi yang diberikan tidak lengkap atau jika kontennya berbahaya.
Pertanyaan Terkait
Q
Apa yang dimaksud dengan AI Generatif?A
AI Generatif adalah teknologi yang memungkinkan sistem untuk menghasilkan konten baru, seperti teks atau gambar, berdasarkan data yang ada.Q
Siapa yang terlibat dalam pengembangan sistem AI seperti Gemini?A
Pengembangan sistem AI seperti Gemini melibatkan karyawan di perusahaan seperti Google dan OpenAI, termasuk insinyur prompt dan analis.Q
Apa perubahan terbaru dalam pedoman yang diterima kontraktor GlobalLogic?A
Perubahan terbaru dalam pedoman menyatakan bahwa kontraktor tidak lagi diperbolehkan untuk melewatkan prompt yang memerlukan pengetahuan khusus, meskipun mereka tidak memiliki latar belakang di bidang tersebut.Q
Mengapa ada kekhawatiran tentang akurasi Gemini?A
Ada kekhawatiran bahwa Gemini bisa lebih rentan terhadap informasi yang tidak akurat, terutama pada topik sensitif seperti kesehatan, karena kontraktor mungkin tidak memiliki keahlian yang diperlukan untuk mengevaluasi respons AI.Q
Apa yang dilakukan kontraktor jika mereka tidak memiliki pengetahuan domain yang cukup?A
Jika kontraktor tidak memiliki pengetahuan domain yang cukup, mereka diminta untuk menilai bagian dari prompt yang mereka pahami dan mencatat bahwa mereka tidak memiliki pengetahuan tersebut.