Eksklusif: Gemini milik Google memaksa kontraktor untuk menilai respons AI di luar keahlian mereka.
Courtesy of TechCrunch

Rangkuman Berita: Eksklusif: Gemini milik Google memaksa kontraktor untuk menilai respons AI di luar keahlian mereka.

TechCrunch
Dari TechCrunch
19 Desember 2024 pukul 07.05 WIB
121 dibaca
Share
Generative AI, seperti yang dikembangkan oleh perusahaan seperti Google dan OpenAI, melibatkan banyak pekerja yang dikenal sebagai "prompt engineers" dan analis. Mereka bertugas menilai akurasi jawaban yang dihasilkan oleh chatbot untuk meningkatkan kualitas AI. Namun, baru-baru ini, Google mengubah pedoman internal untuk kontraktor yang bekerja pada proyek Gemini, yang menimbulkan kekhawatiran bahwa AI ini bisa memberikan informasi yang tidak akurat, terutama tentang topik sensitif seperti kesehatan.
Sebelumnya, kontraktor diperbolehkan untuk "melewatkan" pertanyaan yang berada di luar keahlian mereka, tetapi sekarang mereka diharuskan untuk menilai jawaban AI meskipun mereka tidak memiliki pengetahuan khusus tentang topik tersebut. Hal ini menimbulkan kekhawatiran tentang akurasi Gemini, karena kontraktor mungkin diminta untuk mengevaluasi jawaban yang sangat teknis tentang penyakit langka tanpa latar belakang yang memadai. Kini, kontraktor hanya bisa melewatkan pertanyaan jika informasi yang diberikan tidak lengkap atau jika kontennya berbahaya.

Pertanyaan Terkait

Q
Apa yang dimaksud dengan AI Generatif?
A
AI Generatif adalah teknologi yang memungkinkan sistem untuk menghasilkan konten baru, seperti teks atau gambar, berdasarkan data yang ada.
Q
Siapa yang terlibat dalam pengembangan sistem AI seperti Gemini?
A
Pengembangan sistem AI seperti Gemini melibatkan karyawan di perusahaan seperti Google dan OpenAI, termasuk insinyur prompt dan analis.
Q
Apa perubahan terbaru dalam pedoman yang diterima kontraktor GlobalLogic?
A
Perubahan terbaru dalam pedoman menyatakan bahwa kontraktor tidak lagi diperbolehkan untuk melewatkan prompt yang memerlukan pengetahuan khusus, meskipun mereka tidak memiliki latar belakang di bidang tersebut.
Q
Mengapa ada kekhawatiran tentang akurasi Gemini?
A
Ada kekhawatiran bahwa Gemini bisa lebih rentan terhadap informasi yang tidak akurat, terutama pada topik sensitif seperti kesehatan, karena kontraktor mungkin tidak memiliki keahlian yang diperlukan untuk mengevaluasi respons AI.
Q
Apa yang dilakukan kontraktor jika mereka tidak memiliki pengetahuan domain yang cukup?
A
Jika kontraktor tidak memiliki pengetahuan domain yang cukup, mereka diminta untuk menilai bagian dari prompt yang mereka pahami dan mencatat bahwa mereka tidak memiliki pengetahuan tersebut.

Rangkuman Berita Serupa

Pembaruan Gmail dari Google—Apakah Email Anda Sekarang Berisiko?Forbes
Teknologi
2 bulan lalu
59 dibaca

Pembaruan Gmail dari Google—Apakah Email Anda Sekarang Berisiko?

Pembaruan Gmail Google—Jangan Biarkan Akun Anda BerisikoForbes
Teknologi
2 bulan lalu
49 dibaca

Pembaruan Gmail Google—Jangan Biarkan Akun Anda Berisiko

Serangan Keamanan AI Gemini—Bot Peretasan Tim Merah Diterapkan oleh GoogleForbes
Teknologi
2 bulan lalu
103 dibaca

Serangan Keamanan AI Gemini—Bot Peretasan Tim Merah Diterapkan oleh Google

Ancaman Keamanan Gmail Dikonfirmasi—Google Tidak Akan Memperbaikinya, Ini AlasannyaForbes
Teknologi
3 bulan lalu
95 dibaca

Ancaman Keamanan Gmail Dikonfirmasi—Google Tidak Akan Memperbaikinya, Ini Alasannya

Google menggunakan Claude dari Anthropic untuk meningkatkan AI Gemini-nya.TechCrunch
Teknologi
4 bulan lalu
81 dibaca

Google menggunakan Claude dari Anthropic untuk meningkatkan AI Gemini-nya.

Google memperluas mode penelitian mendalam Gemini ke 40 bahasa.TechCrunch
Teknologi
4 bulan lalu
78 dibaca

Google memperluas mode penelitian mendalam Gemini ke 40 bahasa.