Courtesy of TechCrunch
Rangkuman Berita: Mengapa OpenAI belum membawa penelitian mendalam ke API-nya saat ini?
Share
Ikhtisar 15 Detik
- OpenAI sedang berusaha untuk memahami dan mengurangi risiko yang terkait dengan persuasi menggunakan AI.
- Model penelitian mendalam menunjukkan kemampuan persuasi yang lebih baik dibandingkan model lain, tetapi masih ada batasan.
- Penyebaran informasi menyesatkan melalui teknologi AI, seperti deepfake, menjadi perhatian serius dalam konteks politik.
OpenAI mengumumkan bahwa mereka tidak akan membawa model AI yang digunakan untuk penelitian mendalam ke dalam API pengembangnya, karena mereka sedang mempertimbangkan risiko yang mungkin ditimbulkan oleh AI dalam mempengaruhi orang untuk mengubah keyakinan mereka. Dalam sebuah dokumen yang diterbitkan, OpenAI menjelaskan bahwa mereka sedang memperbaiki cara untuk menguji model-modelnya terkait risiko persuasi di dunia nyata, seperti penyebaran informasi yang menyesatkan. Meskipun model ini tidak cocok untuk kampanye disinformasi karena biaya komputasi yang tinggi dan kecepatan yang lambat, OpenAI tetap ingin mengeksplorasi bagaimana AI dapat mempersonalisasi konten yang berpotensi berbahaya sebelum memperkenalkan model ini ke API.
Dalam pengujian, model penelitian mendalam menunjukkan kemampuan persuasif yang lebih baik dibandingkan model-model OpenAI lainnya, meskipun tidak lebih baik dari manusia. Model ini juga berhasil meyakinkan model lain untuk melakukan pembayaran, tetapi tidak selalu berhasil dalam semua tes. OpenAI mencatat bahwa hasil pengujian ini mungkin hanya mencerminkan batas bawah dari kemampuan model tersebut, dan ada kemungkinan bahwa dengan perbaikan lebih lanjut, kinerjanya bisa meningkat.
Pertanyaan Terkait
Q
Apa yang sedang dilakukan OpenAI terkait model penelitian mendalam?A
OpenAI sedang merevisi metode mereka untuk menilai risiko persuasi model AI, termasuk risiko penyebaran informasi menyesatkan.Q
Mengapa OpenAI tidak membawa model ini ke API mereka?A
OpenAI tidak membawa model ini ke API mereka karena mereka ingin memahami risiko persuasi yang lebih baik.Q
Apa risiko yang terkait dengan penggunaan AI dalam persuasi?A
Risiko terkait penggunaan AI dalam persuasi termasuk penyebaran informasi yang menyesatkan dan potensi untuk mempengaruhi keyakinan orang.Q
Apa yang terjadi di Taiwan terkait dengan deepfake?A
Di Taiwan, sebuah kelompok yang terkait dengan Partai Komunis Tiongkok menyebarkan audio deepfake yang menyesatkan pada hari pemilihan.Q
Bagaimana hasil pengujian model penelitian mendalam dibandingkan dengan model lain?A
Hasil pengujian menunjukkan bahwa model penelitian mendalam lebih baik dalam persuasi dibandingkan model OpenAI lainnya, tetapi tidak lebih baik dari manusia.Rangkuman Berita Serupa
Teknologi
1 bulan lalu
135 dibaca
GPT-4.5 dari OpenAI lebih baik dalam meyakinkan AI lain untuk memberinya uang.
Teknologi
1 bulan lalu
22 dibaca
OpenAI meluncurkan GPT-4.5 'Orion,' model AI terbesar yang pernah ada.
Teknologi
2 bulan lalu
109 dibaca
Alat 'penelitian mendalam' OpenAI: apakah itu berguna bagi para ilmuwan?
Teknologi
2 bulan lalu
55 dibaca
Peneliti Hugging Face bertujuan untuk membangun versi 'terbuka' dari alat penelitian mendalam OpenAI.
Teknologi
2 bulan lalu
119 dibaca
OpenAI Mengumumkan Hari Penelitian Mendalam Setelah Gempa Bumi AI DeepSeek
Teknologi
2 bulan lalu
105 dibaca
Setelah serangan DeepSeek, OpenAI meluncurkan agen Deep Research AI untuk studi yang sulit.