Rangkuman berita: AI’s answers on China differ depending on the language, analysis finds.

Beberapa model AI yang dikembangkan oleh laboratorium di China, seperti DeepSeek, dikenal melakukan sensor terhadap topik-topik yang sensitif secara politik. Pada tahun 2023, pemerintah China mengeluarkan peraturan yang melarang model-model ini menghasilkan konten yang dapat merusak persatuan negara. Penelitian menunjukkan bahwa model DeepSeek, misalnya, menolak menjawab 85% pertanyaan yang dianggap kontroversial. Namun, tingkat sensor ini bisa berbeda tergantung bahasa yang digunakan. Seorang pengembang bernama "xlr8harder" melakukan eksperimen untuk melihat bagaimana model AI merespons pertanyaan kritis terhadap pemerintah China dalam bahasa Inggris dan Mandarin.

Hasilnya menunjukkan bahwa model-model AI, termasuk yang dikembangkan di Amerika, cenderung lebih sulit menjawab pertanyaan dalam bahasa Mandarin dibandingkan bahasa Inggris. Misalnya, model dari Alibaba, Qwen 2.5, lebih responsif dalam bahasa Inggris tetapi hanya menjawab setengah dari pertanyaan sensitif dalam bahasa Mandarin. Para ahli berpendapat bahwa ini mungkin disebabkan oleh kurangnya data pelatihan yang kritis terhadap pemerintah China dalam bahasa Mandarin, sehingga model-model tersebut tidak dapat menghasilkan jawaban yang sama baiknya. Ini menunjukkan bahwa model AI perlu lebih memahami konteks budaya dan bahasa untuk memberikan respons yang lebih baik.

Pertanyaan Terkait

Apa yang ditemukan oleh xlr8harder dalam evaluasi kebebasan berbicara terhadap model AI?

Xlr8harder menemukan bahwa model AI, termasuk yang dikembangkan oleh laboratorium China, menunjukkan kepatuhan yang berbeda terhadap pertanyaan sensitif tergantung pada bahasa yang digunakan.

Mengapa model AI seperti Claude 3.7 Sonnet menunjukkan respons yang berbeda tergantung pada bahasa?

Model AI seperti Claude 3.7 Sonnet menunjukkan respons yang berbeda karena data pelatihan yang tersedia dalam bahasa Mandarin lebih banyak disensor dibandingkan dengan bahasa Inggris.

Apa yang dimaksud dengan 'generalization failure' dalam konteks model AI?

'Generalization failure' merujuk pada ketidakmampuan model AI untuk menerapkan pengetahuan yang diperoleh dari data pelatihan ke konteks baru, terutama dalam hal kritik terhadap pemerintah.

Bagaimana pelatihan data mempengaruhi perilaku model AI dalam menjawab pertanyaan sensitif?

Pelatihan data mempengaruhi perilaku model AI karena jika data yang digunakan untuk melatih model lebih banyak disensor, model tersebut akan kurang mampu menghasilkan respons yang kritis terhadap isu-isu sensitif.

Apa tantangan yang dihadapi dalam membangun model AI yang kompeten secara budaya?

Tantangan dalam membangun model AI yang kompeten secara budaya termasuk kesulitan dalam memahami norma-norma sosial dan budaya yang berbeda, serta perbedaan dalam cara kritik disampaikan dalam berbagai bahasa.

Rangkuman Berita: AI’s answers on China differ depending on the language, analysis finds.

Pertanyaan Terkait

Rangkuman Berita Serupa