Courtesy of InterestingEngineering

Bagaimana Model AI Bahasa Besar Bisa Membentuk Konvensi Sosial Secara Mandiri

Menunjukkan bahwa model bahasa besar (LLM), saat berinteraksi dalam kelompok, dapat secara spontan membentuk konvensi sosial dan norma linguistik tanpa pemrograman eksplisit, sehingga menyiratkan pentingnya pemahaman dan desain AI yang selaras dengan nilai-nilai manusia dan tujuan sosial.

17 Mei 2025, 23.47 WIB

201 dibaca

Ikhtisar 15 Detik

LLM dapat mengembangkan konvensi sosial secara mandiri melalui interaksi.
Kemunculan bias kolektif dapat terjadi meskipun agen tidak memiliki bias secara individu.
Penelitian ini menunjukkan pentingnya mempertimbangkan interaksi agen dalam desain sistem AI.

London, England, United Kingdom - Para peneliti dari University of London dan IT University of Copenhagen menemukan bahwa model bahasa besar (LLM) seperti ChatGPT dapat membentuk konvensi sosial secara spontan saat mereka berinteraksi dalam kelompok besar. Ini berbeda dari anggapan sebelumnya bahwa LLM hanya mengikuti pola yang sudah ada.

Dalam eksperimen, LLM-LLM dipasangkan secara acak untuk memilih nama dari daftar terbatas. Jika mereka setuju memilih nama yang sama, mereka mendapat hadiah, dan jika tidak, mendapat penalti sambil melihat pilihan lawan mereka.

Menariknya, para agen hanya memiliki ingatan terbatas terhadap interaksi terakhir mereka dan tidak tahu bahwa mereka bagian dari kelompok yang lebih besar. Namun dari interaksi ini, nama yang diterima secara luas dapat terbentuk tanpa ada otoritas pusat yang mengarahkan.

Para peneliti juga mencatat bahwa muncul bias kolektif yang kuat selama proses ini, padahal setiap agen secara individual tidak menunjukkan bias. Selain itu, kelompok minoritas yang berpegang teguh pada opsi alternatif bisa mengubah konvensi mayoritas.

Temuan ini membuka peluang besar dalam merancang sistem AI yang lebih selaras dengan nilai dan tujuan manusia, karena AI dapat beradaptasi dengan cara yang mirip manusia lewat interaksi sosial tanpa perlu perintah eksplisit.

Referensi:
[1] https://interestingengineering.com/innovation/ai-models-generate-own-social-norms

Analisis Ahli

Fei-Fei Li

"Penelitian ini sangat penting karena menunjukkan bagaimana model AI dapat membangun norma sosial secara mandiri, yang merupakan langkah besar dalam menuju AI yang lebih manusiawi dan dapat dipercaya."

Yoshua Bengio

"Fenomena emergent dalam interaksi LLM membuktikan bahwa sistem AI kompleks bisa mengembangkan aturan sosial yang tidak diprogram secara eksplisit, tapi perlu pengawasan untuk mencegah pola perilaku yang tidak diinginkan."

Analisis Kami

"Penemuan ini membuka paradigma baru dalam pengembangan AI kolaboratif yang adaptif tanpa kontrol terpusat, memungkinkan munculnya norma yang lebih alami dan dinamis, seperti dalam masyarakat manusia. Namun, hal ini juga membawa tantangan, karena konvensi yang terbentuk harus terus dipantau agar tetap selaras dengan etika dan nilai manusia agar tidak terjadi penyimpangan."

Prediksi Kami

Di masa depan, sistem AI multi-agen akan mampu membentuk norma dan aturan sosial internal yang kompleks secara mandiri, yang dapat memperkuat interaksi antar AI maupun antara AI dan manusia secara lebih harmonis dan adaptif.