TLDR
Penelitian tentang model bahasa masih menghadapi tantangan besar dalam hal pemahaman dan interpretabilitas. Meskipun ada kemajuan dalam memahami cara kerja model bahasa, banyak aspek yang masih tidak dapat diprediksi. Pendekatan mekanistik dalam interpretabilitas memberikan wawasan baru tentang bagaimana model bahasa menyimpan dan memproses informasi. Para peneliti kecerdasan buatan sering kali merasa seperti tukang kebun saat membangun model bahasa besar, karena mereka tidak sepenuhnya memahami cara kerja model tersebut. Mereka mengamati respons model terhadap berbagai prompt atau mencoba memahami model dengan membuka dan memeriksa bagian dalamnya. Model bahasa besar dibangun di sekitar jaringan saraf tiruan yang memiliki miliaran atau bahkan triliunan parameter.Proses pelatihan model bahasa besar mirip dengan menonton tanaman tomat tumbuh, di mana peneliti memulai dengan nilai parameter acak dan memberikan model banyak data untuk memprediksi kata berikutnya. Peneliti dapat mengukur respons model terhadap prompt tertentu dengan merekam output atau aktivasi dari setiap komponen internalnya. Mengedit parameter dan aktivasi memungkinkan peneliti untuk mengubah respons model dan menyalin serta menempelkan keadaan mental.Peneliti telah mengidentifikasi prosedur yang digunakan model bahasa besar untuk melakukan tugas-tugas tertentu, tetapi kadang-kadang model mengikuti prosedur yang berbeda untuk variasi tugas yang sama. Fenomena 'perbaikan diri yang muncul' juga telah diamati, di mana menonaktifkan bagian dari model menyebabkan komponen lain mengubah perilakunya. Meskipun tantangan ini, para peneliti tetap optimis tentang kemajuan di bidang ini.
