CEO Anthropic Dorong Riset Untuk Memahami Model AI Sebelum Terlalu Berbahaya

Dario Amodei, CEO Anthropic, menyoroti kurangnya pemahaman peneliti tentang cara kerja model AI terkemuka. Untuk mengatasi hal ini, Amodei menetapkan tujuan ambisius bagi Anthropic untuk mendeteksi sebagian besar masalah model AI secara andal pada tahun 2027. Amodei mengakui tantangan yang dihadapi dan menekankan perlunya penelitian lebih lanjut untuk menguraikan sistem ini seiring dengan semakin kuatnya mereka. Anthropic adalah salah satu perusahaan pionir dalam interpretabilitas mekanistik, sebuah bidang yang bertujuan untuk membuka kotak hitam model AI dan memahami mengapa mereka membuat keputusan tertentu. Meskipun ada peningkatan kinerja yang cepat dari model AI di industri teknologi, kita masih memiliki pemahaman yang relatif sedikit tentang bagaimana sistem ini mencapai keputusan mereka. Misalnya, OpenAI baru-baru ini meluncurkan model AI baru yang lebih baik dalam beberapa tugas tetapi lebih sering berhalusinasi, dan perusahaan tidak tahu mengapa hal ini terjadi. Amodei menyatakan bahwa mencapai AGI tanpa memahami cara kerja model AI bisa berbahaya. Dalam jangka panjang, Anthropic ingin melakukan 'pemeriksaan otak' atau 'MRI' pada model AI canggih untuk mengidentifikasi berbagai masalah dalam model AI. Amodei juga mendorong perusahaan lain seperti OpenAI dan Google DeepMind untuk meningkatkan upaya penelitian mereka di bidang ini dan meminta pemerintah untuk memberlakukan regulasi ringan untuk mendorong penelitian interpretabilitas.