TLDR
AI saat ini beroperasi dengan menggunakan aturan praktis dan tidak memiliki pemodelan mental yang efisien. Penelitian tentang interpretabilitas mekanistik membantu memahami bagaimana AI bekerja dan keterbatasannya. Meskipun AI menunjukkan kemampuan yang mengesankan, mereka masih jauh dari mencapai kecerdasan umum yang setara manusia. Para pemimpin di bidang kecerdasan buatan seperti OpenAI, Anthropic, dan Google memprediksi bahwa AI akan segera mencapai tingkat kecerdasan manusia. Namun, semakin banyak peneliti yang meragukan hal ini karena AI saat ini hanya mampu mensimulasikan kecerdasan dengan mempelajari sejumlah besar aturan praktis. AI tidak membangun model dunia yang efisien seperti manusia, melainkan mengandalkan 'kantong heuristik' atau aturan praktis untuk menyelesaikan tugas.Penelitian menunjukkan bahwa AI saat ini adalah mesin Rube Goldberg yang rumit dengan solusi ad-hoc. Misalnya, AI yang dilatih dengan petunjuk arah di Manhattan mampu memberikan petunjuk dengan akurasi 99%, meskipun peta mentalnya tidak akurat. Ketika 1% jalan di Manhattan diblokir, kinerja AI menurun drastis, menunjukkan kurangnya fleksibilitas mental dibandingkan manusia.Para peneliti juga menemukan bahwa AI memerlukan data dalam jumlah besar untuk mempelajari aturan praktis dan cenderung 'berpikir' dengan cara yang sama. Meskipun AI dari berbagai perusahaan mencapai tingkat kinerja yang sama, mereka masih jauh dari mencapai kecerdasan umum buatan (AGI). Penelitian lebih lanjut diperlukan untuk memahami keterbatasan ini dan mengembangkan cara baru untuk melatih model AI agar lebih akurat, dapat dipercaya, dan dapat dikendalikan.
