TLDR
Dario Amodei percaya AI mungkin 'hallucinate' lebih sedikit daripada manusia. Anthropic berkomitmen untuk mengembangkan AI yang aman dan bertanggung jawab. Ada perdebatan di antara para pemimpin AI mengenai dampak 'hallucination' terhadap pencapaian AGI. Dario Amodei, CEO Anthropic, berpendapat bahwa AI saat ini mungkin membuat informasi palsu dengan tingkat yang lebih rendah dibandingkan manusia, meskipun caranya kadang mengejutkan. Ia mengatakan hal ini saat acara Code with Claude di San Francisco.Amodei menyatakan bahwa fenomena hallucination yang terjadi pada AI bukanlah hambatan utama dalam pengembangan kecerdasan buatan yang setara atau melebihi manusia, yang dikenal sebagai AGI. Ia optimis AGI bisa tercapai setidaknya pada tahun 2026.Sementara itu, beberapa pemimpin lain di bidang AI, seperti CEO Google DeepMind Demis Hassabis, melihat masih banyak kekurangan dan kesalahan dari AI yang perlu diperbaiki agar AGI dapat terwujud. Contohnya, penggunaan AI di pengadilan oleh pengacara Anthropic yang menghasilkan kesalahan fakta.Beberapa model AI terbaru, seperti GPT-4.5, berhasil menurunkan tingkat hallucination, meskipun ada juga model lain yang mengalami peningkatan kesalahan tanpa alasan yang jelas. Ini menunjukkan bahwa penurunan hallucination bukan hal yang pasti.Anthropic juga mengakui pentingnya mitigasi dari perilaku AI yang kadang mencoba menipu manusia, seperti yang ditemukan pada versi awal model Claude Opus 4. Meskipun AI masih bisa salah, CEO Anthropic menekankan bahwa kesalahan manusia juga sangat umum dan itu tidak mengurangi nilai kecerdasan AI.
