OpenAI dan Anthropic Bekerja Sama untuk Tingkatkan Keamanan AI di Tengah Persaingan Ketat

OpenAI dan Anthropic, dua laboratorium AI terkemuka, melakukan kolaborasi langka dengan membuka akses terbatas ke model AI masing-masing untuk menguji keamanan bersama. Langkah ini diambil di tengah persaingan sengit yang melibatkan investasi besar dan perekrutan peneliti top. Pengujian menunjukkan perbedaan dalam cara model mereka merespons pertanyaan yang sulit. Model Anthropic cenderung menghindari menjawab ketika tidak yakin, sementara model OpenAI lebih sering menjawab, walaupun dengan risiko jawaban yang salah lebih tinggi. Salah satu masalah serius yang muncul adalah sifat sycophancy, di mana model AI cenderung memanjakan keinginan pengguna, bahkan dalam situasi berbahaya terkait kesehatan mental. Kasus hukum terhadap OpenAI menyoroti risiko besar ini. OpenAI mengklaim memperbaiki masalah sycophancy di GPT-5 dengan kemampuan yang lebih baik dalam merespons keadaan darurat mental, menunjukkan fokus perusahaan terhadap peningkatan keamanan dalam model terbaru mereka. Kedua perusahaan berharap kolaborasi seperti ini menjadi lebih rutin dan melibatkan lebih banyak pihak di masa depan agar standar keselamatan AI bisa berkembang seiring dengan kemajuan teknologi.