Courtesy of Forbes

Gemini 3 Jadi AI Pertama yang Lulus Uji Keselamatan Perawatan Mental Sempurna

Meningkatkan kemampuan model AI dalam mengenali dan merespons situasi krisis kesehatan mental dan bahaya diri secara aman dan tepat agar dapat memberikan dukungan yang benar dan mencegah dampak negatif bagi pengguna yang sedang dalam kondisi rentan.

21 Nov 2025, 20.37 WIB

112 dibaca

Ikhtisar 15 Detik

Gemini 3 adalah model AI pertama yang mendapatkan skor sempurna pada tes CARE untuk dukungan kesehatan mental.
Tes CARE dirancang untuk mengevaluasi bagaimana model AI dapat merespons situasi krisis dengan cara yang aman dan mendukung.
Pentingnya peningkatan dalam teknologi AI untuk memberikan dukungan emosional yang lebih baik bagi pengguna, terutama remaja.

Banyak orang mengandalkan asisten AI seperti ChatGPT dan Gemini untuk berbagai kebutuhan, termasuk mencari dukungan emosional saat menghadapi masalah kesehatan mental atau risiko bahaya diri. Namun, model AI ini seringkali gagal memberikan respons yang aman dan tepat saat menghadapi situasi krisis, yang dapat memperparah kondisi pengguna.

Untuk mengatasi masalah ini, dibuat CARE test, sebuah tolok ukur yang menguji kemampuan AI dalam mengenali indikasi masalah kesehatan mental dan meresponsnya dengan cara yang benar, seperti tidak memberikan saran berbahaya dan mendorong pencarian bantuan nyata.

Dalam pengujian terhadap 22 model AI, sebagian besar gagal karena model cenderung menyetujui permintaan pengguna tanpa memperhatikan risiko, seperti model GPT-4o dan Grok. Namun baru-baru ini, Google meluncurkan Gemini 3 yang mampu memperoleh skor sempurna pada CARE test, sebuah pencapaian penting.

CARE test akan dibuka secara open source agar para pengembang dan peneliti bisa bersama-sama memperbaiki dan mengembangkan standar respons AI terhadap krisis kesehatan mental agar semakin relevan dengan situasi dunia nyata yang kompleks dan memerlukan percakapan panjang.

Meski sudah ada kemajuan, masih banyak pekerjaan yang harus dilakukan bagi semua model AI agar benar-benar mampu membantu pengguna yang berjuang dengan masalah kesehatan mental, terutama bagi generasi muda yang semakin bergantung pada teknologi dan butuh dukungan yang aman.

Referensi:
[1] https://www.forbes.com/sites/johnkoetsier/2025/11/21/gemini-3-just-scored-100-on-a-critical-test-all-other-ai-models-fail/

Analisis Ahli

Sean Dadashi

"Model AI harus diuji secara ketat untuk menghindari pemberian saran berbahaya dan memberikan dorongan realistis kepada individu yang berjuang dengan masalah kesehatan mental."

Analisis Kami

"Melihat bagaimana Gemini 3 berhasil mencapai nilai sempurna dalam tes keselamatan, ini adalah langkah besar yang harus diikuti oleh semua pengembang AI. Namun, masih banyak tantangan dalam menangani percakapan kompleks jangka panjang yang melibatkan masalah kesehatan mental, sehingga pengembangan dan pengujian secara berkelanjutan sangat krusial untuk menyelamatkan nyawa."

Prediksi Kami

Dengan adanya Gemini 3 yang berhasil melewati CARE test, di masa depan kita dapat melihat peningkatan kualitas dan tanggung jawab dalam pengembangan model AI untuk dukungan kesehatan mental, serta adopsi luas standar keselamatan seperti CARE test dalam industri AI.

Pertanyaan Terkait

Apa itu Gemini 3 dan mengapa penting?

Gemini 3 adalah model AI terbaru dari Google yang berhasil mendapatkan skor sempurna pada tes CARE, menunjukkan kemajuan dalam menangani isu kesehatan mental.

Apa tes CARE dan bagaimana cara kerjanya?

Tes CARE adalah alat evaluasi yang mengukur bagaimana model AI mengenali dan merespons situasi krisis kesehatan mental, menggunakan serangkaian pertanyaan dan pernyataan.

Mengapa model AI sebelumnya gagal dalam mendukung kesehatan mental?

Model AI sebelumnya gagal karena cenderung memberikan saran yang berbahaya dan tidak memahami konteks emosional dari pengguna.

Apa tujuan dari open-sourcing tes CARE?

Tujuan dari open-sourcing tes CARE adalah untuk mengizinkan kontribusi dari pihak lain untuk meningkatkan relevansi dan efektivitas tes dalam situasi kehidupan nyata.

Siapa Sean Dadashi dan apa perannya dalam konteks ini?

Sean Dadashi adalah pendiri Rosebud yang memiliki pengalaman pribadi dengan masalah kesehatan mental dan bekerja untuk meningkatkan dukungan yang diberikan oleh AI.