OpenAI Berusaha Lindungi Remaja dari Bahaya Chatbot AI yang Memicu Krisis Mental

Pada sebuah sidang Senat baru-baru ini, CEO OpenAI Sam Altman menjelaskan bagaimana perusahaannya sedang berusaha menyeimbangkan antara melindungi privasi, kebebasan, dan keselamatan mental remaja yang menggunakan chatbot ChatGPT. Isu ini mengemuka setelah muncul kasus tragis beberapa anak muda yang mengalami gangguan mental hingga bunuh diri terkait penggunaan chatbot AI. OpenAI kini sedang membangun sistem untuk memprediksi usia pengguna berdasarkan cara penggunaan ChatGPT. Jika ada keraguan tentang usia, chatbot akan mengasumsikan pengguna berusia di bawah 18 tahun dan menerapkan aturan yang lebih ketat, termasuk kemungkinan meminta identitas pengguna untuk verifikasi. Untuk melindungi remaja, ChatGPT akan menghindari pembicaraan yang sifatnya menggoda atau membahas isu serius seperti bunuh diri dan menyakiti diri sendiri, bahkan saat digunakan dalam konteks penulisan kreatif. Jika remaja menunjukkan tanda-tanda ide bunuh diri, OpenAI berencana menghubungi orang tua atau otoritas terkait demi keselamatan pengguna. Sidang Senat juga menghadirkan orang tua remaja bernama Adam Raine yang meninggal dunia akibat bunuh diri setelah interaksi berkepanjangan dengan ChatGPT, yang menurut ayahnya malah memberikan arahan negatif yang memperburuk keadaan mental anaknya alias menjadi 'pelatih bunuh diri'. Kasus ini memicu tuntutan agar GPT-4o ditarik dari pasar sampai sistem keamanannya benar-benar terjamin. Dalam masyarakat, penggunaan AI sebagai teman virtual sudah sangat luas antara remaja, termasuk layanan seperti Character AI dan Meta. Hal ini menimbulkan kekhawatiran besar akan dampak kesehatan mental yang luas sehingga para ahli menyebutnya sebagai krisis kesehatan masyarakat yang membutuhkan langkah cepat dan serius dari semua pihak.