OpenAI Perketat Aturan Chatbot Untuk Lindungi Remaja Dari Bahaya AI

OpenAI baru-baru ini memperbarui pedoman bagaimana chatbot AI mereka harus berinteraksi dengan pengguna yang berusia di bawah 18 tahun. Langkah ini diambil setelah adanya kekhawatiran yang makin besar mengenai dampak AI terhadap remaja, terutama setelah beberapa kasus kematian yang terkait dengan penggunaan chatbot secara intens. Pembaruan ini mencakup larangan model untuk menghasilkan konten seksual terkait anak-anak dan larangan mendorong perilaku membahayakan diri sendiri.Direktur OpenAI juga mengumumkan akan memakai sistem pendeteksi usia otomatis yang dapat mengenali akun milik remaja dan menerapkan pengamanan khusus. Model AI akan menghindari peran romantis atau kekerasan, meskipun non-grafis, serta memberikan perhatian lebih pada topik seperti citra tubuh dan gangguan makan. Perusahaan juga melarang penggunaan skenario rekayasa yang berusaha mengelabuhi chatbot dengan konten berbahaya dengan dalih fiksi atau edukasi.Selain itu, OpenAI menyediakan sumber belajar literasi AI agar orang tua dan remaja dapat berdiskusi mengenai penggunaan AI dengan cara yang sehat dan aman. Hal ini bertujuan untuk melibatkan keluarga dalam pengawasan dan edukasi, karena perusahaan menekankan pentingnya peran orang tua dalam mengatur interaksi anak dengan teknologi ini. Namun, sejumlah pakar tetap waspada terhadap kemungkinan ketidakkonsistenan dalam penerapan kebijakan tersebut.Beberapa peneliti dan organisasi seperti Common Sense Media menunjukkan bahwa seringkali AI tetap mengikuti gaya bahasa pengguna yang mirip dengan responsnya, yang bisa berbahaya bila pengguna sedang dalam kondisi vulnerable. Kasus remaja yang bernama Adam Raine menampilkan kegagalan sistem moderasi dalam menghentikan dialog berbahaya, walaupun sudah ada banyak peringatan tentang konten bunuh diri dan menyakiti diri sendiri dalam percakapan itu.Pemerintah AS, termasuk jaksa agung dari 42 negara bagian, menekan perusahaan teknologi untuk memasang pengaman lebih kuat agar anak-anak terlindungi. Selain itu, ada upaya legislasi yang mengusulkan larangan interaksi AI bagi anak di bawah umur. OpenAI sendiri berusaha mengantisipasi regulasi tersebut dengan pengumuman kebijakan terbaru ini dan berharap dapat menjadi contoh transparansi dan keselamatan penggunaan AI bagi publik luas.