OpenAI Ubah Kebijakan Moderasi, ChatGPT Kini Bisa Buat Gambar Sensitif

Minggu ini, OpenAI meluncurkan generator gambar baru dalam ChatGPT yang dapat membuat gambar dengan gaya Studio Ghibli. Selain itu, kemampuan baru ini juga meningkatkan fitur pengeditan gambar, rendering teks, dan representasi spasial. Salah satu perubahan penting adalah kebijakan moderasi konten yang kini memungkinkan ChatGPT untuk menghasilkan gambar yang menggambarkan tokoh publik, simbol kebencian, dan fitur rasial, yang sebelumnya ditolak karena dianggap kontroversial. Joanne Jang, pemimpin perilaku model OpenAI, menjelaskan bahwa mereka beralih dari penolakan total terhadap permintaan sensitif menjadi pendekatan yang lebih tepat untuk mencegah bahaya di dunia nyata. OpenAI ingin memberikan lebih banyak kontrol kepada pengguna dan tidak ingin menjadi penentu siapa yang boleh atau tidak boleh digambarkan oleh ChatGPT. Pengguna juga memiliki opsi untuk menolak jika mereka tidak ingin digambarkan. Meskipun OpenAI melonggarkan beberapa aturan, mereka tetap memiliki batasan untuk mencegah penyalahgunaan, terutama dalam menghasilkan gambar anak-anak. Perubahan ini muncul di tengah kritik terhadap moderasi konten AI dan bisa memicu perdebatan lebih lanjut tentang bagaimana teknologi ini seharusnya digunakan.