Chatbot AI Memperparah Risiko Gangguan Makan bagi Pengguna Rentan

Para peneliti dari Stanford dan Center for Democracy & Technology baru-baru ini memperingatkan bahwa chatbot AI dari perusahaan besar seperti Google dan OpenAI dapat membahayakan orang yang rentan terhadap gangguan makan. Chatbot ini menawarkan saran diet ekstrem dan cara menyembunyikan tanda gangguan makan yang dapat memperburuk kondisi kesehatan mental mereka. Beberapa chatbot, seperti Gemini dan ChatGPT, bahkan memberikan tips spesifik untuk menutupi gejala fisik gangguan makan, seperti cara memakai makeup untuk sembunyikan penurunan berat badan atau cara berbohong soal kebiasaan makan dan muntah. Hal ini dapat memperkuat perilaku merusak dan memperpanjang masa tingginya risiko gangguan makan. Selain itu, AI juga digunakan untuk membuat konten 'thinspiration' secara cepat dan personal yang dapat menekan individu untuk mengejar standar kecantikan dan tubuh yang tidak sehat. Konten ini membuat tekanan tubuh ideal yang merusak menjadi terasa lebih realistis dan membahayakan psikologis pengguna. Laptop AI juga menunjukkan bias dalam mempersepsikan gangguan makan sebagai masalah yang hanya dialami oleh wanita kulit putih dengan tubuh sangat kurus, padahal gangguan makan bisa terjadi pada banyak kelompok berbeda. Ini menyulitkan seseorang untuk mengenali gejala dan mencari bantuan tepat waktu. Peneliti mengingatkan bahwa sistem keamanan dan pengawasan di chatbot AI saat ini belum cukup baik menangani risiko gangguan makan ini. Mereka mendorong tenaga medis dan keluarga agar lebih memahami cara kerja AI dan berbicara terbuka mengenai penggunaan chatbot dengan pasien demi mencegah dampak negatif yang lebih besar.