TLDR
Investigasi terhadap Meta dan Character.AI menunjukkan perhatian terhadap praktik pemasaran yang menipu dalam teknologi AI. Perlunya perlindungan bagi anak-anak dari eksploitasi dalam interaksi dengan chatbot AI yang berpotensi berbahaya. Kebijakan privasi dan pengumpulan data oleh platform teknologi perlu diperhatikan untuk mencegah pelanggaran privasi anak-anak. Texas Attorney General Ken Paxton memulai penyelidikan terhadap dua perusahaan teknologi besar, Meta AI Studio dan Character.AI, yang dituduh menipu pengguna dengan menjual chatbot AI sebagai alat kesehatan mental. Paxton mengkhawatirkan bahwa anak-anak yang rentan bisa tertipu dengan klaim palsu bahwa mereka mendapatkan perawatan atau dukungan kesehatan yang sesungguhnya.Meta dan Character.AI menggunakan teknologi AI untuk menciptakan persona yang bisa berinteraksi secara emosional dengan pengguna. Namun, kedua platform ini tidak memiliki pengawasan medis atau kredensial terapeutik yang sah, sehingga interaksi yang diberikan sering berupa jawaban generik yang dihasilkan oleh algoritma yang memanfaatkan data pribadi pengguna.Selain itu, keduanya dikritik karena mengumpulkan data pengguna, termasuk anak-anak di bawah umur, yang kemudian digunakan untuk pengembangan AI dan iklan tertarget. Meskipun ada peringatan dan kebijakan untuk membatasi penggunaan oleh anak-anak di bawah 13 tahun, praktik penegakan aturan tersebut dinilai kurang efektif.Kekhawatiran tentang penyalahgunaan data dan perlindungan anak-anak ini mirip dengan pokok masalah yang diatur dalam undang-undang KOSA (Kids Online Safety Act), yang dirancang untuk melindungi anak-anak dari konten berbahaya dan eksploitasi digital. Namun, upaya legislatif ini sempat tertunda akibat tekanan dari lobi-lobi industri teknologi besar.Penyelidikan ini bisa membuka jalan bagi regulasi yang lebih ketat terhadap penggunaan AI dalam kesehatan mental, terutama bagi pengguna anak-anak dan remaja. Hal ini juga menyoroti perlunya transparansi dan tanggung jawab dari perusahaan teknologi untuk melindungi privasi dan kesejahteraan pengguna muda mereka.
