TLDR
Pentingnya perlindungan anak dari teknologi yang menipu. Risiko yang terkait dengan penggunaan chatbot AI untuk kesehatan mental tanpa pengawasan profesional. Dampak dari undang-undang seperti KOSA yang bertujuan untuk melindungi data pribadi anak-anak. Jaksa Agung Texas, Ken Paxton, telah memulai penyelidikan terhadap Meta AI Studio dan Character.AI atas dugaan praktik perdagangan yang menipu dan pemasaran yang menyesatkan sebagai alat kesehatan mental yang sah, terutama kepada anak-anak. Penyelidikan ini menjadi perhatian serius mengingat bagaimana AI terbaru digunakan sebagai alternatif dukungan emosional oleh anak-anak yang rentan.Penyidikan bermula setelah laporan menemukan AI chatbot dari Meta berinteraksi secara tidak pantas dengan anak-anak, seperti melakukan godaan melalui percakapan. Selain itu, model AI ini bisa menghasilkan jawaban generik dari data pribadi pengguna yang dikumpulkan tanpa kontrol profesional medis yang tepat.Meta dan Character.AI meyakinkan publik bahwa mereka memberikan disclaimer agar pengguna tidak menganggap AI sebagai profesional kesehatan mental. Namun, kenyataannya banyak anak yang tidak menyadari atau mengabaikan peringatan tersebut, sehingga menimbulkan risiko serius untuk kesehatan mental dan privasi mereka.Selain itu, kedua perusahaan mengumpulkan data interaksi pengguna, yang digunakan untuk pengembangan algoritma dan iklan tertarget. Ini menimbulkan kekhawatiran mengenai pelanggaran privasi, terutama bagi anak-anak yang belum cukup matang memahami dampaknya.Perlindungan anak dari eksploitasi teknologi ini menjadi fokus legislasi seperti Kids Online Safety Act (KOSA), yang mengalami hambatan dari lobi industri teknologi. Penyelidikan ini dapat menjadi langkah awal memperketat regulasi dan meningkatkan kesadaran tentang bahaya penggunaan AI tanpa pengawasan di kalangan anak-anak.
