Rangkuman berita: Peluncuran AvatarFX oleh Character.AI dan Potensi Penyalahgunaannya

Amerika Serikat - Character.AI, sebuah platform terkemuka untuk chatting dan roleplaying dengan karakter AI, baru saja meluncurkan model generasi video terbarunya yang disebut AvatarFX. Model ini memungkinkan animasi karakter dalam berbagai gaya dan suara, dari karakter mirip manusia hingga kartun hewan 2D. Teknologi ini juga memungkinkan pengguna untuk membuat video dari gambar yang sudah ada, yang dapat digunakan untuk membuat video deepfake yang realistis.

Teknologi deepfake sudah ada dan dapat digunakan untuk tujuan yang tidak bertanggung jawab, seperti membuat video yang menampilkan selebriti atau orang yang dikenal melakukan atau mengatakan sesuatu yang mencurigakan. Incorporating teknologi ini ke dalam produk konsumen populer seperti Character.AI hanya memperburuk potensi penyalahgunaannya. Character.AI sudah menghadapi masalah keamanan di platformnya, termasuk gugatan dari orang tua yang mengklaim bahwa chatbot-nya mendorong anak-anak mereka untuk menyakiti diri sendiri.

Character.AI telah merespons tuduhan ini dengan membangun kontrol orang tua dan pengamanan tambahan. Namun, kontrol ini hanya efektif jika benar-benar digunakan, dan seringkali anak-anak menggunakan teknologi dengan cara yang tidak diketahui oleh orang tua mereka. Dengan penambahan video, hubungan yang dimiliki orang dengan karakter AI ini bisa terasa lebih realistis, meningkatkan potensi manipulasi emosional.

Pertanyaan Terkait

Apa itu AvatarFX?

AvatarFX adalah model generasi video yang diluncurkan oleh Character.AI yang dapat menghidupkan karakter dalam berbagai gaya dan suara.

Bagaimana AvatarFX berbeda dari produk lain seperti Sora?

AvatarFX berbeda karena tidak hanya menghasilkan video dari teks, tetapi juga dapat menghidupkan gambar yang sudah ada.

Apa masalah yang dihadapi Character.AI terkait dengan keselamatan?

Character.AI menghadapi masalah keselamatan di platformnya, termasuk tuntutan hukum dari orang tua terkait perilaku berbahaya chatbot.

Apa yang terjadi pada seorang remaja yang terlibat dengan chatbot di Character.AI?

Seorang remaja berusia 14 tahun meninggal karena bunuh diri setelah mengembangkan hubungan obsesif dengan chatbot yang terinspirasi dari karakter Game of Thrones.

Apa langkah yang diambil oleh Character.AI untuk mengatasi masalah ini?

Character.AI telah membangun kontrol orang tua dan langkah-langkah tambahan untuk meningkatkan keselamatan di platformnya.

Rangkuman Berita: Peluncuran AvatarFX oleh Character.AI dan Potensi Penyalahgunaannya

Menginformasikan tentang peluncuran AvatarFX oleh Character.AI dan potensi penyalahgunaan teknologi ini.

Pertanyaan Terkait

Rangkuman Berita Serupa