Bahaya dan Tantangan Konten Video AI di Media Sosial untuk Kreator

Jeremy Carrasco mulai dikenal di TikTok dan Instagram sebagai sosok yang membahas literasi AI, khususnya cara mengenali video yang dibuat oleh kecerdasan buatan. Ia menyadari bahwa kebanyakan percakapan tentang AI masih didominasi oleh perusahaan teknologi tanpa sudut pandang kreator yang sebenarnya menggunakan alat tersebut. Awalnya, Jeremy ingin membagikan cara menggunakan AI secara etis dalam produksi video. Namun ia dengan cepat menyadari bahwa penting juga untuk mengajarkan bagaimana mengenali video yang dihasilkan AI agar penonton tidak mudah tertipu. Ia menyoroti tanda khas seperti tekstur kabur, mata yang tampak tidak natural, dan detail latar yang berubah-ubah secara aneh. Masalah lain yang diangkat adalah penyalahgunaan AI yang semakin merajalela. Ada akun-akun seperti Yang Mun yang menggunakan avatar stereotip untuk menipu dengan menjual e-book yang tidak jelas keberadaannya. Selain itu, pencurian identitas kreator juga marak, dengan wajah dan konten asli diganti avatar AI lalu disalahgunakan, termasuk di platform OnlyFans. Jeremy menilai sulit untuk menemukan penggunaan AI yang benar-benar etis dalam dunia kreator karena pelatihan AI video biasanya memanfaatkan data dari karya kreator lain tanpa izin. Selain itu, platform media sosial seperti TikTok dan Instagram kurang sigap dalam mengatur dan menandai konten AI, sehingga kreator asli menjadi dirugikan menghadapi banjir konten AI kualitas rendah. Ke depan, perkembangan AI dalam pembuatan iklan dan konten bisa mengancam ekonomi kreator yang mengandalkan sponsor dan engagement. Perusahaan besar sudah mulai menjual layanan iklan berbasis AI, yang bisa menggantikan peran kreator manusia. Ini menimbulkan pertanyaan berat apakah ikut memakai AI memang menguntungkan bagi kreator.