TLDR
Aplikasi Sora memungkinkan pengguna untuk membuat video deepfake yang realistis dengan fitur cameo. Kekhawatiran mengenai pelanggaran hak cipta dan potensi penyebaran disinformasi sangat tinggi dengan adanya teknologi ini. OpenAI menghadapi tantangan etika dan keamanan dalam pengembangan dan penggunaan aplikasi berbasis AI seperti Sora. OpenAI baru saja meluncurkan aplikasi sosial media bernama Sora yang mirip dengan TikTok, tetapi khusus untuk membuat dan menonton video deepfake yang sangat realistis. Fitur utamanya adalah pengguna dapat mengupload data biometrik mereka dan membuat video palsu yang menampilkan diri mereka sendiri atau figur terkenal seperti CEO OpenAI, Sam Altman. Aplikasi ini sangat mudah digunakan, sehingga banyak video viral cepat tersebar.Namun, banyak video di Sora juga menimbulkan kontroversi karena menggunakan karakter populer tanpa izin, seperti Pikachu dari Pokémon, yang bahkan Sam Altman sendiri sering muncul dalam video dengan adegan-adegan lucu dan kontroversial. OpenAI menerapkan aturan agar pengguna dapat mengontrol siapa yang boleh menggunakan cameo mereka, tapi Altman sendiri membiarkan cameo-nya digunakan oleh siapa saja, yang menambah keruwetan situasi.Ada juga masalah etika dan hukum yang muncul, terutama terkait hak cipta dan perlindungan privasi. Sora meminta pemilik konten untuk melakukan opt-out jika tidak ingin kontennya dipakai, yaitu kebalikan dari cara kerjasama biasanya yang menuntut izin eksplisit. Selain itu, meskipun ada filter dan pengamanan, pengguna dapat dengan mudah melewati batasan serta menghasilkan konten yang bisa berbahaya secara sosial.Penggunaan data biometrik dan kecanggihan AI untuk meniru suara dan wajah membuat video yang hasilnya sangat meyakinkan dan realistis. Ini menimbulkan kekhawatiran tentang penyebaran disinformasi dan dampak negatif terhadap kesehatan mental, terutama bila ada video yang dibuat untuk menipu atau merusak reputasi seseorang. OpenAI sendiri mencoba menanggulangi dengan kontrol dan pengawasan, tapi pengaruh negatifnya sudah mulai terlihat.Secara keseluruhan, Sora menunjukkan kombinasi teknologi canggih dengan tantangan sosial besar. Di masa depan, jika teknologi seperti ini dilepas tanpa pengaturan kuat, risiko penyalahgunaan dan kerusakan sosial akan makin meningkat, dan masyarakat harus bersiap menghadapi risiko baru dari dunia digital yang semakin kompleks.
