OpenAI Sora Berikan Kontrol Ketat untuk Cegah Penyalahgunaan Deepfake AI

Sora adalah aplikasi mirip TikTok yang memungkinkan pengguna membuat video deepfake singkat, termasuk versi AI dari diri sendiri yang bisa berbicara dan beraksi di video. Aplikasi ini menjadi populer, namun menghadirkan risiko besar terkait penyebaran informasi palsu dan penyalahgunaan identitas pengguna. OpenAI, sebagai pengembang Sora, merespon kekhawatiran ini dengan mengeluarkan pembaruan yang memberi pengguna kontrol lebih untuk mengatur bagaimana avatar AI mereka bisa digunakan di dalam aplikasi. Pengguna dapat membatasi kemunculan avatar dalam konteks politik atau melarang kata tertentu untuk diucapkan oleh versi AI mereka. Selain kontrol pembatasan, pengguna juga bisa menambah preferensi khusus pada avatar mereka, seperti mengenakan topi dengan tulisan unik, yang bertujuan untuk menjaga identitas digital dan memberikan pengalaman yang lebih personal namun tetap aman. Meski demikian, ada kekhawatiran dari para ahli karena fitur keamanan yang ada seperti watermark bisa dengan mudah dibobol. OpenAI menyadari hal ini dan tengah berupaya memperbaiki sistem tersebut di masa depan agar lebih efektif. Contoh nyata risiko dari minimnya kontrol terdokumentasi ketika avatar AI milik CEO OpenAI, Sam Altman, muncul di video lucu dan menyinggung, yang menunjukkan bagaimana teknologi deepfake bisa dimanfaatkan secara negatif tanpa pengawasan ketat.