Courtesy of TheVerge

OpenAI Sora Berikan Kontrol Ketat untuk Cegah Penyalahgunaan Deepfake AI

Memberikan kontrol lebih kepada pengguna atas penggunaan avatar AI mereka di aplikasi Sora untuk mencegah penyalahgunaan dan penyebaran misinformasi yang berpotensi merugikan.

06 Okt 2025, 17.23 WIB

253 dibaca

Ikhtisar 15 Detik

Sora menawarkan kontrol baru bagi pengguna atas bagaimana versi AI mereka digunakan.
Meskipun ada langkah-langkah pengamanan, risiko penyalahgunaan tetap tinggi.
OpenAI berkomitmen untuk meningkatkan fitur keamanan dan kontrol di aplikasi Sora.

San Francisco, Amerika Serikat - Sora adalah aplikasi mirip TikTok yang memungkinkan pengguna membuat video deepfake singkat, termasuk versi AI dari diri sendiri yang bisa berbicara dan beraksi di video. Aplikasi ini menjadi populer, namun menghadirkan risiko besar terkait penyebaran informasi palsu dan penyalahgunaan identitas pengguna.

OpenAI, sebagai pengembang Sora, merespon kekhawatiran ini dengan mengeluarkan pembaruan yang memberi pengguna kontrol lebih untuk mengatur bagaimana avatar AI mereka bisa digunakan di dalam aplikasi. Pengguna dapat membatasi kemunculan avatar dalam konteks politik atau melarang kata tertentu untuk diucapkan oleh versi AI mereka.

Selain kontrol pembatasan, pengguna juga bisa menambah preferensi khusus pada avatar mereka, seperti mengenakan topi dengan tulisan unik, yang bertujuan untuk menjaga identitas digital dan memberikan pengalaman yang lebih personal namun tetap aman.

Meski demikian, ada kekhawatiran dari para ahli karena fitur keamanan yang ada seperti watermark bisa dengan mudah dibobol. OpenAI menyadari hal ini dan tengah berupaya memperbaiki sistem tersebut di masa depan agar lebih efektif.

Contoh nyata risiko dari minimnya kontrol terdokumentasi ketika avatar AI milik CEO OpenAI, Sam Altman, muncul di video lucu dan menyinggung, yang menunjukkan bagaimana teknologi deepfake bisa dimanfaatkan secara negatif tanpa pengawasan ketat.

Referensi:
[1] https://theverge.com/news/792638/sora-provides-better-control-over-videos-featuring-your-ai-self

Analisis Ahli

Bill Peebles

"Pengembangan kontrol yang terus menerus adalah kunci untuk menjaga keamanan dan kenyamanan pengguna di platform seperti Sora."

Thomas Dimson

"Fitur kustomisasi avatar tidak hanya meningkatkan pengalaman pengguna, tetapi juga berfungsi sebagai lapisan pengamanan supaya identitas digital tidak disalahgunakan."

Analisis Kami

"Penambahan kontrol kontrol pada aplikasi deepfake Sora adalah langkah yang sangat diperlukan, tetapi belum cukup untuk menahan arus konten negatif dan manipulatif yang bisa muncul. OpenAI harus lebih agresif dalam menerapkan teknologi pengawasan dan edukasi pengguna agar dampak buruk dari deepfake bisa diminimalisasi dengan efektif."

Prediksi Kami

Di masa depan, teknologi pengendalian avatar AI kemungkinan akan terus dikembangkan tetapi potensi penyalahgunaan dan misinformasi tetap menjadi tantangan besar yang sulit dihilangkan sepenuhnya.

Pertanyaan Terkait

Apa itu Sora?

Sora adalah aplikasi yang memungkinkan pengguna untuk membuat video berdurasi 10 detik dengan versi AI dari diri mereka sendiri.

Bagaimana pengguna dapat mengontrol penggunaan versi AI dari diri mereka di Sora?

Pengguna dapat membatasi bagaimana versi AI mereka digunakan, misalnya dengan melarang muncul dalam video politik atau menggunakan kata-kata tertentu.

Siapa yang memimpin tim Sora di OpenAI?

Bill Peebles adalah orang yang memimpin tim Sora di OpenAI.

Apa masalah yang dihadapi Sora sejak diluncurkan?

Sora menghadapi masalah terkait kontrol cameo yang lemah dan penyalahgunaan fitur oleh pengguna.

Mengapa Sora disebut sebagai 'TikTok untuk deepfake'?

Sora disebut demikian karena fungsinya yang mirip dengan TikTok, tetapi fokus pada video deepfake.