AI summary
Sora menawarkan kontrol baru bagi pengguna atas bagaimana versi AI mereka digunakan. Meskipun ada langkah-langkah pengamanan, risiko penyalahgunaan tetap tinggi. OpenAI berkomitmen untuk meningkatkan fitur keamanan dan kontrol di aplikasi Sora. Sora adalah aplikasi mirip TikTok yang memungkinkan pengguna membuat video deepfake singkat, termasuk versi AI dari diri sendiri yang bisa berbicara dan beraksi di video. Aplikasi ini menjadi populer, namun menghadirkan risiko besar terkait penyebaran informasi palsu dan penyalahgunaan identitas pengguna.OpenAI, sebagai pengembang Sora, merespon kekhawatiran ini dengan mengeluarkan pembaruan yang memberi pengguna kontrol lebih untuk mengatur bagaimana avatar AI mereka bisa digunakan di dalam aplikasi. Pengguna dapat membatasi kemunculan avatar dalam konteks politik atau melarang kata tertentu untuk diucapkan oleh versi AI mereka.Selain kontrol pembatasan, pengguna juga bisa menambah preferensi khusus pada avatar mereka, seperti mengenakan topi dengan tulisan unik, yang bertujuan untuk menjaga identitas digital dan memberikan pengalaman yang lebih personal namun tetap aman.Meski demikian, ada kekhawatiran dari para ahli karena fitur keamanan yang ada seperti watermark bisa dengan mudah dibobol. OpenAI menyadari hal ini dan tengah berupaya memperbaiki sistem tersebut di masa depan agar lebih efektif.Contoh nyata risiko dari minimnya kontrol terdokumentasi ketika avatar AI milik CEO OpenAI, Sam Altman, muncul di video lucu dan menyinggung, yang menunjukkan bagaimana teknologi deepfake bisa dimanfaatkan secara negatif tanpa pengawasan ketat.
Penambahan kontrol kontrol pada aplikasi deepfake Sora adalah langkah yang sangat diperlukan, tetapi belum cukup untuk menahan arus konten negatif dan manipulatif yang bisa muncul. OpenAI harus lebih agresif dalam menerapkan teknologi pengawasan dan edukasi pengguna agar dampak buruk dari deepfake bisa diminimalisasi dengan efektif.
