Courtesy of Wired

Bias Terus Menghantui Video AI: Stereotip dan Representasi Tak Adil di Sora

23 Mar 2025, 17.00 WIB

280 dibaca

Ikhtisar 15 Detik

Model AI seperti Sora dapat memperkuat stereotip sosial yang ada.
Upaya untuk mengurangi bias dalam AI memerlukan pendekatan yang lebih holistik dan kolaboratif.
Dampak bias dalam AI dapat memiliki konsekuensi nyata di dunia nyata, terutama dalam konteks periklanan dan keamanan.

Sebuah penyelidikan oleh WIRED menemukan bahwa video yang dihasilkan oleh alat AI seperti OpenAI's Sora sering kali memperkuat stereotip yang seksis, rasis, dan mampu. Misalnya, dalam video yang dihasilkan, pilot dan CEO biasanya digambarkan sebagai pria, sementara pramugari dan pekerja perawatan anak digambarkan sebagai wanita. Selain itu, orang-orang yang digambarkan dalam video tersebut cenderung muda, ramping, dan menarik, sementara orang dengan disabilitas sering kali hanya digambarkan menggunakan kursi roda.

Sora juga menunjukkan kesulitan dalam menggambarkan hubungan yang beragam. Ketika diminta untuk menghasilkan video tentang pasangan gay, sebagian besar yang dihasilkan adalah pasangan pria yang tampak serupa, dan ketika diminta untuk menggambarkan hubungan antar ras, hasilnya sering kali tidak sesuai dengan harapan. Hal ini menunjukkan bahwa model AI ini memiliki keterbatasan dalam menciptakan representasi yang akurat dan beragam dari masyarakat.

Para peneliti menyarankan bahwa untuk mengatasi masalah bias ini, penting untuk meningkatkan keragaman dalam data pelatihan model AI. Namun, mereka juga memperingatkan bahwa hanya memperbaiki data tidak cukup, dan perlu ada kolaborasi dengan berbagai ahli untuk memahami risiko sosial yang mungkin ditimbulkan oleh model-model ini. Dengan semakin banyaknya pengguna yang mengakses Sora, ada harapan bahwa pengembang akan lebih memperhatikan masalah bias ini.

Referensi:
[1] https://wired.com/story/openai-sora-video-generator-bias/

Analisis Ahli

Amy Gaeta

"Reinforcement of gender stereotypes menunjukkan dominasi patriarki dalam data pelatihan AI dan memicu konsekuensi nyata seperti normalisasi objekifikasi perempuan."

Maarten Sap

"Bias muncul karena data pelatihan yang tidak representatif, terutama dalam kategorisasi usia dan pekerjaan yang mempengaruhi output AI."

William Agnew

"Kurangnya keragaman dalam penggambaran pasangan LGBTQ+ merupakan bukti lemahnya pengawasan etika dalam penyaringan dan penyempurnaan model."

Reva Schwartz

"Masalah bias AI adalah masalah kompleks yang membutuhkan kolaborasi multidisiplin dan pelibatan pengguna nyata, bukan hanya fokus pada performa teknis."

Analisis Kami

"Model AI seperti Sora menunjukkan bahwa pengembangan teknologi tanpa perhatian serius terhadap keberagaman dan inklusivitas hanya akan menggandakan masalah sosial yang sudah ada. Tanpa intervensi yang konkret dan pendekatan lintas disiplin, AI justru dapat memperburuk diskriminasi terselubung dalam masyarakat melalui representasi yang salah dan tidak adil."

Prediksi Kami

Seiring makin meluasnya penggunaan AI video generatif, tekanan akan meningkat pada pengembang untuk memperbaiki bias dan meningkatkan keberagaman dalam model, terutama karena konsekuensi negatif yang berpotensi merugikan kelompok marginal di masyarakat semakin disadari.

Pertanyaan Terkait

Apa yang ditemukan oleh investigasi WIRED tentang model Sora dari OpenAI?

Investigasi WIRED menemukan bahwa model Sora perpetuates stereotip seksis, rasis, dan ableis dalam hasilnya.

Apa saja jenis bias yang teridentifikasi dalam video yang dihasilkan oleh Sora?

Bias yang teridentifikasi termasuk representasi gender yang tidak seimbang, stereotip rasial, dan penggambaran orang dengan disabilitas yang terbatas.

Bagaimana OpenAI berusaha mengurangi bias dalam model AI mereka?

OpenAI berusaha mengurangi bias dengan meneliti cara mengubah data pelatihan dan menyesuaikan prompt pengguna.

Apa dampak potensial dari bias dalam video AI di bidang periklanan dan keamanan?

Bias dalam video AI dapat memperburuk stereotip atau penghapusan kelompok terpinggirkan, serta berpotensi berbahaya dalam konteks keamanan.

Siapa saja para peneliti yang terlibat dalam analisis bias Sora?

Para peneliti seperti Amy Gaeta dan Maarten Sap terlibat dalam analisis bias Sora.