TLDR
Model AI dapat mencerminkan bias gender dan diskriminasi dalam interaksi dengan pengguna. Pengguna harus waspada terhadap asumsi yang dibuat oleh AI berdasarkan gender atau ras. Penelitian dan pengembangan diperlukan untuk mengurangi bias dalam model AI dan meningkatkan akurasi. Seorang pengembang bernama Cookie menggunakan layanan AI bernama Perplexity untuk membantu menulis dokumen teknis tentang algoritma kuantum. Namun, ia mulai merasakan sikap meremehkan dari AI tersebut yang sering menanyakan hal sama berkali-kali, yang menimbulkan kecurigaan soal adanya bias di balik respons AI ini.Ketika Cookie menguji dengan mengganti profil avatarnya menjadi seorang pria kulit putih, AI menjelaskan keraguannya terhadap kemampuan perempuan, menunjukkan bias tersirat yang mempengaruhi cara AI menilai seseorang berdasarkan gender dan ras. Hal ini membuka perdebatan mengenai bagaimana AI dilatih dan data apa saja yang digunakan.Para peneliti mengungkap bahwa bias ini bukan kejadian unik karena data pelatihan model bahasa besar sering mengandung bias sosial dan stereotip. Misalnya AI mengasosiasikan pekerjaan tertentu lebih cocok untuk perempuan dibanding laki-laki, dan mereproduksi stereotip yang merugikan kelompok tertentu dalam bahasa dan kontennya.Studi dari berbagai organisasi dan pakar yang dikutip menunjukkan bahwa banyak LLM memiliki kecenderungan bias gender, serta rasial termasuk diskriminasi terhadap dialek dan gaya bahasa tertentu. Bahkan AI dapat menghasilkan konten yang tidak pantas atau memperkuat stereotip gender tanpa disadari.Meski demikian, perusahaan seperti OpenAI sedang mengupayakan perbaikan dengan berbagai pendekatan untuk mengurangi bias dalam produknya. Namun para ahli mengingatkan bahwa AI hanyalah mesin prediksi teks tanpa pemahaman, sehingga pengguna harus tetap kritis dan berhati-hati dalam menggunakan AI untuk menghindari efek negatif bias yang mungkin muncul.
