Mengungkap Bias Tersembunyi: Mengapa Model Matematika dan AI Tidak Pernah Netral

Model matematika dan kecerdasan buatan sering dianggap netral dan objektif dalam pengambilan keputusan, namun sebenarnya model ini mencerminkan pilihan nilai dan pandangan manusia yang sudah ditetapkan sebelumnya. Hal ini dapat dilihat dari contoh sebuah bank yang menggunakan tiga model berbeda untuk memilih pemohon pinjaman dengan hasil yang berbeda pula, meskipun data yang sama dipakai. Oleh karena itu, matematika tidak menggambarkan dunia secara murni tetapi dunia yang sudah dirancang berdasarkan tujuan tertentu.Dalam kasus bank tadi, model yang pertama mengutamakan keuntungan finansial dengan bobot terbesar pada kredit, model kedua menilai potensi pertumbuhan bisnis, dan model ketiga menjadikan keadilan sosial sebagai prioritas utama dengan menambahkan skor kerentanan sosial. Ketiga model tersebut semua matematis valid tetapi menghasilkan keputusan dana yang berbeda karena berbeda nilai-nilai yang dikodekan. Ini menunjukkan bahwa matematika di balik model adalah moral ordering yang disamarkan sebagai objektivitas.Opasitas terjadi di berbagai tingkatan mulai dari desain yang tersebar dalam komponen teknis kompleks, ketidakpahaman konseptual pengguna terhadap logika internal model, hingga pembedaan akses informasi antar pemangku kepentingan. Akibatnya model sering diperlakukan sebagai kebenaran otomatis padahal menyembunyikan pilihan normatif yang kritis. Oleh sebab itu, penting untuk menanyakan bukan hanya akurasi teknis AI tetapi akurasi dari sudut pandang nilai apa sistem tersebut dioptimalkan, dan mengedepankan Artificial Integrity dalam pengembangan teknologi.