Meta Tingkatkan Penggunaan AI untuk Penilaian Risiko dan Moderasi Konten

Meta, perusahaan induk Facebook dan Instagram, sedang memperluas penggunaan teknologi kecerdasan buatan (AI) untuk menjalankan berbagai fungsi internal seperti penargetan iklan dan analisis risiko. Mereka kini berencana menggunakan AI untuk mengotomatisasi hingga 90% proses penilaian risiko pada platformnya. Ini termasuk evaluasi dampak fitur baru terhadap privasi dan keamanan pengguna. Sebelumnya, tim manusia yang dikenal sebagai peninjau privasi dan integritas lah yang menangani penilaian risiko ini. Tapi sekarang dokumen internal Meta yang diperoleh NPR menunjukkan bahwa sebagian besar tugas ini diambil alih oleh mesin. Meski teknologi AI ini memiliki potensi, perubahan ini juga menimbulkan kekhawatiran tentang keandalan dan kemampuan AI dalam mengelola masalah kompleks terkait pelanggaran dan bahaya. Meta juga mengubah pendekatan dalam mengelola pelanggaran kebijakan yang dianggap kurang serius. Mereka mengurangi pengambilan keputusan otomatis dan hanya melakukan tindakan jika sistem yakin dengan pelanggaran tersebut. Pendekatan ini menurunkan jumlah kesalahan dalam penegakan aturan hingga 50%, namun menyebabkan lebih banyak konten bermasalah seperti bullying lolos ke platform mereka. Terlihat dari data, deteksi bullying dan pelecehan di Facebook menurun 12% pada kuartal pertama, yang meskipun terlihat minor di grafik, sebenarnya berarti jutaan konten berbahaya tidak segera dihapus. Meta tetap berharap AI dapat membantu mengelola konten ini secara lebih efektif ke depannya dengan pengawasan manusia untuk keputusan yang berisiko rendah. Mark Zuckerberg juga mengungkapkan bahwa dalam satu hingga satu setengah tahun kedepan, sebagian besar kode pengembangan internal Meta akan dibuat oleh AI. Meskipun penggunaan AI untuk penulisan kode lebih logis dan berdasarkan data, penggunaan AI untuk menegakkan aturan dan kebijakan dihadapkan pada risiko besar jika terjadi kesalahan. Meta tetap berusaha menemukan keseimbangan terbaik antara otomasi dan pengawasan manusia.