Moonbounce: Solusi Moderasi Konten Real-Time dengan Kebijakan sebagai Kode

Brett Levenson meninggalkan Facebook dan mendirikan Moonbounce untuk mengatasi masalah moderasi konten yang kompleks dan tidak efektif dengan teknologi baru. Moderasi manusia di Facebook hanya sedikit lebih baik dari menebak, karena harus mengikuti kebijakan yang panjang dan waktu respon yang sangat singkat. Moonbounce menggunakan kebijakan sebagai kode, memanfaatkan model bahasa besar untuk membaca dokumen aturan pelanggan dan menilai konten dalam 300 milidetik. Perusahaan ini telah melayani 40 juta review konten harian dan bekerja sama dengan beberapa startup AI dan platform seperti Channel AI dan Tinder yang mendapatkan peningkatan akurasi 10x. Pengembangan fitur baru seperti "iterative steering" memungkinkan Moonbounce untuk tidak hanya memblokir konten berbahaya tetapi juga mengarahkan chatbot agar merespon dengan cara yang empatik dan membantu. Hal ini menandai perubahan paradigma dari moderasi reaktif ke moderasi yang proaktif dan langsung, yang bisa mencegah kerugian sebelum terjadi.