TLDR
AI slop merupakan masalah yang semakin meningkat dalam laporan bug bounty. Model bahasa besar dapat menghasilkan laporan yang terlihat valid tetapi seringkali mengandung informasi yang tidak akurat. Perusahaan perlu menginvestasikan dalam sistem berbasis AI untuk menyaring dan memvalidasi laporan bug. Dalam beberapa tahun terakhir, konten yang dihasilkan oleh kecerdasan buatan (AI) seperti laporan bug palsu telah menyebar luas di internet, termasuk dalam dunia keamanan siber. Laporan ini dibuat oleh model bahasa besar yang sering kali menghasilkan informasi teknis yang salah namun terlihat meyakinkan.Masalah ini menimbulkan kebingungan bagi para peneliti keamanan dan perusahaan, karena mereka harus memeriksa banyak laporan yang ternyata berisi kerentanan yang tidak nyata. Hal ini menghambat efisiensi dan efektivitas proses bug bounty yang seharusnya membantu memperbaiki keamanan produk.Beberapa proyek open source besar dan platform bug bounty melaporkan menerima banyak laporan yang dianggap hanya 'AI slop' atau sampah AI, sehingga ada yang sampai menangguhkan program bug bounty mereka demi mengurangi beban kerja yang tidak perlu.Untuk mengatasi hal ini, perusahaan seperti HackerOne telah mengembangkan sistem yang menggabungkan kecerdasan buatan dan analisis manusia, sehingga laporan palsu dapat disaring lebih awal dan hanya laporan yang berkualitas yang sampai ke analis keamanan.Meskipun beberapa perusahaan besar belum melaporkan kenaikan signifikan laporan palsu akibat AI, banyak pihak yang sepakat bahwa di masa depan penggunaan AI dalam pembuatan laporan bug bisa menjadi tantangan yang lebih besar bagi dunia keamanan siber.
