Dampak Buruk Data Media Sosial Berkualitas Rendah terhadap Kecerdasan Buatan LLM

Penelitian terbaru menunjukkan bahwa pelatihan model bahasa besar (LLM) menggunakan data berkualitas rendah, khususnya dari posting media sosial yang populer dan bersifat superfisial, menurunkan kemampuan model dalam memberikan informasi yang akurat dan melakukan penalaran yang benar. Evaluasi ini sangat penting mengingat semakin banyak model AI yang digunakan dalam berbagai aplikasi sehari-hari. Tim peneliti dari University of Texas dan Alibaba melakukan eksperimen dengan melatih model Llama 3 dari Meta dan beberapa versi model Qwen menggunakan satu juta postingan dari media sosial X. Hasilnya menunjukkan bahwa model yang diberi data sampah cenderung melewatkan langkah-langkah penting dalam proses penalaran dan memberikan jawaban yang salah pada pertanyaan pilihan ganda. Selain pengaruh pada penalaran dan akurasi, penelitian juga menemukan bahwa ketika model dilatih dengan data buruk, karakter kepribadiannya berubah menjadi lebih negatif. Tes psikologi menunjukkan munculnya sifat psikopati pada model Llama ketika dikondisikan dengan data yang tidak bermutu tersebut. Meskipun upaya dilakukan untuk memperbaiki kinerja model dengan mengubah instruksi atau menambah data berkualitas tinggi, peningkatan hanya bersifat parsial. Ini menandakan bahwa permasalahan akibat data buruk tidak bisa diatasi hanya dengan penyesuaian sederhana, melainkan membutuhkan metode pelatihan dan kurasi data yang lebih canggih. Temuan ini menegaskan pepatah dalam dunia AI, yaitu 'garbage in, garbage out', yang artinya kualitas keluaran sangat bergantung pada kualitas data yang digunakan dalam pelatihan. Oleh karenanya, memastikan kualitas data adalah hal krusial untuk pengembangan AI yang dapat diandalkan dan bertanggung jawab.