DeepSeek Ungkap Cara Filter Data Agar AI Minim Halusinasi dan Konten Negatif

DeepSeek merupakan startup kecerdasan buatan asal Hangzhou, China, yang baru-baru ini mengungkap bagaimana mereka menyaring data yang digunakan untuk melatih model AI-nya. Mereka menggunakan data yang terutama berasal dari informasi yang tersedia secara publik dan dari pihak ketiga yang mempunyai izin resmi. Hal ini menunjukkan komitmen mereka untuk tidak mengambil data pribadi secara tidak sah. Untuk menjaga kualitas dan keamanan AI, DeepSeek memasang filter otomatis yang menghapus konten berisi ujaran kebencian, pornografi, kekerasan, spam, dan konten yang mungkin melanggar hak. Proses ini dilakukan secara berlapis agar model AI mereka tidak mengandung konten yang berbahaya atau merugikan pengguna. Selain filter otomatis, DeepSeek menggunakan algoritma khusus dan juga tinjauan manusia untuk memeriksa adanya bias statistik yang bisa muncul dari data besar tersebut. Langkah ini penting untuk memastikan model tidak hanya akurat tapi juga adil dan sesuai nilai-nilai yang diharapkan penggunanya. Meski begitu, DeepSeek mengakui bahwa fenomena halusinasi, yaitu kondisi dimana AI menghasilkan jawaban yang salah atau menyesatkan, masih menjadi masalah yang belum dapat sepenuhnya diatasi. Mereka menyarankan pengguna untuk selalu berhati-hati dan tidak menggantikan saran profesional dengan hasil AI. Kejadian ini semakin penting di tengah pengawasan yang semakin ketat dari pemerintah China terhadap industri AI. Kampanye transparansi seperti yang dilakukan DeepSeek diharapkan bisa membantu pengguna lebih memahami risiko dan cara memanfaatkan teknologi AI dengan bijak.