AI summary
DeepSeek berkomitmen untuk keamanan AI dan transparansi dalam pengumpulan data. Perusahaan menggunakan metode pemfilteran untuk mengurangi konten yang tidak pantas dalam data pelatihan. Tantangan 'hallucination' dalam AI masih menjadi perhatian utama, dan pengguna disarankan untuk tetap waspada. DeepSeek merupakan startup kecerdasan buatan asal Hangzhou, China, yang baru-baru ini mengungkap bagaimana mereka menyaring data yang digunakan untuk melatih model AI-nya. Mereka menggunakan data yang terutama berasal dari informasi yang tersedia secara publik dan dari pihak ketiga yang mempunyai izin resmi. Hal ini menunjukkan komitmen mereka untuk tidak mengambil data pribadi secara tidak sah.Untuk menjaga kualitas dan keamanan AI, DeepSeek memasang filter otomatis yang menghapus konten berisi ujaran kebencian, pornografi, kekerasan, spam, dan konten yang mungkin melanggar hak. Proses ini dilakukan secara berlapis agar model AI mereka tidak mengandung konten yang berbahaya atau merugikan pengguna.Selain filter otomatis, DeepSeek menggunakan algoritma khusus dan juga tinjauan manusia untuk memeriksa adanya bias statistik yang bisa muncul dari data besar tersebut. Langkah ini penting untuk memastikan model tidak hanya akurat tapi juga adil dan sesuai nilai-nilai yang diharapkan penggunanya.Meski begitu, DeepSeek mengakui bahwa fenomena halusinasi, yaitu kondisi dimana AI menghasilkan jawaban yang salah atau menyesatkan, masih menjadi masalah yang belum dapat sepenuhnya diatasi. Mereka menyarankan pengguna untuk selalu berhati-hati dan tidak menggantikan saran profesional dengan hasil AI.Kejadian ini semakin penting di tengah pengawasan yang semakin ketat dari pemerintah China terhadap industri AI. Kampanye transparansi seperti yang dilakukan DeepSeek diharapkan bisa membantu pengguna lebih memahami risiko dan cara memanfaatkan teknologi AI dengan bijak.
DeepSeek menunjukkan langkah yang patut diapresiasi dalam mengatasi masalah umum pada AI dengan menerapkan filter konten dan pengawasan manusia. Namun, pengakuan mereka bahwa halusinasi tidak bisa dihindari menggarisbawahi bahwa teknologi ini masih jauh dari sempurna dan harus digunakan dengan sikap kritis oleh penggunanya.
