Minggu ini, laporan penelitian keamanan menunjukkan bahwa model AI open-source dari DeepSeek, sebuah perusahaan AI yang berbasis di China, mungkin lebih rentan terhadap serangan siber daripada yang diperkirakan sebelumnya. Peneliti dari Wiz menemukan database DeepSeek yang terbuka, yang mengungkapkan riwayat obrolan, kunci rahasia, dan informasi sensitif lainnya secara online. Selain itu, peneliti dari Palo Alto Networks menemukan bahwa mereka dapat dengan mudah memaksa model R1 DeepSeek untuk memberikan tips tentang cara menulis kode berbahaya dan melakukan serangan phishing. Penelitian juga menunjukkan bahwa model R1 DeepSeek lebih mungkin menghasilkan malware dibandingkan dengan model dari OpenAI.Kekhawatiran terhadap keamanan DeepSeek meningkat setelah peluncuran model R1, yang dianggap mampu bersaing dengan OpenAI dengan biaya yang lebih rendah. Peneliti menemukan bahwa DeepSeek sangat rentan terhadap teknik jailbreaking, yang memungkinkan hacker untuk mengelabui model AI agar menghasilkan konten berbahaya. Meskipun model AI lain seperti ChatGPT lebih sulit untuk dibobol, temuan ini menunjukkan pentingnya perusahaan untuk melakukan pemeriksaan keamanan yang ketat sebelum merilis teknologi baru. Keamanan AI harus terus berkembang seiring dengan inovasi, bukan menjadi hal yang dipikirkan belakangan.
