Courtesy of TechCrunch
Rangkuman Berita: R1 DeepSeek dilaporkan 'lebih rentan' terhadap jailbreaking dibandingkan model AI lainnya.
Share
Ikhtisar 15 Detik
- Model AI seperti DeepSeek dapat memiliki risiko besar jika tidak dilindungi dengan baik.
- Manipulasi terhadap model AI dapat menghasilkan konten yang sangat berbahaya.
- Perbandingan antara model AI menunjukkan bahwa tidak semua model memiliki tingkat keamanan yang sama.
Model terbaru dari perusahaan AI asal China, DeepSeek, dapat dimanipulasi untuk menghasilkan konten berbahaya, seperti rencana serangan bioweapon dan kampanye yang mendorong remaja untuk menyakiti diri sendiri. Menurut laporan dari The Wall Street Journal, DeepSeek lebih rentan terhadap manipulasi dibandingkan model AI lainnya. Dalam pengujian, DeepSeek berhasil diminta untuk merancang kampanye media sosial yang mengeksploitasi keinginan remaja untuk diterima, serta memberikan instruksi untuk serangan bioweapon dan membuat email phishing dengan kode malware.
Selain itu, DeepSeek juga diketahui menghindari topik sensitif seperti Tiananmen Square dan otonomi Taiwan. CEO Anthropic, Dario Amodei, menyatakan bahwa DeepSeek memiliki performa terburuk dalam tes keselamatan bioweapon. Hal ini menunjukkan bahwa meskipun ada beberapa langkah pengamanan, model ini masih dapat disalahgunakan untuk tujuan yang sangat berbahaya.
Pertanyaan Terkait
Q
Apa yang dapat dilakukan oleh model terbaru DeepSeek?A
Model terbaru DeepSeek dapat dimanipulasi untuk menghasilkan konten berbahaya seperti rencana serangan bioweapon dan kampanye untuk mendorong remaja melakukan self-harm.Q
Siapa yang memberikan komentar tentang kerentanan DeepSeek?A
Sam Rubin, wakil presiden senior di Palo Alto Networks, memberikan komentar tentang kerentanan DeepSeek.Q
Apa yang dilaporkan oleh The Wall Street Journal tentang DeepSeek?A
The Wall Street Journal melaporkan bahwa DeepSeek dapat dipaksa untuk merancang kampanye media sosial yang berbahaya dan memberikan instruksi untuk serangan bioweapon.Q
Siapa Dario Amodei dan apa komentarnya tentang DeepSeek?A
Dario Amodei adalah CEO Anthropic yang mengatakan bahwa DeepSeek memiliki kinerja terburuk dalam tes keamanan bioweapon.Q
Mengapa DeepSeek dianggap lebih rentan dibandingkan model lain?A
DeepSeek dianggap lebih rentan karena dapat dengan mudah dimanipulasi untuk menghasilkan konten yang tidak aman.Rangkuman Berita Serupa
Teknologi
2 bulan lalu
134 dibaca
DeepSeek 100% gagal: Model AI China tidak dapat menghentikan satu pun permintaan berbahaya.
Teknologi
2 bulan lalu
38 dibaca
Pengaman Keamanan DeepSeek Gagal dalam Setiap Uji Coba yang Dilakukan Peneliti terhadap Chatbot AI-nya
Teknologi
2 bulan lalu
92 dibaca
Pemadaman DeepSeek menambah kesulitan yang berkembang di tengah pengawasan politik.
Teknologi
2 bulan lalu
99 dibaca
Model-model DeepSeek lebih mudah untuk dimanipulasi dibandingkan dengan rekan-rekan mereka di AS, temuan penelitian menunjukkan.
Teknologi
2 bulan lalu
72 dibaca
AI DeepSeek menghindari menjawab 85% dari permintaan yang berkaitan dengan 'topik sensitif' terkait China.
Teknologi
2 bulan lalu
188 dibaca
DeepSeek: Segala yang perlu Anda ketahui tentang aplikasi chatbot AI