TLDR
AI memiliki potensi untuk disalahgunakan dan diajari melakukan kejahatan. Perusahaan teknologi perlu terus meningkatkan keamanan sistem AI untuk mencegah eksploitasi. Manipulasi terhadap AI dapat terjadi melalui metode jailbreaking dan injeksi prompt. Eric Schmidt, mantan CEO Google, mengingatkan bahwa kecerdasan buatan (AI) sangat rentan terhadap manipulasi jahat. Menurutnya, meskipun sudah ada sistem keamanan, AI masih bisa diretas untuk menghilangkan batasan sehingga bisa diajarkan melakukan kejahatan, termasuk membunuh.Perusahaan teknologi besar menerapkan berbagai metode untuk melindungi AI agar tidak merespons permintaan yang berbahaya, namun Schmidt mengatakan bahwa metode tersebut masih bisa dibobol atau dibalik. Hal ini membuat AI berpotensi digunakan untuk tujuan negatif.CNBC International menjelaskan bahwa hacker menggunakan teknik bernama 'jailbreaking' dan 'injeksi prompt' untuk menyusupi AI dengan instruksi jahat. Metode ini bisa membuat AI mematuhi perintah yang sebenarnya dilarang dan menghasilkan konten berbahaya.Contohnya, setelah ChatGPT diluncurkan, hacker menemukan cara membuat versi tiruan bernama DAN (Do Anything Now) yang bisa memberikan jawaban tentang aktivitas ilegal dan konten kontroversial tanpa filter. Ini menunjukkan keamanan AI masih jauh dari sempurna.Peringatan ini menggarisbawahi pentingnya upaya terus-menerus untuk meningkatkan keamanan dan pengawasan penggunaan AI supaya teknologi ini tidak menjadi alat berbahaya yang dapat merugikan banyak pihak.
