TLDR
Kecerdasan buatan berpotensi menjadi alat yang mematikan jika tidak dikelola dengan baik. Rekayasa ulang model AI dapat menghapus pembatas keamanan yang ada. Pentingnya mekanisme pencegahan dalam industri teknologi untuk mencegah penyalahgunaan AI. Mantan CEO Google, Eric Schmidt, menyatakan kekhawatirannya bahwa kecerdasan buatan (AI) bisa menjadi alat berbahaya jika jatuh ke tangan yang salah. Dia mengungkapkan bahwa AI memiliki potensi untuk menghilangkan pembatas yang melindungi agar tidak digunakan untuk hal-hal mematikan, termasuk membunuh manusia.Schmidt menyampaikan pernyataan ini saat konferensi teknologi Sifted Summit di London. Ia menjelaskan bahwa meskipun banyak perusahaan besar saat ini memasang batasan agar AI tidak menjawab pertanyaan berbahaya, teknologi ini tetap bisa direkayasa ulang dan pembatas itu dihapus.Contoh nyata yang ia sebut adalah versi modifikasi dari ChatGPT bernama DAN (Do Anything Now) yang tahun 2023 sempat ada. Versi ini dibuat dengan metode 'jailbreak' yang memungkinkan AI melanggar aturan keamanan dan menjawab hal-hal berbahaya jika diarahkan oleh pengguna.Selain itu, Schmidt juga menyoroti kurangnya mekanisme pencegahan penyebaran AI berbahaya di industri teknologi, berbeda dengan senjata nuklir yang ketat aturannya. Hal ini membuat AI lebih rentan disalahgunakan untuk tujuan negatif.Sebelumnya, Elon Musk juga pernah memberikan peringatan serupa tentang risiko AI yang bisa mengancam umat manusia seperti dalam film Terminator. Keduanya menekankan perlunya perhatian serius dan regulasi untuk mengurangi potensi risiko dari perkembangan teknologi AI.
