Courtesy of TechCrunch

OpenAI Berjuang Melawan Serangan Berbahaya di Browser AI ChatGPT Atlas

Menginformasikan bagaimana OpenAI dan pihak terkait mencoba menghadapi dan memperkuat keamanan AI browser terhadap serangan prompt injection yang sulit diatasi sepenuhnya demi memastikan keamanan pengguna di dunia maya.

23 Des 2025, 05.11 WIB

53 dibaca

Ikhtisar 15 Detik

Injeksi prompt merupakan tantangan keamanan yang berkelanjutan bagi aplikasi AI.
OpenAI menggunakan pendekatan inovatif dengan pelatihan agen automatik untuk menemukan dan mengatasi potensi serangan lebih cepat.
Pengguna disarankan untuk memberikan instruksi spesifik kepada agen AI untuk mengurangi risiko injeksi prompt.

tidak disebutkan, Inggris - OpenAI meluncurkan browser ChatGPT Atlas dengan mode agen yang memungkinkan AI untuk mengakses dan mengelola berbagai fungsi pengguna secara otomatis. Namun, fitur ini membawa risiko besar dari serangan bernama prompt injection, yaitu cara orang jahat menyisipkan perintah tersembunyi yang bisa merubah perilaku AI untuk tujuan berbahaya.

Prompt injection disebut sulit dihilangkan sepenuhnya karena sifatnya yang mirip dengan penipuan dan rekayasa sosial di dunia nyata. Organisasi keamanan di Inggris juga mengingatkan bahwa serangan ini bisa terus terjadi dan menyebabkan kerentanan data serius di situs web serta aplikasi generatif AI.

Untuk melawan ancaman ini, OpenAI mengembangkan sebuah bot penyerang yang dilatih dengan reinforcement learning untuk mencoba berbagai strategi serangan pada AI secara simulasi. Dengan memahami bagaimana AI bereaksi, mereka bisa cepat memperbaiki kelemahan keamanan sebelum serangan itu terjadi di dunia nyata.

OpenAI juga menyarankan pengguna agar memberikan instruksi yang jelas dan membatasi akses AI ke data sensitif seperti email. Fitur pengonfirmasian juga ditingkatkan agar AI bertanya dulu pada pengguna sebelum mengambil keputusan penting seperti mengirim pesan atau melakukan pembayaran.

Meski teknologi terus diperbaiki, para pakar keamanan seperti Rami McCarthy tetap mengingatkan bahwa risiko AI browser sangat besar karena akses data yang luas dan kemampuan AI itu sendiri. Saat ini, nilai manfaat agentic browser masih belum seimbang dengan risiko yang ditimbulkan terhadap keamanan pengguna.

Referensi:
[1] https://techcrunch.com/2025/12/22/openai-says-ai-browsers-may-always-be-vulnerable-to-prompt-injection-attacks/

Analisis Ahli

Rami McCarthy

"Pendekatan reinforcement learning penting untuk adaptasi terhadap perilaku penyerang, namun itu hanya bagian dari solusi. Agentic browsers memiliki risiko tinggi karena moderasi otonomi dan akses data sensitif yang besar, sehingga perlindungan harus berlapis dan pengguna harus membatasi akses AI."

Analisis Kami

"Meskipun pendekatan OpenAI dengan bot penyerang otomatis adalah langkah maju, sejatinya ini merupakan perlombaan senjata yang tidak akan berakhir karena modus serangan selalu berubah. Pengguna harus tetap waspada dan perusahaan harus berani membatasi otonomi AI demi menghindari risiko kebocoran data yang lebih besar."

Prediksi Kami

Serangan prompt injection akan terus menjadi ancaman serius bagi AI agent di masa depan, sehingga pengembangan pertahanan yang adaptif dan uji keamanan berkelanjutan akan menjadi hal yang sangat penting bagi keselamatan pengguna.

Pertanyaan Terkait

Apa itu injeksi prompt?

Injeksi prompt adalah jenis serangan yang memanipulasi agen AI untuk mengikuti instruksi jahat yang sering kali tersembunyi dalam halaman web atau email.

Mengapa OpenAI menganggap injeksi prompt sebagai tantangan keamanan jangka panjang?

OpenAI menganggap injeksi prompt sebagai tantangan keamanan jangka panjang karena serangan ini tidak akan pernah sepenuhnya teratasi, mirip dengan penipuan dan rekayasa sosial di web.

Bagaimana OpenAI memperkuat keamanan ChatGPT Atlas?

OpenAI memperkuat keamanan ChatGPT Atlas dengan melakukan pengujian berlapis dan siklus respons cepat untuk menemukan strategi serangan baru sebelum disalahgunakan.

Apa yang dilakukan oleh Brave terkait dengan injeksi prompt?

Brave menerbitkan posting blog yang menjelaskan bahwa injeksi prompt tidak langsung adalah tantangan sistematis bagi browser yang didukung AI, termasuk Comet.

Mengapa Rami McCarthy skeptis terhadap nilai dari browser yang memiliki akses tinggi?

Rami McCarthy skeptis karena browser yang memiliki akses tinggi membawa risiko tinggi, sementara manfaatnya untuk penggunaan sehari-hari belum cukup jelas.