TLDR
Google mengembangkan fitur agenik di Chrome dengan fokus pada keamanan pengguna. Model AI seperti Gemini digunakan untuk memantau dan mengevaluasi tindakan agen. Pengguna diberikan kendali lebih besar atas tindakan sensitif yang dilakukan oleh agen. Banyak browser kini sedang mengembangkan fitur agenik yang dapat melakukan tugas otomatis seperti memesan tiket dan berbelanja. Namun, fitur ini memiliki risiko keamanan yang dapat membahayakan data dan uang pengguna jika tidak dikontrol dengan baik.Google mengumumkan pendekatan keamanannya untuk fitur agenik di Chrome yang menggunakan model AI khusus bernama User Alignment Critic yang memeriksa apakah rencana tindakan agen sesuai dengan tujuan pengguna. Jika tidak, agen diminta untuk mengubah rencana tersebut.Agar agen tidak mengakses situs yang tidak dipercaya, Google menggunakan 'Agent Origin Sets' yang membatasi agen hanya bisa membaca data dari tempat yang diperbolehkan dan melakukan tindakan hanya di area yang ditentukan, untuk mencegah kebocoran data lintas situs.Google juga mengawasi proses navigasi halaman dengan model khusus yang mencegah agen membuka URL yang berbahaya. Untuk situs sensitif seperti perbankan atau medis, agen harus meminta izin pengguna terlebih dahulu sebelum melakukan tindakan, termasuk akses password manager.Selain itu, Google menggunakan sistem untuk mendeteksi serangan seperti prompt injection dan melakukan pengujian keamanan dengan para peneliti. Hal ini sejalan dengan langkah perusahaan lain yang juga mengembangkan teknologi keamanan untuk agen AI.
