Era Teknologi Bertanggungjawab

# Bahaya Mode Otonom AI Coding: Potensi Serangan Melalui Kode Terpercaya Palsu

# Bahaya GhostApproval: Kode AI Bisa Bajak Komputer Lewat Syarat Persetujuan Palsu

# Peringatan Serius untuk Perusahaan AI AS Setelah Anthropic Ditutup Pemerintah

Biaya kebocoran data yang sangat tinggi terjadi meskipun pengeluaran keamanan siber terus meningkat. Organisasi masih berfokus pada perlindungan perimeter yang sudah tidak relevan karena batas perusahaan kini telah hilang dan digantikan oleh jaringan vendor yang sangat terintegrasi.

Anthropic mengembangkan AI berkelas Mythos yang mampu menemukan ribuan kerentanan zero-day di berbagai sistem operasi dan browser, termasuk bug langka yang bertahan puluhan tahun. Karena risikonya sangat besar, akses Mythos dibatasi dalam proyek Glasswing untuk beberapa pihak tertentu saja sebagai bentuk tanggung jawab.

Dokter Osama Hashmi mengamati banyaknya insentif yang tidak selaras di dunia kesehatan yang merugikan pasien dan menyoroti pentingnya pendekatan berfokus pada dokter dalam pengembangan teknologi kesehatan. Pengalaman pribadinya dan diskusi dengan rekan sejawat membuka wawasan tentang tekanan yang dihadapi dokter dari perusahaan asuransi, farmasi, dan kelompok ekuitas swasta yang seringkali menghambat praktik medis optimal. Hal ini menjadi latar belakang pentingnya merancang teknologi kesehatan yang mengutamakan kebutuhan dan kondisi kerja dokter.

Era AI kini telah bergeser dari sekadar alat produktivitas menjadi hubungan personal yang melibatkan data sangat pribadi dari pengguna, seperti pola pikir dan respons emosional. Swapnil Chawande menyoroti bahwa kerangka keamanan tradisional tidak mampu menampung dimensi intim data yang dimiliki AI ini. Oleh karena itu, pendekatan keamanan harus berfokus pada pengelolaan data yang etis dan transparan.

Banyak proyek AI di Asia Tenggara gagal karena pekerja di lini depan merasa seperti penghalang dalam proses, akibat salah framing 'human in the loop' yang menunjukkan AI menggantikan manusia. CEO, dewan, dan vendor sudah mendukung, tapi pilot berakhir tanpa pengumuman resmi setelah beberapa bulan.