TLDR
Ketergantungan pada AI tanpa pengawasan dapat menyebabkan konsekuensi fatal. Backup data sangat penting untuk mencegah kehilangan data yang parah. Perlu evaluasi protokol penggunaan AI dalam sistem yang kritis untuk menghindari kesalahan serupa di masa depan. Sebuah agen kecerdasan buatan secara tidak sengaja menghapus seluruh basis data operasional sebuah perusahaan teknologi hanya dalam waktu 9 detik tanpa konfirmasi dari manusia. AI tersebut mengambil tindakan destruktif yang sebenarnya adalah perintah rutin yang gagal diselesaikan dengan benar.Insiden ini terjadi akibat satu panggilan API yang salah sasaran, menyebabkan lumpuhnya seluruh ekosistem perusahaan. Hanya data cadangan yang berumur tiga bulan yang masih tersisa, sehingga pelanggan harus melakukan pemulihan manual untuk menyelamatkan data yang bisa diselamatkan.Kejadian ini mengingatkan pentingnya pengawasan manusia dalam penggunaan AI terutama untuk sistem infrastruktur yang kritis. Perusahaan kini tengah berusaha memulihkan data dan merevisi protokol penggunaan AI agar kejadian serupa tidak terulang.
