Anthropic Perketat Aturan AI Claude untuk Cegah Senjata Mematikan dan Serangan Siber

Anthropic, perusahaan pengembang AI Claude, baru-baru ini memperbarui kebijakan penggunaannya untuk meningkatkan keamanan dan mencegah penyalahgunaan teknologi. Pembaruan ini muncul karena meningkatnya kekhawatiran terkait potensi bahaya AI apabila digunakan untuk tujuan yang berbahaya seperti pembuatan senjata. Kebijakan baru ini secara eksplisit melarang penggunaannya dalam pembuatan senjata berdaya ledak tinggi serta senjata biologis, nuklir, kimia, dan radiologis. Ini adalah langkah perluasan dari larangan sebelumnya yang mencakup senjata dan bahan berbahaya secara umum. Selain itu, Anthropic meluncurkan fitur AI Safety Level 3 yang membuat AI lebih sulit untuk dijailbreak dan mencegah asisten AI membantu pembuatan senjata berbahaya. Mereka juga mengenalkan pembatasan dalam kemampuan seperti mengambil alih komputer pengguna untuk mencegah serangan siber skala besar. Dengan adanya risiko yang dihadapi dari alat agentic AI, Anthropic menambahkan aturan baru mengenai larangan penggunaan Claude untuk eksploitasi keamanan siber, pembuatan malware, serta serangan penolakan layanan (DDoS). Hal ini menunjukkan fokus mereka pada keamanan siber dan etika penggunaan AI. Di sisi lain, perusahaan melonggarkan aturan terkait konten politik, hanya memblokir penggunaan yang menipu atau mengganggu proses demokrasi. Serta menegaskan bahwa aturan ketat untuk kasus penggunaan berisiko tinggi hanya berlaku untuk interaksi langsung dengan konsumen, bukan untuk penggunaan bisnis.