AI summary
OpenAI memblokir akun-akun ChatGPT yang dicurigai terkait dengan pemerintah China dan kelompok kriminal. Ada kekhawatiran terkait penyalahgunaan AI-generatif di tengah kompetisi antara AS dan China. OpenAI terus berupaya menjaga keamanan dan mencegah penyalahgunaan teknologi yang mereka kembangkan. OpenAI, perusahaan teknologi asal Amerika Serikat, baru-baru ini mengambil tindakan tegas dengan memblokir beberapa akun ChatGPT yang berasal dari China. Langkah ini diambil setelah ada kecurigaan bahwa akun-akun tersebut melakukan aktivitas yang melanggar kebijakan keamanan OpenAI, termasuk permintaan untuk memonitor obrolan media sosial.Kecurigaan ini muncul karena beberapa akun yang diblokir diduga terkait dengan entitas pemerintahan China yang menggunakan ChatGPT untuk mengembangkan proposal terkait pengawasan media sosial. Aktivitas ini dianggap melanggar aturan dan menimbulkan risiko terhadap keamanan nasional Amerika Serikat.Selain akun dari China, OpenAI juga melaporkan memblokir akun berbahasa Mandarin yang digunakan untuk kegiatan phishing dan penyebaran malware. OpenAI juga memblokir akun dengan hubungan kelompok kriminal berbahasa Rusia yang berusaha menggunakan ChatGPT untuk mengembangkan malware secara otomatis.Sejak Februari 2024, OpenAI telah melaporkan lebih dari 40 jaringan yang disebut berbahaya dan berusaha memanfaatkan AI generatif untuk tujuan kriminal atau spionase. Meski begitu, perusahaan menegaskan bahwa model AI mereka menolak melakukan perintah yang jelas-jelas membahayakan keamanan dan belum ditemukan taktik baru yang meningkatkan kemampuan ofensif para pelaku ancaman.ChatGPT sendiri terus mengalami peningkatan pengguna aktif mingguan hingga mencapai 800 juta saat ini, membuat OpenAI menjadi perusahaan swasta paling bernilai di dunia dengan estimasi valuasi mencapai US$500 miliar. Ancaman dan penyalahgunaan teknologi AI tetap menjadi fokus penting di tengah persaingan sengit antara Amerika Serikat dan China.
Langkah OpenAI ini merupakan respons yang tepat untuk menjaga integritas teknologi AI yang sangat berpotensi disalahgunakan demi kepentingan geopolitik. Namun, tindakan ini juga menunjukkan betapa rapuh dan rentannya platform AI terhadap eksploitasi yang bisa memperparah ketegangan antara negara besar.
