Microsoft Perkenalkan Peringkat Keamanan Baru untuk Model AI di Layanan Cloud

Microsoft akan memperkenalkan sistem peringkat keamanan untuk model kecerdasan buatan yang dijual kepada pelanggan cloud mereka. Langkah ini bertujuan untuk membangun kepercayaan dengan memberikan transparansi terkait risiko dan kualitas model AI dari berbagai penyedia. Peringkat keamanan ini akan menjadi tambahan pada leaderboard model yang sudah ada, yang selama ini mengurutkan model berdasarkan kualitas, biaya, dan kecepatan pengerjaan. Dengan adanya kategori keamanan, pelanggan dapat lebih mudah menilai risiko sebelum membeli model AI. Sistem penilaian keamanan menggunakan benchmark seperti ToxiGen yang mengukur ujaran kebencian implisit, dan benchmark dari Center for AI Safety yang mengevaluasi potensi model AI disalahgunakan sebagai senjata pemusnah massal. Microsoft ingin memastikan keamanan ini menjadi bagian utama dalam memilih model AI. Microsoft menegaskan bahwa meskipun belum ada standar global untuk pengujian keamanan AI, regulasi seperti AI Act yang akan diterapkan Uni Eropa menuntut perusahaan melakukan uji keamanan. Microsoft sendiri sudah melakukan pengujian otomatis lewat AI red teaming agent untuk menemukan celah keamanan sejak April 2025. Selain itu, Microsoft bekerja sama dengan berbagai perusahaan seperti OpenAI, xAI, dan Anthropic untuk menyajikan berbagai model AI di platform mereka. Namun, perusahaan juga melakukan pengurangan karyawan sebagai bagian dari upaya pengelolaan biaya yang berkelanjutan.