AI summary
DeepSeek melakukan evaluasi internal terhadap risiko yang ditimbulkan oleh model AI mereka. Evaluasi risiko AI penting untuk memahami ancaman terhadap keamanan dan stabilitas sosial. Perusahaan AI di China kurang transparan dibandingkan dengan rekan-rekan mereka di AS dalam hal publikasi temuan evaluasi risiko. Perusahaan start-up AI Cina DeepSeek telah melakukan evaluasi internal terhadap risiko frontier dari model kecerdasan buatannya, meskipun hasilnya tidak diumumkan secara publik. Risiko frontier adalah potensi ancaman serius yang bisa membahayakan keselamatan publik dan stabilitas sosial.Evaluasi DeepSeek menyoroti risiko terkait kemampuan model AI untuk mereplikasi diri sendiri dan kemampuan dalam serangan siber. Namun, detail kapan evaluasi ini dilakukan dan model mana yang diuji tidak diketahui secara pasti.Berbeda dengan perusahaan seperti Anthropic dan OpenAI di Amerika Serikat, yang secara rutin mempublikasikan hasil evaluasi risiko frontier mereka, perusahaan Cina cenderung mempertahankan kerahasiaan hasil ini.Pemerintah Beijing semakin mendesak perusahaan-perusahaan lokal agar lebih sadar akan bahaya yang mungkin ditimbulkan oleh AI, khususnya risiko frontier yang sangat penting bagi keamanan dan stabilitas negara.Ketidakpaljuran publikasi hasil evaluasi risiko oleh perusahaan Cina dapat menimbulkan tantangan bagi kepercayaan publik dan pengawasan eksternal, walaupun usaha mereka menunjukkan keseriusan dalam menangani potensi risiko.
Kebijakan perusahaan Cina yang tidak mempublikasikan evaluasi risiko frontier menimbulkan kekhawatiran tentang transparansi dan kemungkinan risiko tersembunyi yang tidak terdeteksi publik. Untuk kemajuan industri AI yang bertanggung jawab, diperlukan kombinasi antara evaluasi internal yang ketat dan keterbukaan kepada masyarakat luas.
