Courtesy of Axios
Rangkuman Berita: Eksklusif: Anthropic, pemerintah uji apakah AI akan membagikan informasi nuklir sensitif
Share
Anthropic, sebuah perusahaan yang mengembangkan model kecerdasan buatan (AI), bekerja sama dengan Departemen Energi AS untuk memastikan bahwa model mereka tidak dapat digunakan untuk membuat senjata nuklir. Mereka telah melakukan pengujian yang disebut "red teaming" untuk menguji model mereka, Claude 3 Sonnet, agar tidak membocorkan informasi berbahaya tentang energi nuklir. Program ini dimulai pada bulan April dan akan berlangsung hingga Februari, di mana para ahli dari National Nuclear Security Administration (NNSA) akan mencoba menemukan cara penyalahgunaan model tersebut.
Baca juga: Di bawah Trump, ilmuwan AI diperintahkan untuk menghapus 'bias ideologis' dari model yang kuat.
Kerja sama ini penting karena dapat membantu pengembang AI menciptakan sistem yang lebih aman dan bertanggung jawab. Anthropic percaya bahwa kolaborasi ini adalah langkah pertama dalam menggunakan model AI di lingkungan yang sangat rahasia, dan mereka berencana untuk berbagi temuan mereka dengan laboratorium ilmiah dan organisasi lain untuk pengujian lebih lanjut. Selain itu, pemerintah AS juga sedang meningkatkan perhatian terhadap keamanan AI, terutama terkait risiko yang mungkin ditimbulkan oleh teknologi ini terhadap keamanan nasional.
Rangkuman Berita Serupa
Teknologi
2 bulan lalu
43 dibaca
CEO Anthropic mengatakan bahwa DeepSeek adalah 'yang terburuk' dalam tes keamanan data bioweapon yang kritis.
Teknologi
2 bulan lalu
36 dibaca
OpenAI akan menyediakan model-modelnya kepada Los Alamos dan laboratorium nasional lainnya.
Teknologi
3 bulan lalu
53 dibaca
Pentagon mengatakan bahwa AI mempercepat 'rantai pembunuhan' nya.
Teknologi
3 bulan lalu
144 dibaca
OpenAI mempersembahkan versi regulasi AI yang diutamakan dalam 'blueprint' baru.
Teknologi
4 bulan lalu
50 dibaca
OpenAI dan Anduril bermitra dalam rencana pertahanan drone berbasis AI.
Teknologi
5 bulan lalu
123 dibaca
Anthropic mengumpulkan dana tambahan sebesar Rp 65.78 triliun ($4 miliar) dari Amazon, menjadikan AWS sebagai mitra pelatihan 'utama' mereka.