TLDR
Perdebatan antara Anthropic dan Departemen Pertahanan menunjukkan ketegangan antara inovasi teknologi dan etika penggunaan AI. Kebijakan penggunaan yang ketat dari Anthropic dapat berpotensi menghalangi kerjasama dengan pemerintah meskipun teknologi mereka sangat dibutuhkan. Ancaman dari Departemen Pertahanan untuk mengklasifikasikan Anthropic sebagai risiko rantai pasokan mencerminkan dinamika kekuatan antara perusahaan teknologi dan pemerintah. Anthropic, sebuah startup AI bernilai 380 miliar dolar, sedang berselisih dengan Departemen Pertahanan AS. Konflik ini berakar pada perbedaan pendapat soal bagaimana AI perusahaan tersebut boleh digunakan, terutama mengenai senjata otonom dan pengawasan massal dalam negeri. Anthropic menolak penggunaan teknologi mereka untuk operasi yang sepenuhnya tanpa campur tangan manusia.Departemen Pertahanan mendesak agar kontrak-kontrak AI diubah dengan ketentuan 'any lawful use', yang memungkinkan penggunaan AI secara luas termasuk untuk tujuan militer agresif. Langkah ini memicu perdebatan besar karena dapat membuka jalan bagi penggunaan AI yang kontroversial, seperti senjata pembunuh otomatis tanpa pengawasan manusia.Model AI utama Anthropic yang disebut Claude menjadi pusat perhatian karena merupakan satu-satunya yang diizinkan untuk menggunakan informasi rahasia di jaringan Pentagon. Jika Anthropic ditetapkan sebagai risiko rantai pasokan keamanan, maka berbagai perusahaan dan kontraktor yang bekerja dengan militer harus menghentikan penggunaan AI mereka, yang akan mengganggu banyak operasi.Pentagon kini dipimpin oleh Emil Michael, yang dikenal sebagai negosiator keras dan sebelumnya menjadi eksekutif di Uber. Ia menegaskan bahwa tidak boleh ada batasan penggunaan AI oleh pemerintah, meskipun hal ini bertentangan dengan prinsip beretika yang diusung Anthropic. Konflik ini telah menarik perhatian luas dari industri teknologi dan pemerhati etika AI.Sementara itu, perusahaan lain seperti OpenAI dan xAI sudah menyesuaikan kontrak mereka dengan kebijakan baru DoD, tetapi model mereka belum memiliki akses keamanan setinggi Claude. Hal ini menimbulkan risiko ketergantungan berlebihan pada Anthropic, sehingga negosiasi ini sangat penting bagi masa depan AI di sektor pertahanan dan implikasi etis yang menyertainya.
