Konfrontasi AI vs Pentagon

Anthropic adalah sebuah perusahaan pengembang kecerdasan buatan (AI) yang kini menghadapi tekanan dari Departemen Pertahanan Amerika Serikat (DOD). Mereka ingin mendapatkan akses penuh tanpa batasan ke sistem AI yang dikembangkan oleh Anthropic untuk keperluan militer. Namun, CEO Anthropic, Dario Amodei, menolak permintaan tersebut. Ia mengungkapkan keprihatinannya terkait penggunaan AI yang dapat mengancam nilai-nilai demokrasi, terutama dalam dua kasus utama: pengawasan massal terhadap warga dan penggunaan senjata yang sepenuhnya otonom tanpa campur tangan manusia. Departemen Pertahanan memberikan sebuah ultimatum kepada Anthropic, meminta mereka untuk setuju dengan permintaan akses tanpa batas atau menghadapi konsekuensi. Konsekuensi tersebut termasuk kemungkinan Anthropic dicap sebagai risiko rantai pasokan yang biasanya ditujukan untuk musuh asing, atau bisa juga pemerintahan menggunakan Defense Production Act (DPA) untuk memaksa Anthropic memenuhi permintaan. DPA adalah undang-undang yang memungkinkan pemerintah mengatur produksi perusahaan demi kepentingan pertahanan nasional. Dario Amodei menanggapi kedua ancaman ini dengan menunjukkan kontradiksi di dalamnya. Ia berkata bahwa pemerintah sekaligus mencap Anthropic sebagai ancaman keamanan dan juga menganggap teknologi mereka sangat penting bagi keamanan nasional. Meskipun begitu, Anthropic tetap membuka kesempatan untuk membantu militer dengan syarat adanya batasan tertentu, terutama untuk melindungi nilai-nilai demokrasi dan memastikan penggunaan teknologi yang aman. Selain Anthropic, DOD juga sedang menyiapkan xAI sebagai alternatif jika kerja sama dengan Anthropic berakhir. Amodei menegaskan bahwa jika pemerintah memutuskan untuk memutus kontrak dengan Anthropic, perusahaan mereka akan memastikan proses transisi yang lancar agar berbagai operasi dan misi militer tidak terganggu. Ini menunjukkan itikad baik Anthropic untuk tetap profesional meski menghadapi tekanan keras. Keputusan Anthropic untuk menolak permintaan pemerintah ini menjadi bagian dari perdebatan global lebih luas tentang bagaimana teknologi AI harus digunakan, terutama di bidang militer. Sikap Tegas ini juga menandakan perlunya regulasi dan batasan etika dalam pengembangan teknologi AI, agar tidak menimbulkan risiko bagi masyarakat dan nilai-nilai demokrasi yang dijunjung tinggi.

Artikel ini membahas ketegangan yang terjadi antara pemerintah Amerika Serikat, khususnya Pentagon, dan perusahaan teknologi AI bernama Anthropic. Pentagon menuntut agar Anthropic memberikan akses penuh tanpa batas pada model AI mereka untuk keperluan militer, dengan batas waktu hingga Jumat malam. Jika penawaran ini tidak diterima, Pentagon mengancam akan menandai Anthropic sebagai risiko rantai pasokan atau menggunakan Undang-Undang Produksi Pertahanan (DPA) untuk memaksa perusahaan. Anthropic sebelumnya menyatakan komitmennya agar teknologi mereka tidak digunakan untuk pengawasan massal warga AS maupun untuk pengembangan senjata otonom. Namun, pemerintah berpendapat bahwa penggunaan teknologi militer harus diatur oleh hukum dan konstitusi AS, bukan oleh kebijakan internal perusahaan swasta. Hal ini merupakan konflik antara kebijakan keamanan nasional dan prinsip etika teknologi yang dipegang Anthropic. Penggunaan Undang-Undang Produksi Pertahanan untuk memaksa perusahaan AI agar mengikuti keinginan militer merupakan langkah yang belum pernah terjadi sebelumnya. Biasanya, undang-undang ini digunakan pada masa krisis besar seperti pandemi COVID-19 untuk memprioritaskan produksi barang penting bagi pertahanan nasional. Intensitas tekanan ini mencerminkan ketegangan politik dan ideologis di Washington terkait regulasi AI. Dalam situasi ini, Anthropic adalah satu-satunya perusahaan AI frontier yang memiliki akses rahasia ke Departemen Pertahanan AS. Pentagon juga tidak memiliki alternatif cadangan yang siap dan sedang mencari opsi lain seperti xAI. Ketergantungan tinggi pada satu perusahaan menempatkan Pentagon dalam posisi sulit, yang mungkin memicu sikap keras dalam negosiasi. Para ahli memperingatkan bahwa pendekatan keras pemerintah terhadap Anthropic bisa mengganggu iklim bisnis teknologi AS dan mengurangi kepercayaan investor, karena menunjukkan ketidakstabilan hukum dan politik. Ini juga dapat mengubah hubungan antara sektor militer dan perusahaan teknologi, serta memengaruhi bagaimana teknologi AI akan dikembangkan dan diatur di masa depan.

Anthropic, sebuah startup AI bernilai 380 miliar dolar, sedang berselisih dengan Departemen Pertahanan AS. Konflik ini berakar pada perbedaan pendapat soal bagaimana AI perusahaan tersebut boleh digunakan, terutama mengenai senjata otonom dan pengawasan massal dalam negeri. Anthropic menolak penggunaan teknologi mereka untuk operasi yang sepenuhnya tanpa campur tangan manusia. Departemen Pertahanan mendesak agar kontrak-kontrak AI diubah dengan ketentuan 'any lawful use', yang memungkinkan penggunaan AI secara luas termasuk untuk tujuan militer agresif. Langkah ini memicu perdebatan besar karena dapat membuka jalan bagi penggunaan AI yang kontroversial, seperti senjata pembunuh otomatis tanpa pengawasan manusia. Model AI utama Anthropic yang disebut Claude menjadi pusat perhatian karena merupakan satu-satunya yang diizinkan untuk menggunakan informasi rahasia di jaringan Pentagon. Jika Anthropic ditetapkan sebagai risiko rantai pasokan keamanan, maka berbagai perusahaan dan kontraktor yang bekerja dengan militer harus menghentikan penggunaan AI mereka, yang akan mengganggu banyak operasi. Pentagon kini dipimpin oleh Emil Michael, yang dikenal sebagai negosiator keras dan sebelumnya menjadi eksekutif di Uber. Ia menegaskan bahwa tidak boleh ada batasan penggunaan AI oleh pemerintah, meskipun hal ini bertentangan dengan prinsip beretika yang diusung Anthropic. Konflik ini telah menarik perhatian luas dari industri teknologi dan pemerhati etika AI. Sementara itu, perusahaan lain seperti OpenAI dan xAI sudah menyesuaikan kontrak mereka dengan kebijakan baru DoD, tetapi model mereka belum memiliki akses keamanan setinggi Claude. Hal ini menimbulkan risiko ketergantungan berlebihan pada Anthropic, sehingga negosiasi ini sangat penting bagi masa depan AI di sektor pertahanan dan implikasi etis yang menyertainya.