TLDR
Anthropic bekerja sama dengan Accenture untuk menempatkan evaluator keamanan AI di dalam laboratorium mereka. Proyek ini diharapkan menginvestasikan setidaknya $1 miliar dalam lima tahun ke depan untuk meningkatkan evaluasi dan keselamatan model. Ada kritik bahwa pendekatan ini bisa dijadikan alasan untuk menghindari tanggung jawab atas perilaku buruk model AI. Pomodo.id - Dengan pengembangan pesat dalam kecerdasan buatan (AI), perusahaan seperti Anthropic semakin serius dalam menangani masalah keamanan AI. Dalam langkah terbarunya, Anthropic telah bermitra dengan Accenture, raksasa konsultasi teknologi, untuk melakukan evaluasi keamanan AI secara langsung di laboratoriumnya. Dario Amodei, CEO Anthropic, mengumumkan bahwa staf Accenture akan ditempatkan di dalam perusahaan untuk mengevaluasi model dan tim yang ada. Proyek ini juga akan didukung oleh Faculty, yang merupakan divisi AI dari Accenture, yang bertugas melakukan penilaian keselarasan dan pengujian keamanan model yang dikembangkan oleh Anthropic. Keputusan ini menandakan investasi sebesar minimal $1 miliar dalam lima tahun ke depan dari kedua belah pihak untuk meningkatkan keamanan AI.Langkah ini mengejutkan banyak pengamat industri AI, dan saham Accenture melonjak 8% setelah pengumuman tersebut. Ini menunjukkan betapa pentingnya pengembangan ini bagi investor dan pasar. Dalam konteks keamanan AI, Anthropic selaku pelopor dalam riset keselamatan, mengajukan usulan untuk menempatkan evaluator independen seperti METR, di dalam perusahaan-perusahaan AI terdepan. Evaluator ini akan memiliki akses hampir tanpa batas untuk mengevaluasi bagaimana AI berfungsi dan memberikan laporan tentang insiden keamanan yang mungkin terjadi, sebuah langkah yang didukung secara luas oleh kalangan peneliti.Namun, di balik langkah positif ini, ada beberapa tantangan yang dihadapi. Banyak pihak khawatir bahwa evaluator tidak akan benar-benar independen, tergantung pada bagaimana mereka dikelola oleh perusahaan AI. Akses ke sistem perusahaan dan pengujian yang lebih mendalam terhadap model AI harus dilindungi oleh perundang-undangan agar dapat berfungsi dengan efektif. Keberhasilan dari pengujian ini akan bergantung pada transparansi dan kolaborasi antara perusahaan-perusahaan seperti Anthropic dan evaluator tersebut.Mengapa ini penting bagi generasi muda di Indonesia? Dengan kemajuan teknologi yang terjadi, permintaan akan keterampilan dalam pengembangan dan pengujian AI semakin meningkat, mengarah pada peluang pekerjaan baru. Bagi mahasiswa dan lulusan baru yang tertarik memasuki dunia teknologi, memahami cara kerja sistem AI dan keterampilan dalam evaluasi keamanan akan menjadi keunggulan. Perusahaan yang berinvestasi dalam proyek AI juga akan mencari individu yang tidak hanya mahir dalam pengkodean, tetapi yang dapat menjamin bahwa teknologi yang mereka kembangkan aman dan sesuai dengan standar etika. Proyek yang melibatkan sekitar $1 miliar dalam investasi dapat merangsang lebih banyak inisiatif dan peluang di sektor teknologi, khususnya di bidang keamanan dan evaluasi AI.
Evaluator independen adalah pihak ketiga yang memiliki tanggung jawab untuk memeriksa dan menilai keamanan serta keselarasan model AI. Mereka diharapkan mampu memberikan laporan objektif tentang potensi masalah dan risiko yang mungkin muncul dari penggunaan AI. Kehadiran evaluator independen di dalam perusahaan AI, seperti yang diusulkan oleh Anthropic, dapat berfungsi sebagai pengawas yang sangat dibutuhkan, menjamin transparansi dan akuntabilitas dalam proses pengembangan teknologi. Ini berpotensi menyelamatkan banyak perusahaan dari kerugian yang diakibatkan oleh insiden keamanan yang tidak terduga.
Dengan perkembangan ini, para profesional muda di Indonesia memiliki kesempatan untuk terlibat dalam sebuah industri yang tidak hanya menjanjikan dari segi karir, tetapi juga kritis terhadap tantangan keamanan dan etika yang dihadapi oleh masyarakat global saat ini. Itu sebabnya, pendidikan dan keterampilan di bidang teknologi harus terus ditingkatkan untuk mengikuti tren ini, karena perjalanan Indonesia menuju integrasi kecerdasan buatan yang lebih luas dimulai sekarang.
