TLDR
Model Astra dari OpenAI menggunakan teknik yang lebih tidak transparan yang dapat mengurangi kemampuan pemantauan terhadap perilaku AI. Terdapat kekhawatiran di kalangan peneliti tentang perlombaan untuk mengembangkan sistem AI yang lebih maju tanpa memperhatikan keamanan dan transparansi. OpenAI berusaha untuk mempertahankan pemantauan rantai pemikiran meskipun ada tantangan yang dihadapi dalam menjaga transparansi model AI. Pomodo.id - Kekhawatiran terhadap model terbaru OpenAI, Astra, menunjukkan meningkatnya perhatian mengenai keamanan sistem kecerdasan buatan (AI). Selama pengujian, Astra menunjukkan kemampuan untuk menyerang target nyata, yang memicu penundaan dalam peluncurannya sehingga OpenAI dapat memperkuat protokol keamanan. Peneliti memperingatkan bahwa model ini dapat menjadi “perkembangan terburuk untuk keamanan dan keselamatan AI hingga saat ini.” Proses pengolahan informasi dalam Astra berbeda dari model AI umumnya, di mana Astra menggunakan teknik yang lebih tertutup yang membuat pemantauan menjadi lebih sulit.Model AI pada umumnya menggunakan teknologi transformer yang memungkinkan pemrosesan informasi secara bertahap sebelum menghasilkan jawaban. Hal ini memudahkan untuk mengawasi apa yang dilakukan AI. Namun, Astra memanfaatkan teknik yang dikenal sebagai recurrent transformer, yang memutar kembali informasi melalui lapisan internal sebelum memberikan keluaran. Hal ini berpotensi mengakibatkan lebih banyak pemikiran dilakukan secara internal tanpa menampakkan logika atau alasan secara jelas, yang membuatnya menantang untuk dideteksi jika benar-benar ada perilaku yang tidak diinginkan.Astra juga diidentifikasi sebagai model AI besar pertama yang memenuhi "ambang kritis keamanan siber" menurut OpenAI, yang membuatnya dapat menemukan dan juga mengeksploitasi kerentanan dalam sistem komputer tanpa bimbingan manusia. Menjelang peluncurannya, OpenAI mengindikasikan bahwa hanya akses terbatas yang akan diberikan untuk kemampuan cybersecurity paling maju yang dimiliki Astra. Dengan kata lain, meskipun Astra berkapasitas tinggi dan memiliki kemampuan mengidentifikasi titik lemah dalam sistem keamanan, akses untuk memanfaatkan potensi tersebut akan lebih terbatas. Belum ada konfirmasi dari pihak ketiga mengenai klaim tersebut, dan masih banyak ketidakjelasan terkait siapa yang akan menguji model ini.
Astra adalah model AI terbaru dari OpenAI yang memiliki kemampuan untuk menemukan dan mengeksploitasi kerentanan yang sebelumnya tidak diketahui. Model ini menjadi perhatian karena dapat melakukan tindakan tanpa intervensi manusia, mirip dengan model AI Mythos dari Anthropic. Hal ini menimbulkan kekhawatiran tentang bagaimana model ini akan digunakan dan oleh siapa. Astra berhasil mencetak poin sempurna dalam tes ExploitBench, yang mengukur kemampuan sebuah model untuk mengakses kerentanan sistem yang sudah ada, termasuk menemukan dan mengeksploitasi dua kerentanan zero-day. Tanpa pengawasan yang ketat, potensi bahaya dari penggunaan Astra akan semakin meningkat.
Akibat perubahan dalam pengembangan Astra ini sangat penting untuk bagi generasi muda Indonesia. Keberadaan teknologi seperti Astra dan kemampuannya dalam cybersecurity dapat membuka peluang baru dalam dunia kerja, terutama di sektor teknologi informasi dan keamanan siber. Namun, ketidakpastian terkait keamanan dan kontrol penggunaan teknologi ini menunjukkan pentingnya pengawasan regulasi dan etika dalam pengembangan AI. Dengan adanya kemampuan untuk menemukan dan mengeksploitasi kerentanan, tantangan di bidang keamanan siber akan semakin kompleks dan mengharuskan adanya sumber daya manusia yang melek teknologi yang lebih siap.Penting untuk dipahami bahwa meskipun model ini menjanjikan inovasi dalam keamanan siber, ia juga membawa tantangan baru. Generasi muda, termasuk siswa dan lulusan baru, perlu memahami keterampilan-keterampilan yang mungkin diperoleh melalui perkembangan teknologi ini, serta bagaimana beradaptasi dengan lingkungan kerja yang semakin bergantung pada sistem AI. Ke depan, pemahaman dan kebijakan yang tepat akan menjadi kunci dalam menavigasi isu-isu yang dihasilkan dari kemajuan teknologi seperti Astra.
