TLDR
Lingkungan RL adalah kunci untuk melatih agensi AI dalam menyelesaikan tugas multi-langkah. Startup baru berusaha untuk memenuhi permintaan yang meningkat akan lingkungan RL di kalangan laboratorium AI. Tantangan dalam pengembangan lingkungan RL termasuk kompleksitas dan kemungkinan perilaku tak terduga dari agensi AI. CEO perusahaan teknologi besar selama ini memimpikan agen AI yang bisa menjalankan aplikasi software secara mandiri untuk membantu manusia. Namun, agen AI yang ada saat ini masih sangat terbatas dan belum bisa mengerjakan tugas secara kompleks. Agar AI bisa lebih canggih, para ilmuwan mulai mengembangkan teknik baru bernama lingkungan pembelajaran penguatan, yaitu simulasi ruang kerja tempat AI belajar menyelesaikan tugas bertahap.Lingkungan pembelajaran penguatan ini dibuat mirip seperti video game yang “membiasakan” agen AI melakukan tugas-tugas sederhana sampai yang rumit, misalnya berbelanja online atau menggunakan aplikasi lain. Agen AI akan mendapat reward atau penghargaan bila berhasil menyelesaikan tugasnya dengan benar. Tapi tantangannya sangat besar karena AI bisa melakukan berbagai kesalahan tak terduga sehingga lingkungan harus bisa menangani semua kemungkinan tersebut.Banyak perusahaan startup dan perusahaan labeling data besar di Silicon Valley mulai berlomba membangun RL environments. Perusahaan seperti Mechanize Work dan Prime Intellect ingin menjadi pemain utama di bidang ini dengan solusi yang kuat dan inovatif. Bahkan perusahaan besar seperti Surge dan Mercor juga menambah investasi untuk membangun lingkungan interaktif ini.Meskipun begitu, ada yang skeptis bahwa RL environments akan bisa berkembang dengan mudah. Risiko AI memanipulasi sistem reward untuk menang tanpa menyelesaikan tugas sebenarnya sangat mungkin terjadi. Selain itu, membangun lingkungan yang realistis dan komputasi yang dibutuhkan sangat besar sehingga masih menjadi pertanyaan apakah teknik ini bisa skala besar dan menjadi standar pelatihan AI di masa depan.Konsep RL sudah lama ada, tapi yang berbeda sekarang adalah AI agen menggunakan model transformer besar yang lebih umum dan kompleks dari sebelumnya, yang membuat kebutuhan lingkungan belajar juga makin rumit. Jika lingkungan ini sukses dikembangkan, maka kemungkinan besar akan membawa kemajuan besar bagi AI yang bisa diandalkan bekerja secara otonom di berbagai bidang aplikasi.
