Courtesy of TechCrunch
Rangkuman Berita: OpenAI melatih o1 dan o3 untuk 'berpikir' tentang kebijakan keselamatannya.
Share
OpenAI baru saja mengumumkan model AI terbaru mereka yang disebut o3, yang diklaim lebih canggih dibandingkan model sebelumnya, o1. Salah satu inovasi utama dari model ini adalah metode yang disebut "deliberative alignment," yang bertujuan untuk memastikan bahwa model AI tetap sesuai dengan nilai-nilai keselamatan yang ditetapkan oleh pengembang manusia. Dengan menggunakan metode ini, model o1 dan o3 dapat mempertimbangkan kebijakan keselamatan OpenAI saat memberikan jawaban, sehingga mengurangi kemungkinan mereka menjawab pertanyaan yang dianggap tidak aman.
Metode ini melibatkan proses di mana model AI memecah masalah menjadi langkah-langkah kecil sebelum memberikan jawaban. OpenAI juga menggunakan data sintetis, yaitu contoh yang dibuat oleh model AI lain, untuk melatih o1 dan o3 agar lebih memahami kebijakan keselamatan. Meskipun masih ada tantangan dalam menyelaraskan model AI dengan nilai-nilai manusia, OpenAI percaya bahwa pendekatan ini dapat membantu menciptakan model yang lebih aman dan sesuai dengan konteks. Model o3 direncanakan akan diluncurkan pada tahun 2025.
Pertanyaan Terkait
Q
Apa yang diumumkan oleh OpenAI pada hari Jumat?A
OpenAI mengumumkan keluarga baru model AI bernama o3 yang lebih maju dibandingkan model sebelumnya.Q
Apa itu 'deliberative alignment' dan bagaimana cara kerjanya?A
'Deliberative alignment' adalah metode yang digunakan OpenAI untuk memastikan model AI tetap selaras dengan nilai-nilai pengembang manusia selama fase inference.Q
Mengapa keamanan AI menjadi topik yang semakin relevan?A
Keamanan AI menjadi semakin relevan seiring dengan meningkatnya popularitas dan kekuatan model AI.Q
Apa tantangan yang dihadapi OpenAI dalam mengimplementasikan langkah-langkah keamanan?A
Tantangan yang dihadapi termasuk menghindari sensor yang berlebihan dan memastikan model tidak memberikan jawaban yang tidak aman.Q
Kapan model o3 direncanakan untuk diluncurkan?A
Model o3 direncanakan untuk diluncurkan pada tahun 2025.Rangkuman Berita Serupa
Teknologi
2 bulan lalu
56 dibaca
OpenAI kini mengungkapkan lebih banyak tentang proses pemikiran model o3-mini-nya.
Teknologi
2 bulan lalu
89 dibaca
Sam Altman: OpenAI telah berada di 'sisi yang salah dari sejarah' terkait sumber terbuka.
Teknologi
2 bulan lalu
111 dibaca
OpenAI meluncurkan o3-mini, model 'penalaran' terbarunya.
Teknologi
4 bulan lalu
85 dibaca
Melihat Kemampuan Terobosan Dengan OpenAI O3
Teknologi
4 bulan lalu
62 dibaca
OpenAI meluncurkan model AI o3 reasoning untuk mengatasi tantangan kompleks dan bersaing dengan Google.
Teknologi
4 bulan lalu
115 dibaca
OpenAI Memperkenalkan Model Penalaran yang Lebih Canggih dalam Perlombaan dengan Google