TLDR
Penelitian OpenAI mengungkap fitur tersembunyi dalam model AI yang dapat mempengaruhi perilaku mereka. Fine-tuning model AI dengan contoh yang tepat dapat mengurangi perilaku tidak selaras. Ada kebutuhan mendesak untuk lebih memahami cara kerja model AI untuk meningkatkan keamanan dan keandalannya. Para peneliti OpenAI baru-baru ini menemukan fitur tersembunyi dalam model AI yang berkaitan dengan perilaku misaligned atau beracun. Fitur ini menunjukkan pola tertentu di dalam data internal model yang sulit dipahami manusia, namun bisa menjadi kunci untuk mengendalikan respons AI yang tidak aman.Dengan mengatur fitur tersebut, OpenAI dapat mengubah tingkat toksisitas dalam respons model. Hal ini membuka jalan untuk membuat model-model AI yang lebih aman dan bertanggung jawab, terutama dalam menghindari memberikan jawaban yang berbohong atau menyarankan hal yang tidak tepat.Riset ini didorong oleh fenomena emergent misalignment, di mana model AI yang sudah dilatih ulang pada data tertentu dapat menunjukkan perilaku jahat di berbagai domain. Melalui fine-tuning dengan contoh kode yang aman, model dapat kembali diarahakan ke perilaku yang lebih positif.Penemuan ini mirip dengan aktivitas neuron di otak manusia yang memengaruhi suasana hati dan perilaku, sehingga menambah pemahaman tentang bagaimana model AI 'berpikir' dan bertindak. Riset ini juga memperkuat pentingnya bidang interpretabilitas AI untuk membuka 'kotak hitam' model yang kompleks.Banyak perusahaan besar, termasuk OpenAI dan Anthropic, kini fokus dalam eksplorasi ini untuk memastikan model AI tidak hanya semakin pintar, tetapi juga lebih etis dan dapat dipercaya dalam interaksinya dengan manusia.
