Anthropic Ciptakan Konstitusi AI Agar Lebih Paham Dan Terpercaya

Keamanan AI selama ini sering dilihat sebagai membuat AI hanya melakukan hal yang benar dan menghindari hal salah dengan aturan yang kaku. Namun, aturan keras ini kadang gagal di situasi kompleks yang membutuhkan pemahaman lebih dalam. Anthropic mencoba perubahan dengan membuat sebuah konstitusi untuk model AI mereka, Claude, yang mengajarkan AI tentang alasan di balik aturan dan nilai-nilai yang harus dijaga.Konstitusi ini membantu Claude untuk menilai dan menyeimbangkan prioritas yang bertentangan, seperti berusaha membantu pengguna tanpa mengorbankan keselamatan, jujur tanpa menimbulkan bahaya, dan patuh tanpa menjadi terlalu kaku. Dengan begitu, Claude tidak hanya menolak permintaan yang berbahaya, tetapi juga bisa menjelaskan kenapa permintaan tersebut tidak tepat dan apa dampaknya terhadap manusia.Dalam praktiknya, Claude menggunakan konstitusi ini sebagai alat pelatihan dinamis dengan membuat data sintetik, seperti menyusun percakapan tentang permintaan yang mengandung bias dan kemudian menjelaskan akibat negatif dari bias tersebut. Metode ini memungkinkan Claude untuk merespons situasi nyata secara fleksibel, bukan sekadar memblokir masukannya.Pendekatan ini juga penting bagi bisnis dan regulasi. Bisnis yang menggunakan AI seperti Claude bisa lebih mudah mematuhi peraturan dan memiliki dasar akuntabilitas yang jelas. Konstitusi Anthropic juga mendukung prinsip pengawasan manusia yang dimandatkan oleh regulasi seperti EU AI Act, sehingga memperkecil risiko perubahan kebijakan AI yang tiba-tiba yang bisa mengganggu kepercayaan pengguna.Secara keseluruhan, langkah ini menandai pergeseran dari fokus pengembangan AI hanya pada kemampuan teknis ke arah membangun kepercayaan dan penyesuaian dengan nilai kemanusiaan yang lebih transparan. Jika berhasil, Claude bisa menjadi AI yang dipercaya dan diterima dalam peran penting, seperti memberi saran hukum atau komunikasi pasien di dunia nyata.