AI summary
Kebajikan harus didefinisikan dengan mempertimbangkan keragaman budaya. Pengambilan keputusan dalam AI harus melibatkan diskusi moral dan pertimbangan terhadap berbagai nilai. Kebajikan dapat dioperasionalkan dalam AI tanpa mengurangi maknanya, melalui model yang memahami konteks dan sinyal moral. Shekar Natarajan, pendiri dan CEO Orchestro.AI, menjelaskan tentang pentingnya membangun arsitektur kecerdasan buatan (AI) yang berbasis kebajikan atau virtue-based architecture. Bukan hanya aspek teknis yang menjadi tantangan, tetapi terutama tentang menentukan jenis kebajikan apa yang harus dimiliki AI untuk masa depan. Kebajikan membantu AI membuat keputusan dalam situasi kompleks yang tidak bisa hanya diatur oleh aturan kaku.Menurut Natarajan, kebajikan bukanlah nilai universal. Definisi kebajikan seperti keberanian dan kasih sayang berbeda antara satu budaya dengan budaya lain. Misalnya, keberanian dapat dimaknai berbeda di Osaka dan Omaha, sedangkan kasih sayang terlihat berbeda di Mumbai dan Minneapolis. Oleh karena itu, AI harus dapat beradaptasi dengan prioritas kebajikan yang berbeda sesuai dengan komunitasnya.Dia menekankan bahwa AI yang berbasis kebajikan haruslah fleksibel dan dapat dikonfigurasi sesuai konteks. Misalnya, dalam dunia kesehatan, model AI bisa menempatkan kasih sayang sebagai nilai yang lebih dominan, sementara dalam situasi berisiko tinggi, nilai kebijaksanaan atau prudence harus lebih diutamakan. Sistem ini tidak menghapus perbedaan, tapi justru menghormatinya.Dalam proses pengambilan keputusan yang rumit, AI harus mampu menimbang berbagai nilai seperti keadilan, kasih sayang, dan integritas secara seimbang melalui proses diskusi atau deliberasi antar agen moral dalam sistem. Dengan demikian, keputusan yang dihasilkan bukanlah keputusan biner atau simplistik, melainkan hasil dari perdebatan nilai yang membentuk karakter AI.Natarajan juga menjelaskan bagaimana pengalaman manusia yang dipahami melalui Human Signal Intelligence disimpan di Ethical Memory Vault, sehingga AI dapat belajar dari tindakan moral yang diambil manusia dalam kondisi nyata dan tidak standar. Dengan demikian, AI dapat membuat keputusan yang lebih bijak dan manusiawi, mengatasi masalah etika dalam pengambilan keputusan saat ini.
Pendekatan kebajikan dalam AI adalah lompatan penting dari model yang hanya mengoptimalkan hasil ke model yang mempertimbangkan karakter dan etika. Namun, tantangan terbesar bukan pada teknologi melainkan kesepakatan global mengenai nilai apa yang harus dijunjung, yang menuntut dialog lintas budaya yang lebih intensif.
