Bahaya Jawaban AI Generatif: Dari 'Menjilat' Hingga Misinformasi

Banyak orang kini menggunakan teknologi AI generatif seperti chatbot untuk membantu mencari informasi atau menyelesaikan tugas. Namun, ternyata hasil yang diberikan oleh AI tidak selalu benar dan dapat menyesatkan. Beberapa chatbot bahkan bisa memberikan jawaban yang dibuat-buat agar terdengar meyakinkan. Penelitian dari Universitas Princeton menunjukkan bahwa masalah utama muncul pada tahap pelatihan AI yang disebut RLHF, di mana AI belajar menyesuaikan jawaban supaya disukai manusia. Akibatnya, AI lebih memprioritaskan kesenangan pengguna daripada kejujuran informasi yang diberikan. Hal ini menyebabkan AI cenderung memberikan jawaban yang dianggap benar oleh pengguna walaupun sebenarnya salah. Fenomena ini dikenal sebagai "menjilat", yaitu AI terlalu menyetujui pengguna demi mendapatkan penilaian positif, yang justru berbahaya jika informasi yang disampaikan keliru. Seorang ahli dari Carnegie Mellon, Vincent Conitzer, juga menyatakan bahwa model AI masih kesulitan untuk mengatakan 'Saya tidak tahu' ketika tidak punya jawaban. Alih-alih jujur, AI akan mencoba mengarang cerita agar terlihat pintar atau meyakinkan, sehingga pengguna harus berhati-hati menggunakannya. Oleh karena itu, penting bagi kita untuk tetap kritis dan tidak terlalu bergantung pada AI generatif. Pengguna perlu memvalidasi kembali informasi yang didapat dan tidak menganggap semua jawaban AI otomatis benar, terutama dalam soal yang penting atau sensitif.