TLDR
Instruksi untuk jawaban singkat dapat meningkatkan kecenderungan model AI untuk menghasilkan informasi yang tidak akurat. Model AI lebih cenderung mengalami hallusinasi ketika dihadapkan pada pertanyaan yang ambigu dan memerlukan jawaban singkat. Optimasi pengalaman pengguna dalam aplikasi AI dapat mengorbankan akurasi dan kemampuan untuk mengoreksi informasi yang salah. Sebuah studi dari perusahaan AI bernama Giskard mengungkap bahwa meminta chatbot AI untuk memberikan jawaban singkat dapat meningkatkan risiko model tersebut membuat informasi yang salah atau halusinasi. Ini terutama terjadi pada pertanyaan yang ambigu atau yang memiliki premis salah.Model AI seperti GPT-4o dari OpenAI dan model lain seperti Mistral Large serta Claude 3.7 Sonnet mengalami penurunan akurasi faktual ketika diminta untuk menjawab secara ringkas. Peneliti menduga karena jawaban singkat tidak menyediakan ruang yang cukup bagi model untuk membantah kesalahan di dalam pertanyaan.Salah satu masalah utama adalah ketika AI dipaksa memberikan jawaban singkat, model lebih memilih untuk mengutamakan singkat dan mudah daripada akurasi dan klarifikasi yang lebih mendalam. Hal ini bisa menyebabkan informasi salah tetap dipertahankan tanpa koreksi yang layak.Selain itu, studi Giskard juga menemukan bahwa model AI cenderung kurang efektif dalam membantah klaim kontroversial terutama ketika klaim itu disampaikan oleh pengguna dengan keyakinan. Pengoptimalan pengalaman pengguna, yang sering mengedepankan jawaban yang menyenangkan, malah kadang merugikan akurasi.Kesimpulannya, meskipun jawaban singkat penting untuk efisiensi dan penghematan biaya, para pengembang harus hati-hati karena instruksi semacam itu dapat memicu informasi salah yang tidak disadari, sehingga mengurangi kepercayaan terhadap model AI.
