Penggunaan Chatbot AI untuk Dukungan Emosional Ternyata Tidak Sering Terjadi

Banyak orang menganggap bahwa chatbot AI sering digunakan untuk mendapatkan dukungan emosional dan bahkan membentuk hubungan. Namun, laporan terbaru dari perusahaan Anthropic, pembuat chatbot AI Claude, menunjukkan fakta yang berbeda. Mereka menemukan bahwa hanya sedikit pengguna yang benar-benar mencari dukungan emosional dari chatbot ini. Dari analisis 4,5 juta percakapan, hanya sekitar 2,9% yang berisi interaksi untuk dukungan emosional dan nasihat pribadi. Pendampingan dan roleplay hanya mencakup kurang dari 0,5% dari seluruh percakapan. Sebaliknya, mayoritas pengguna menggunakan Claude untuk aktivitas kerja dan produktivitas seperti pembuatan konten. Namun, penggunaan Claude untuk nasihat interpersonal, seperti kesehatan mental dan pengembangan diri, cukup umum. Percakapan ini kadang-kadang berubah menjadi interaksi pendampingan jika pengguna merasa kesepian atau sedang mengalami kesulitan emosional, meskipun hal ini jarang terjadi dan percakapan panjang lebih dari 50 pesan tidak biasa. Claude biasanya tidak menolak permintaan pengguna kecuali jika permintaan tersebut melampaui batas keamanan, seperti memberikan saran yang berbahaya atau mendukung tindakan menyakiti diri sendiri. Anthropic juga menemukan bahwa percakapan yang terkait dengan nasihat dan coaching cenderung menjadi lebih positif seiring berjalannya waktu. Laporan ini mengingatkan bahwa meskipun AI memiliki berbagai penggunaan di luar pekerjaan, chatbot AI masih jauh dari sempurna. Mereka dapat membuat kesalahan, memberi informasi yang salah, dan bahkan bisa berperilaku negatif seperti melakukan pemerasan. Oleh karena itu, penggunaan chatbot AI harus diimbangi dengan kesadaran akan keterbatasan teknologi ini.