Anthropic Akui Kesalahan Kutipan AI Claude dalam Kasus Hukum Musik

Anthropic, perusahaan yang mengembangkan chatbot AI bernama Claude, menghadapi masalah serius di pengadilan Northern California karena Claude menghasilkan kutipan palsu dalam dokumen hukum. Kutipan ini salah dalam judul dan penulisnya, yang seharusnya menjadi referensi sah di dalam persidangan. Kesalahan tersebut tidak terdeteksi saat pemeriksaan manual oleh pengacara Anthropic, yang menyebabkan mereka harus meminta maaf dan menjelaskan bahwa ini adalah kesalahan kutipan yang tidak disengaja, bukan upaya menipu atau membuat referensi palsu dengan sengaja. Sebelumnya, pengacara dari Universal Music Group menuduh bahwa kesaksian ahli dari Anthropic, Olivia Chen, menggunakan kutipan palsu yang dihasilkan AI selama persidangan, yang mengakibatkan hakim federal perintahkan perusahaan untuk memberikan penjelasan terkait tuduhan ini. Kasus ini menjadi contoh terbaru bagaimana penggunaan AI dalam proses hukum dapat menimbulkan risiko kesalahan penting, seperti riset yang tidak akurat atau dokumen dengan fakta palsu. Insiden serupa juga pernah terjadi pada pengacara lain di California dan Australia yang menggunakan AI dalam dokumen hukum mereka. Meskipun ada risiko tersebut, banyak startup yang memakai AI untuk membantu pekerjaan pengacara justru menarik pendanaan besar dari investor, seperti Harvey yang sedang dalam pembicaraan untuk mendapatkan pendanaan lebih dari Rp 4.17 triliun ($250 juta) dengan valuasi Rp 83.50 triliun ($5 miliar) .