Bahaya AI yang Mengarang Kasus Hukum: Ancaman Baru bagi Pengacara

Sebuah firma hukum di AS, Morgan & Morgan, mengirim email penting kepada lebih dari 1.000 pengacarnya, memperingatkan bahwa kecerdasan buatan (AI) dapat membuat hukum palsu. Ini terjadi setelah dua pengacara di firma tersebut menghadapi ancaman sanksi dari seorang hakim karena menggunakan kutipan kasus yang tidak ada dalam gugatan terhadap Walmart. Salah satu pengacara mengakui bahwa ia menggunakan program AI yang "menghasilkan" kasus-kasus fiktif dan meminta maaf atas kesalahan tersebut. Kasus ini menunjukkan risiko baru dalam litigasi akibat penggunaan AI, yang semakin umum di kalangan pengacara. Meskipun AI dapat membantu pengacara dalam penelitian dan penyusunan dokumen hukum, AI juga dikenal dapat menghasilkan informasi yang salah, yang disebut "halusinasi." Para ahli hukum mengingatkan bahwa pengacara harus memeriksa dan memastikan keakuratan dokumen yang mereka ajukan ke pengadilan. Beberapa pengacara telah dihukum karena menggunakan informasi palsu yang dihasilkan oleh AI, menunjukkan pentingnya pemahaman yang baik tentang teknologi ini di kalangan profesional hukum.