TLDR
Proses di balik output AI harus dapat dipertahankan di bawah pengawasan hukum di masa depan. Penting untuk menerapkan disiplin evidensi dalam alur kerja AI untuk memastikan akuntabilitas. Organisasi harus memfokuskan evaluasi sistem AI tidak hanya pada efisiensi tetapi juga pada keandalan dan sumber dari keputusan yang diambil. Pomodo.id - Perkembangan teknologi kecerdasan buatan (AI) telah membawa perubahan signifikan dalam cara perusahaan beroperasi, namun tantangan besar terkait akuntabilitas dan tata kelola akan muncul saat teknologi ini dihadapkan pada pengujian hukum. Dengan semakin banyaknya organisasi yang mengandalkan algoritma dan model bahasa besar untuk memproses data, pertanyaan yang lebih mendalam muncul: bagaimana menjamin bahwa hasil dari sistem AI dapat dipertanggungjawabkan dan dapat bertahan ketika disoroti oleh pihak yang tidak sejalan dengan mereka di masa depan?Saat ini, penggunaan AI dalam industri asuransi, misalnya, meningkat drastis, dari 8% menjadi 34% dalam satu tahun. Walaupun adopsi AI meningkat, banyak perusahaan yang gagal menerapkan tata kelola yang adekuat untuk sistem tersebut. Penelitian menunjukkan bahwa hanya satu dari lima perusahaan yang memiliki kerangka kerja yang matang untuk mengawasi penggunaan AI otonom atau semi-otonom. Hal ini menciptakan kesenjangan besar antara penggunaan teknologi dan tata kelola yang memadai, yang harus diperhatikan terutama ketika AI digunakan dalam proses yang berisiko tinggi, seperti klaim asuransi kesehatan, keputusan pinjaman, dan keputusan ketenagakerjaan.Namun, di tengah pesatnya adopsi AI, masih ada tantangan yang menghambat pengembangan tata kelola yang efektif. Banyak perusahaan lebih fokus pada hasil akhir—seperti penampilan produk dan efisiensi proses—dan mengabaikan pentingnya memiliki jejak bukti yang solid. Pengacara Ed, yang memiliki pengalaman sebagai mantan jaksa, berpendapat bahwa sebuah kasus tidak bisa hanya berdiri di atas presentasi yang mengesankan; fondasi yang kuat dari bukti yang sah harus dibangun sebelum kasus tersebut dibawa ke pengadilan. Jika pembuktian tidak kuat, maka seluruh upaya akan sia-sia ketika menghadapi tantangan hukum di masa depan.Kondisi ini semakin kompleks saat negara-negara bagian di Amerika Serikat, seperti Indiana, Utah, dan Washington, mulai memberlakukan aturan yang melarang perusahaan asuransi menggunakan AI sebagai satu-satunya dasar untuk menolak klaim. Ini menunjukkan bahwa ada kesadaran yang semakin meningkat akan perlunya tata kelola yang bertanggung jawab dalam penggunaan AI. Ketidakpastian hukum terkait AI menciptakan kekhawatiran tentang risiko hukum dan tanggung jawab, yang dapat mengganggu kepercayaan pelanggan dan mengakibatkan kerugian finansial yang signifikan bagi perusahaan.
Tata kelola AI adalah seperangkat kerangka kerja dan kebijakan yang dirancang untuk mengelola penggunaan teknologi AI secara etis dan bertanggung jawab. Hal ini penting untuk memastikan bahwa keputusan yang diambil oleh sistem AI adil, dapat dipertanggungjawabkan, dan sesuai dengan standar hukum yang berlaku. Kebanyakan perusahaan masih belum memiliki kebijakan yang efektif, sehingga 80% bisnis berpotensi jatuh ke dalam jebakan kesalahan peradilan saat hasil keputusan mereka diuji di dalam pengadilan.
Lambatnya adopsi kebijakan tata kelola AI ini dapat menyebabkan perusahaan menghadapi konsekuensi serius di masa depan. Ketika lebih banyak regulasi diterapkan, perusahaan yang tidak dapat menunjukkan akuntabilitas dalam penggunaan sistem AI mereka berisiko kehilangan kepercayaan pelanggan. Hal ini akan semakin mengurangi profitabilitas dan reputasi bisnis di pasar yang semakin kompetitif, terutama ketika lebih banyak perusahaan mengintegrasikan AI ke dalam proses bisnis mereka. Oleh karena itu, penting bagi perusahaan di Indonesia dan di seluruh dunia untuk menyusun kebijakan yang jelas dan transparan saat mengadopsi teknologi baru agar dapat menghindari tantangan hukum yang mungkin muncul.
