Bisnis dan Risiko AI: Kesepakatan Besar dan Tantangan Laporan AI di Australia

Beberapa perusahaan AI seperti Zendesk, Anthropic, dan Google baru-baru ini menandatangani kesepakatan besar untuk menerapkan teknologi AI di sektor bisnis enterprise. Zendesk memperkenalkan agen AI yang diklaim mampu menyelesaikan 80% kasus layanan pelanggan, sementara Anthropic menggandeng IBM dan Deloitte dalam kemitraan strategis. Google juga meluncurkan platform AI khusus untuk bisnis yang diharapkan dapat mempercepat adopsi AI. Namun, meskipun kesepakatan ini menjanjikan, penggunaannya tidak selalu mulus. Deloitte menghadapi masalah serius setelah laporan yang dikirim kepada pemerintah Australia diduga mengandung kesalahan yang berasal dari AI, disebut hallucinations atau data palsu yang dibuat oleh sistem AI. Pemerintah Australia meminta Deloitte mengembalikan dana sebagai tindakan korektif dan peringatan bagi penggunaan AI yang sembarangan. Diskusi dalam podcast Equity menekankan bahwa meski aplikasi sosial berbasis AI menarik dan potensial, bisnis enterprise adalah jalur utama untuk menghasilkan pendapatan secara signifikan dan lebih cepat. CEO dan pengamat teknologi menyoroti pentingnya tanggung jawab dalam mengelola output AI agar tidak mencederai reputasi dan hasil bisnis. Seiring dengan perkembangan ini, ada optimisme bahwa AI akan menjadi titik kontak pertama dalam pelayanan pelanggan di berbagai industri, termasuk servis otomotif dan perbankan. Namun, adopsi penuh teknologi ini akan memerlukan usaha keras dari perusahaan untuk mempertahankan dan memperbaiki fungsi teknologi tanpa mengabaikan aspek manusiawi dan tanggung jawab. Akhirnya, regulasi dan pengawasan dari pemerintah dipandang krusial agar AI dapat digunakan secara bertanggung jawab dan akurat, sehingga bisnis tidak hanya mengandalkan teknologi sebagai alat otomatis tanpa kontrol. Penggunaan AI harus diimbangi dengan validasi manusia untuk menghindari risiko informasi yang salah dan kegagalan dalam pelayanan.