Rangkuman berita: Hype untuk AI Agens akan Menguji Batas Penilaian Manusia

Brian Jackson, seorang Direktur Penelitian di Info-Tech Research Group, mengingatkan bahwa penggunaan kecerdasan buatan (AI) yang berlebihan dalam proses otomatisasi dapat menyebabkan masalah serius. Contohnya, iTutorGroup harus membayar denda sebesar Rp 6.00 miliar ($365,000 k) arena perangkat lunak rekrutmen berbasis AI mereka secara ilegal menolak semua kandidat perempuan di atas 55 tahun dan laki-laki di atas 60 tahun. Selain itu, perusahaan-perusahaan seperti Zillow dan McDonald's juga mengalami masalah ketika mencoba menerapkan AI tanpa mempertimbangkan batasan dan keputusan yang seharusnya tetap diambil oleh manusia.

Penelitian menunjukkan bahwa meskipun AI dapat membantu dalam membuat prediksi, keputusan akhir tetap memerlukan penilaian manusia, terutama dalam situasi yang kompleks atau berisiko. Beberapa perusahaan, seperti Moderna dan ScribeWire, telah berhasil mengintegrasikan AI dengan pendekatan "manusia dalam proses" untuk meningkatkan efisiensi tanpa mengabaikan pentingnya penilaian manusia. Oleh karena itu, penting bagi pemimpin teknologi untuk memahami kapan dan di mana manusia harus terlibat dalam proses pengambilan keputusan agar tidak terjebak dalam masalah yang disebabkan oleh otomatisasi yang berlebihan.

Pertanyaan Terkait

Apa yang terjadi dengan iTutorGroup terkait penggunaan AI?

iTutorGroup membayar penyelesaian sebesar $365,000 setelah dituntut oleh EEOC karena perangkat lunak rekrutmen berbasis AI mereka secara ilegal menolak kandidat perempuan di atas 55 tahun dan laki-laki di atas 60 tahun.

Mengapa penting untuk memasukkan manusia dalam proses pengambilan keputusan AI?

Penting untuk memasukkan manusia dalam proses pengambilan keputusan AI karena AI hanya dapat memberikan prediksi, tetapi tidak dapat menggantikan penilaian manusia yang diperlukan untuk keputusan kompleks.

Apa yang dimaksud dengan 'human-in-the-loop' dalam konteks AI?

'Human-in-the-loop' adalah pendekatan di mana manusia terlibat dalam proses pengambilan keputusan yang didorong oleh AI untuk memastikan bahwa penilaian dan konteks yang tepat diterapkan.

Bagaimana Moderna menggunakan AI dalam proses kerja mereka?

Moderna menggunakan AI untuk membantu karyawan mereka dalam menciptakan chatbot kustom yang membantu dalam merancang uji klinis dan memprediksi dosis obat yang optimal.

Apa risiko yang dihadapi perusahaan jika mereka tidak melibatkan manusia dalam keputusan yang diambil oleh AI?

Perusahaan yang tidak melibatkan manusia dalam keputusan AI berisiko menghadapi konsekuensi hukum dan dapat muncul dalam berita negatif terkait 'AI yang salah'.

Rangkuman Berita: Hype untuk AI Agens akan Menguji Batas Penilaian Manusia

Pertanyaan Terkait

Rangkuman Berita Serupa