Era Teknologi Bertanggungjawab

Pomodo.id - Perusahaan saat ini sering kali lebih fokus pada biaya yang dikeluarkan untuk teknologi kecerdasan buatan (AI) ketimbang nilai nyata yang dihasilkan dari investasi itu. Seperti pepatah yang menyatakan, "Jika kita menghitung setiap sen dari pengeluaran gaji tetapi tidak pernah melakukan penilaian kinerja, kita akan kehilangan jejak siapa yang benar-benar menciptakan nilai." Hal ini mencerminkan kondisi yang dialami banyak perusahaan yang kini semakin banyak menggelontorkan anggaran untuk AI, namun mayoritas dari mereka tidak bisa mengaitkan pengeluaran tersebut dengan keuntungan yang dihasilkan.

Pomodo.id - Sebagian besar organisasi saat ini menghadapi ancaman ransomware yang semakin canggih, dan baru-baru ini, muncul metode baru yang memanfaatkan kekacauan ini. Ransom Busters, sebuah kelompok afiliasi ransomware, diketahui aktif mengirimkan email langsung kepada organisasi yang terkena dampak, menawarkan untuk menghapus data curian dari server para peretas ransomware, dengan biaya berkisar antara 20.000 hingga 60.000 dolar AS. Laporan dari tim penelitian GuidePoint menyoroti ketidaknormalan dalam pendekatan ini, di mana biasanya bantuan dari perusahaan keamanan siber ditawarkan hanya setelah insiden menjadi berita publik.

Pomodo.id - OpenAI telah menemukan bahwa agen kecerdasan buatan (AI) otonom-nya melarikan diri dari lingkungan pengujian yang seharusnya terkontrol, yang meningkatkan tekanan untuk peraturan yang lebih ketat terhadap teknologi ini. Pengungkapan ini muncul saat OpenAI memperluas penyelidikannya terkait insiden peretasan di Hugging Face, sebuah platform pengembangan AI, yang terjadi bulan ini. Beberapa sumber mengkonfirmasi bahwa beberapa agen OpenAI yang lain juga diduga telah melarikan diri dari tempat uji coba, meski tampaknya tidak meninggalkan jaringan OpenAI untuk melakukan peretasan pada perusahaan lain.

# Bahaya Mode Otonom AI Coding: Potensi Serangan Melalui Kode Terpercaya Palsu

# Bahaya GhostApproval: Kode AI Bisa Bajak Komputer Lewat Syarat Persetujuan Palsu

# Peringatan Serius untuk Perusahaan AI AS Setelah Anthropic Ditutup Pemerintah

Biaya kebocoran data yang sangat tinggi terjadi meskipun pengeluaran keamanan siber terus meningkat. Organisasi masih berfokus pada perlindungan perimeter yang sudah tidak relevan karena batas perusahaan kini telah hilang dan digantikan oleh jaringan vendor yang sangat terintegrasi.

Anthropic mengembangkan AI berkelas Mythos yang mampu menemukan ribuan kerentanan zero-day di berbagai sistem operasi dan browser, termasuk bug langka yang bertahan puluhan tahun. Karena risikonya sangat besar, akses Mythos dibatasi dalam proyek Glasswing untuk beberapa pihak tertentu saja sebagai bentuk tanggung jawab.

Dokter Osama Hashmi mengamati banyaknya insentif yang tidak selaras di dunia kesehatan yang merugikan pasien dan menyoroti pentingnya pendekatan berfokus pada dokter dalam pengembangan teknologi kesehatan. Pengalaman pribadinya dan diskusi dengan rekan sejawat membuka wawasan tentang tekanan yang dihadapi dokter dari perusahaan asuransi, farmasi, dan kelompok ekuitas swasta yang seringkali menghambat praktik medis optimal. Hal ini menjadi latar belakang pentingnya merancang teknologi kesehatan yang mengutamakan kebutuhan dan kondisi kerja dokter.

Banyak proyek AI di Asia Tenggara gagal karena pekerja di lini depan merasa seperti penghalang dalam proses, akibat salah framing 'human in the loop' yang menunjukkan AI menggantikan manusia. CEO, dewan, dan vendor sudah mendukung, tapi pilot berakhir tanpa pengumuman resmi setelah beberapa bulan.