TLDR
Anthropic menerapkan watermark pada output AI untuk memenuhi persyaratan EU AI Act. Watermark ini bertujuan untuk menandai konten yang dihasilkan oleh Claude, meskipun tidak sepenuhnya mencegah penyalahgunaan. Proses watermarking dapat membantu mendeteksi penggunaan AI yang tidak sah dalam penelitian akademis. Pomodo.id - Anthropic telah mengumumkan bahwa model AI mereka, Claude, akan menerapkan sistem watermark tak terlihat untuk menandai konten yang dihasilkan oleh AI. Sejak 2 Agustus, teks yang dihasilkan oleh model yang dirilis akan dilengkapi dengan watermark yang tidak terlihat, menunjukkan bahwa output tersebut ditulis oleh AI. Ini merupakan langkah strategis perusahaan yang berbasis di San Francisco, AS, untuk mematuhi regulasi baru yang ditetapkan oleh Uni Eropa melalui EU AI Act. Dengan watermark ini, Anthropic berharap konten yang dihasilkan dapat dikenali sebagai produk berbasis AI, memberikan pengidentifikasian yang jelas untuk pengguna dan platform digital.Watermark ini menggunakan algoritma yang mengubah cara model AI memilih kata-kata dalam teks, sehingga menghasilkan jejak yang dapat teramati secara statistik. Hal ini memastikan bahwa watermark tidak memengaruhi arti, kualitas, atau keterbacaan dari respons yang dihasilkan oleh Claude. Proses watermark ini juga dipastikan akan tetap hadir meski ada beberapa pengeditan pada teks. Selain itu, untuk gambar yang dihasilkan, Claude akan menyertakan metadata yang mengandung tanda tangan digital untuk menunjukkan bahwa model yang memproses file tersebut.Peraturan baru ini, yang mulai berlaku pada 2 Agustus, mengharuskan penyedia model AI untuk memastikan bahwa output yang dihasilkan oleh AI dapat dikenali, jika tidak akan menghadapi denda mencapai €15 juta (sekitar Rp260 miliar) atau 3% dari total pendapatan tahunan global mereka. Model yang diluncurkan setelah tanggal tersebut harus memenuhi syarat tersebut dengan segera, sementara model yang sudah ada di pasaran diberikan tenggat waktu hingga 2 Desember untuk mematuhi regulasi ini.[cards: Watermark] Watermark adalah tanda pengenal yang disisipkan dalam teks yang dihasilkan oleh Claude. Tanda ini tidak dapat dilihat oleh mata manusia, tetapi memungkinkan pengguna dan sistem lain untuk mendeteksi jika konten tersebut dihasilkan oleh AI. Watermark ini juga akan otomatis mengikuti teks ketika disalin dan di-paste, memperoleh kehadiran yang dapat dikenali meskipun ada pengeditan yang dilakukan. Ini sangat penting untuk menjaga transparansi dalam penggunaan teknologi AI dan memastikan bahwa publik dapat dengan jelas membedakan antara konten yang dihasilkan manusia dan yang dihasilkan oleh mesin.Namun, meskipun teknologi watermark ini menjanjikan, ada kekhawatiran mengenai seberapa efektif deteksi watermark dapat dilakukan dalam praktik. Ini karena proses pengeditan pada teks bisa berpotensi menghapus atau memodifikasi watermark tersebut. Beberapa pengguna merasa bahwa hal ini bisa menciptakan kebingungan tentang keaslian konten, terutama jika watermark tidak terdeteksi dengan baik. Dalam konteks yang lebih luas, adopsi watermark seperti ini menunjukkan tentang pentingnya regulasi dalam pengembangan teknologi AI, dan bagaimana perusahaan perlu beradaptasi dengan ketentuan yang ada agar tetap dalam batas hukum.Implementasi watermark ini tidak hanya akan berlaku terbatas pada model yang dirilis di Uni Eropa, tetapi akan diterapkan di seluruh dunia. Ini menjadi tanggung jawab Anthropic untuk memastikan bahwa semua produknya memenuhi standar yang diharapkan oleh EU. Langkah ini menandai awal baru dalam upaya untuk menciptakan kepercayaan dalam penggunaan teknologi AI, dan penting bagi semua pemangku kepentingan untuk terus mendukung dan memahami pentingnya transparansi dalam inovasi teknologi masa depan.
