TLDR
OpenAI akan menerapkan sistem penandaan air yang tidak terlihat untuk teks yang dihasilkan demi memenuhi persyaratan transparansi EU AI Act. Teknologi penandaan air saat ini memiliki keterbatasan dalam hal deteksi, terutama setelah teks diedit. OpenAI berencana untuk merilis textGrain sebagai teknologi sumber terbuka dan terus menguji kinerjanya seiring perkembangan standar regulasi. Pomodo.id - OpenAI telah memutuskan untuk menambahkan watermark tak terlihat pada teks yang dihasilkan oleh ChatGPT dan Codex di Uni Eropa. Langkah ini diambil untuk memenuhi persyaratan transparansi yang diatur oleh EU AI Act. Watermark ini bekerja dengan menyisipkan sinyal statistik tersembunyi ke dalam tulisan yang dihasilkan oleh model AI. Meskipun pembaca tidak akan melihat watermark tersebut, detektor yang dikembangkan OpenAI dapat menganalisis teks untuk menemukan bukti keberadaan sinyal tersebut. Teknologi ini hadir saat perusahaan-perusahaan AI besar menghadapi tekanan yang meningkat untuk mengidentifikasi konten sintetis.Watermarking ini merupakan bagian dari upaya OpenAI untuk meningkatkan pengawasan terhadap konten yang dihasilkan oleh AI. Dengan mengintegrasikan watermark ke dalam teks, OpenAI memastikan bahwa konten dapat dikenali sebagai hasil dari model AI, yang merupakan persyaratan dari regulasi Uni Eropa mengenai transparansi. Sementara itu, Anthropic, perusahaan yang juga bergerak di bidang AI, telah mengumumkan sistem watermarking serupa untuk model AI mereka, Claude. Beberapa pengguna Claude berpendapat bahwa meskipun AI adalah alat, pengguna tetap memberikan instruksi, konteks, dan keputusan.Sistem watermark yang diperkenalkan OpenAI bernama textGrain. Dengan cara ini, OpenAI mengubah pola statistik dalam pemilihan kata selama proses pembuatan. Watermark ini dijadwalkan akan diluncurkan dalam beberapa minggu mendatang bagi pengguna ChatGPT dan Codex yang memenuhi syarat di seluruh rencana di Uni Eropa. Selain itu, pengguna API OpenAI di seluruh dunia juga diberikan opsi untuk mengaktifkan hasil keluaran yang ter-watermark untuk model tertentu, dengan pengaturan default yang tetap mati.
Watermark adalah pengenal tidak terlihat yang disisipkan ke dalam teks, yang memungkinkan sistem untuk melacak apakah teks tersebut dihasilkan oleh AI. Hal ini penting untuk memastikan transparansi dan membantu membedakan antara konten yang dibuat oleh manusia dan AI. Konsep ini menjadi kunci dalam mengatasi tantangan etika dan keandalan di era AI, yang terus berkembang dan digunakan dalam berbagai sektor.
Meskipun inovasi ini membawa banyak manfaat, terdapat juga beberapa batasan. Misalnya, watermark ini tidak dapat mengidentifikasi pengguna yang menghasilkan teks tertentu, dan OpenAI mengklaim tidak ada perubahan signifikan dalam performa model saat watermark diaktifkan. Namun, perlu dicatat bahwa watermark ini bukanlah simbol fisik; ia bekerja dengan cara halus yang mempengaruhi pilihan kata model, sehingga susah terdeteksi oleh pembaca biasa. Meskipun watermarking dapat membantu dalam mengenali konten dari AI, tidak ada bukti bahwa teknologi ini akan sepenuhnya menghilangkan kesalahan atau masalah pada konten yang dihasilkan.Inovasi ini tentu membawa implikasi bagi pembaca muda di Indonesia, khususnya bagi mereka yang tertarik pada teknologi dan karir di bidang digital. Dengan adanya watermarking, mereka harus lebih memahami pentingnya transparansi dalam teknologi yang mereka gunakan. Bagi mahasiswa dan profesional muda, ini menandakan bahwa keterampilan dalam memahami dan menggunakan teknologi berbasis AI, termasuk cara membaca dan mengevaluasi konten digital, akan menjadi semakin penting ke depan.Seiring dengan berkembangnya peraturan dan standar di negara-negara maju seperti Uni Eropa, industri teknologi Indonesia dapat memanfaatkan perkembangan ini untuk meningkatkan kualitas dan kredibilitas produk AI lokal. Jika kita ingin bersaing di pasar global, penting untuk mengadopsi prinsip transparansi dan etika dalam pengembangan teknologi. AI adalah bagian dari masa depan yang tidak bisa dihindari, dan pemahaman terhadap teknologi seperti watermark ini bisa menjadi kunci untuk membuka peluang baru dalam karir dan inovasi di Indonesia.
