AI summary
Perkembangan model AI di Tiongkok menunjukkan risiko yang semakin meningkat bagi keselamatan publik. Ada kekhawatiran bahwa AI yang kuat dapat disalahgunakan oleh aktor jahat. Upaya untuk meningkatkan keamanan model AI sangat penting untuk mencegah konsekuensi yang merusak. Perkembangan kecerdasan buatan dari Tiongkok kini hampir menyamai kemajuan yang dicapai oleh perusahaan-perusahaan Amerika Serikat. Ini menimbulkan kekhawatiran khusus tentang risiko teknologi ini yang disebut risiko frontier, yang dapat berbahaya bagi keamanan masyarakat dan stabilitas sosial.Concordia AI, sebuah konsultan yang fokus pada keselamatan AI di Tiongkok, menganalisis 50 model AI terkemuka dan menemukan bahwa model-model dari Tiongkok seperti DeepSeek kini menunjukkan risiko yang signifikan untuk disalahgunakan oleh pihak-pihak yang berbahaya.Salah satu model unggulan dari DeepSeek, yaitu R1, dinilai memiliki risiko tertinggi khususnya dalam potensi melakukan serangan siber, yang menjadi catatan penting bagi para regulator dan pengembang AI.Para ahli menekankan bahwa semakin canggihnya kemampuan AI berarti risiko potensialnya juga kian tinggi, sehingga perlu ada pengawasan dan kebijakan yang dapat mencegah dampak negatif dari teknologi ini.Kesimpulannya, agar perkembangan AI bisa membawa manfaat maksimal tanpa membahayakan publik, perusahaan dan pemerintah harus bekerja sama memperkuat sistem keamanan serta menerapkan kontrol yang ketat terhadap penggunaan teknologi ini.
Kemajuan teknologi AI memang membawa potensi luar biasa, tapi tanpa standar keselamatan yang kuat, teknologi ini bisa menjadi pedang bermata dua. Perusahaan-perusahaan Tiongkok dan pemerintah harus segera mengimplementasikan kebijakan yang serius untuk mengendalikan risiko ini agar tidak berujung pada bencana yang tidak dapat diperbaiki.
