Courtesy of SCMP

Mengapa Keamanan dan Pengembangan AI Harus Berjalan Beriringan di Dunia Bisnis

Menunjukkan bahwa pengembangan AI yang aman dan inovatif dapat berjalan beriringan, serta pentingnya evaluasi pihak ketiga untuk memastikan keandalan AI agar bisnis dapat memilih dan menggunakan teknologi AI dengan tepat dan bermanfaat.

05 Okt 2025, 09.00 WIB

171 dibaca

Ikhtisar 15 Detik

Keamanan dan pengembangan AI harus berjalan beriringan.
Evaluasi pihak ketiga sangat penting dalam menentukan keandalan model AI.
Bisnis harus fokus pada cara terbaik untuk memanfaatkan AI dalam operasi mereka.

Hong Kong, China - Perkembangan teknologi kecerdasan buatan atau AI semakin cepat dan banyak model AI baru bermunculan dari China maupun negara lain. Hal ini menimbulkan tantangan bagi bisnis karena mereka harus menentukan model AI mana yang baik dan dapat dipercaya untuk digunakan dalam kegiatan mereka. Diskusi global pun berkisar pada bagaimana AI sebaiknya dikembangkan dengan aman tanpa menghambat laju inovasi yang sangat cepat.

Jack Jiang, seorang profesor di HKU Business School, menegaskan bahwa keamanan dan pengembangan AI sebenarnya tidak bisa dipisahkan. Menurutnya, AI hanya akan benar-benar bernilai secara ekonomi jika teknologi tersebut bisa diandalkan dan keandalannya perlu diuji oleh pihak ketiga yang independen. Oleh karena itu, peran evaluasi dan audit menjadi sangat penting dalam proses ini.

HKU Business School kemudian membentuk AI Evaluation Lab yang bertugas untuk menilai berbagai model AI. Laboratorium ini didirikan tak lama setelah OpenAI memperkenalkan ChatGPT dan bertepatan dengan maraknya persaingan di dunia teknologi AI, yang disebut sebagai 'seratus model perang.' Banyak perusahaan teknologi China berlomba untuk menunjukkan keunggulan mereka.

Dengan adanya banyak model AI yang bersaing di pasar, para pebisnis menghadapi dilema memilih teknologi AI yang tepat. Mereka tidak lagi bertanya apakah menggunakan AI atau tidak, tetapi bagaimana memanfaatkan AI secara efektif dan aman untuk meningkatan kinerja bisnisnya. Oleh sebab itu layanan pengecekan dan evaluasi AI menjadi kebutuhan penting.

Di masa depan, akan semakin penting bagi bisnis untuk menggunakan AI yang telah diuji secara independen agar aman dan dapat diandalkan. Hal ini akan membantu menyeimbangkan kebutuhan inovasi cepat dengan keamanan dan kepercayaan dalam penggunaan teknologi AI yang semakin meluas.

Referensi:
[1] https://www.scmp.com/tech/tech-trends/article/3327803/hku-evaluation-shows-chinese-ai-models-struggle-hallucinations?module=top_story&pgtype=section

Analisis Ahli

Jack Jiang

"AI safety and development are two sides of the same coin as AI is only economically valuable if it is reliable, and reliability must be proven by third parties."

Analisis Kami

"Teknologi AI memang harus diimbangi dengan mekanisme pengujian dan audit yang transparan agar pengguna tidak salah langkah dalam pengadopsian teknologi ini. Tanpa standar dan penilaian ketat, proliferasi model AI berisiko menimbulkan kekacauan dan ketidakpercayaan di pasar yang pada akhirnya menghambat potensi inovasi sesungguhnya."

Prediksi Kami

Ke depan, evaluasi independen dari berbagai model AI akan semakin penting dan menjadi standar bagi bisnis dalam memilih teknologi AI yang dapat dipercaya dan aman.

Pertanyaan Terkait

Apa yang dikatakan Jack Jiang tentang keamanan dan pengembangan AI?

Jack Jiang menyatakan bahwa keamanan dan pengembangan AI adalah dua sisi dari koin yang sama, karena AI hanya memiliki nilai ekonomi jika dapat diandalkan.

Apa tujuan dari AI Evaluation Lab di HKU?

Tujuan dari AI Evaluation Lab di HKU adalah untuk mengevaluasi kemampuan berbagai model AI dan membantu bisnis dalam memilih model yang tepat.

Mengapa bisnis perlu membedakan antara model AI yang baik dan buruk?

Bisnis perlu membedakan antara model AI yang baik dan buruk untuk memastikan mereka menggunakan teknologi yang dapat diandalkan dan efektif.

Apa yang dimaksud dengan 'hundred models war' di industri teknologi China?

'Hundred models war' merujuk pada kompetisi di antara perusahaan teknologi China untuk mengembangkan dan menonjolkan model AI mereka di pasar.

Apa implikasi dari penggunaan AI bagi perusahaan di masa kini?

Implikasi dari penggunaan AI bagi perusahaan adalah bahwa mereka harus memahami cara terbaik untuk memanfaatkan teknologi ini untuk keuntungan kompetitif.