Rangkuman berita: Biaya Tersembunyi dari AI

Naren Narendran, seorang ilmuwan utama di Aerospike, membahas tentang tantangan yang dihadapi oleh kecerdasan buatan generatif (GenAI), terutama terkait dengan biaya yang tinggi dan dampak lingkungan dari model bahasa besar (LLM). Model ini, yang didasarkan pada arsitektur jaringan saraf yang disebut transformer, sangat mahal dan memerlukan banyak sumber daya untuk dilatih dan digunakan. Ketika jumlah data yang diproses meningkat, biaya tidak bertambah secara proporsional; misalnya, jika data yang digunakan sepuluh kali lebih banyak, biayanya bisa meningkat seratus kali lipat. Hal ini menjadi masalah besar bagi organisasi yang ingin mengembangkan proyek AI secara berkelanjutan.

Sebagai solusi, Narendran menyarankan untuk mempertimbangkan model bahasa kecil (SLM) yang lebih fokus pada data yang relevan dan meng-cache hasil dari pertanyaan sebelumnya untuk mengurangi penggunaan sumber daya. Selain itu, ada alternatif lain seperti model ruang keadaan yang dapat mengurangi biaya dengan cara yang lebih proporsional. Meskipun kualitas mungkin sedikit menurun, pendekatan ini bisa lebih efisien dan ramah lingkungan. Dengan perkembangan teknologi yang terus berlanjut, penting bagi pemimpin bisnis untuk tetap waspada dan mencari cara yang lebih terjangkau dan berkelanjutan dalam menggunakan AI.

Pertanyaan Terkait

Siapa Naren Narendran dan apa posisinya saat ini?

Naren Narendran adalah Kepala Ilmuwan di Aerospike, sebelumnya bekerja di Bell Labs, Google, dan Amazon.

Apa yang menjadi perhatian utama terkait dengan Kecerdasan Buatan saat ini?

Perhatian utama adalah biaya finansial dan lingkungan yang terkait dengan penggunaan model bahasa besar dalam Kecerdasan Buatan.

Mengapa model transformer menjadi mahal dalam penggunaannya?

Model transformer mahal karena biaya dan sumber daya yang diperlukan untuk pelatihan dan inferensi yang meningkat secara kuadratik seiring dengan jumlah data.

Apa alternatif yang diusulkan untuk model transformer?

Alternatif yang diusulkan termasuk model ruang status yang lebih efisien dalam penggunaan sumber daya.

Bagaimana cara perusahaan dapat mengurangi biaya dalam penggunaan model bahasa besar?

Perusahaan dapat mengurangi biaya dengan menggunakan model bahasa kecil dan menyimpan hasil dari invokasi sebelumnya.

Rangkuman Berita: Biaya Tersembunyi dari AI

Pertanyaan Terkait

Rangkuman Berita Serupa