Courtesy of TechCrunch
Rangkuman Berita: Mengukur Konsumsi Energi Model AI: Alat Baru dari Hugging Face
Meningkatkan kesadaran tentang konsumsi energi oleh model AI dan dampak lingkungannya.
Share
Ikhtisar 15 Detik
- Konsumsi energi dari model AI dapat diukur dan dibandingkan dengan perangkat rumah tangga.
- Penggunaan model AI yang lebih efisien dapat membantu mengurangi dampak lingkungan.
- Transparansi dalam penggunaan energi dapat mendorong kesadaran dan perubahan dalam komunitas teknologi.
tidak disebutkan - Model AI mengonsumsi energi setiap kali dijalankan, dan permintaan akan lebih banyak daya untuk mendukung AI telah menyebabkan beberapa perusahaan mengejar strategi yang tidak ramah lingkungan. Julien Delavande, seorang insinyur di Hugging Face, membangun alat untuk memperkirakan konsumsi energi model AI. Alat ini dirancang untuk bekerja dengan Chat UI, antarmuka depan open-source untuk model seperti Llama 3.3 70B dan Gemma 3 dari Google.
Alat ini memperkirakan konsumsi energi pesan yang dikirim ke dan dari model secara real-time, melaporkan konsumsi dalam Watt-jam atau Joule. Menurut alat ini, meminta Llama 3.3 70B untuk menulis email tipikal menggunakan sekitar 0.1841 Watt-jam, setara dengan menjalankan microwave selama 0.12 detik atau menggunakan pemanggang roti selama 0.02 detik. Meskipun perkiraan ini tidak sangat presisi, mereka mengingatkan kita bahwa segala sesuatu, termasuk chatbot, memiliki biaya.
Dengan proyek seperti skor energi AI dan penelitian yang lebih luas tentang jejak energi AI, Delavande dan rekan-rekannya mendorong transparansi dalam komunitas open source. Suatu hari, penggunaan energi bisa menjadi sejelas label nutrisi pada makanan. Alat ini bertujuan untuk meningkatkan kesadaran tentang konsumsi energi oleh model AI dan dampak lingkungannya.
Pertanyaan Terkait
Q
Apa tujuan dari alat yang dibuat oleh Julien Delavande?A
Tujuan dari alat yang dibuat oleh Julien Delavande adalah untuk mengukur konsumsi energi saat menggunakan model AI.Q
Bagaimana alat tersebut mengukur konsumsi energi?A
Alat tersebut mengukur konsumsi energi dengan melaporkan penggunaan dalam Watt-jam atau Joule secara real-time.Q
Apa dampak dari penggunaan model AI terhadap lingkungan?A
Penggunaan model AI dapat meningkatkan kebutuhan energi secara signifikan, yang dapat berdampak negatif pada lingkungan.Q
Model AI mana yang disebutkan dalam artikel ini?A
Model AI yang disebutkan dalam artikel ini adalah Llama 3.3 70B dan Gemma 3.Q
Mengapa transparansi dalam penggunaan energi penting untuk komunitas open-source?A
Transparansi dalam penggunaan energi penting untuk komunitas open-source agar pengguna dapat memahami dampak lingkungan dari teknologi yang mereka gunakan.Rangkuman Berita Serupa
Teknologi
1 bulan lalu
97 dibaca
Mengapa Peneliti Peduli dengan Model Bahasa Kecil?
Teknologi
2 bulan lalu
22 dibaca
ChatGPT mungkin tidak sehaus daya seperti yang pernah diasumsikan.
Teknologi
2 bulan lalu
113 dibaca
Kecenderungan Tak Terpuaskan Terhadap Kekuatan AI Terus Meningkat
Bisnis
2 bulan lalu
65 dibaca
DeepSeek mengguncang persamaan energi-AI.
Teknologi
3 bulan lalu
186 dibaca
Memikirkan Kembali AI dan Robotika: Menekankan Efisiensi daripada Fungsionalitas
Teknologi
4 bulan lalu
124 dibaca
AI dan Persamaan Energi