TLDR
Konsumsi energi dari model AI dapat diukur dan dibandingkan dengan perangkat rumah tangga. Penggunaan model AI yang lebih efisien dapat membantu mengurangi dampak lingkungan. Transparansi dalam penggunaan energi dapat mendorong kesadaran dan perubahan dalam komunitas teknologi. Model AI mengonsumsi energi setiap kali dijalankan, dan permintaan akan lebih banyak daya untuk mendukung AI telah menyebabkan beberapa perusahaan mengejar strategi yang tidak ramah lingkungan. Julien Delavande, seorang insinyur di Hugging Face, membangun alat untuk memperkirakan konsumsi energi model AI. Alat ini dirancang untuk bekerja dengan Chat UI, antarmuka depan open-source untuk model seperti Llama 3.3 70B dan Gemma 3 dari Google.Alat ini memperkirakan konsumsi energi pesan yang dikirim ke dan dari model secara real-time, melaporkan konsumsi dalam Watt-jam atau Joule. Menurut alat ini, meminta Llama 3.3 70B untuk menulis email tipikal menggunakan sekitar 0.1841 Watt-jam, setara dengan menjalankan microwave selama 0.12 detik atau menggunakan pemanggang roti selama 0.02 detik. Meskipun perkiraan ini tidak sangat presisi, mereka mengingatkan kita bahwa segala sesuatu, termasuk chatbot, memiliki biaya.Dengan proyek seperti skor energi AI dan penelitian yang lebih luas tentang jejak energi AI, Delavande dan rekan-rekannya mendorong transparansi dalam komunitas open source. Suatu hari, penggunaan energi bisa menjadi sejelas label nutrisi pada makanan. Alat ini bertujuan untuk meningkatkan kesadaran tentang konsumsi energi oleh model AI dan dampak lingkungannya.
