アーカイブ — US — turtlesai
AIエネルギー測定ツールがチャットボットの見えないコストを明らかにする
ハギングフェイスのJulien Delavande氏による新しいツールが、AIチャットボットからのメッセージのリアルタイムのエネルギー消費推定を提供し、それらの環境への影響を促進しています。このツールは、Llama 3.3 70Bなどのモデルのエネルギー使用を評価し、一般的な家電製品と比較しています。エネルギーの透明性を栄養ラベルと同様に一般的にすることを目指しています。
要点
- Julien Delavandeは、AIチャットボットのエネルギー消費量を推定するオープンソースツールを開発しました。
- このツールは、MetaのLlama 3.3 70BやGoogleのGemma 3などのAIモデルのChat UIと統合されています。
- ユーザーには、各インタラクションごとのエネルギー消費データをワット時またはジュールで提供します。
- Llama 3.3 70Bに電子メール生成のリクエストを行うと、約0.1841ワット時使用されます。
- Delavandeは、栄養ラベルのように、AIの持続可能性についての意識向上を図っています。
なぜ重要か
- AIの導入が急速に増加する中、エネルギー効率についての関心が高まっています。
- これは、技術の環境への影響やより持続可能なソリューションの必要性に関連する現在の議論と一致しています。
- 2025年には、AI製品におけるエネルギー消費の指標が標準化され、開発手法に影響を与える可能性があります。
デラベンデのようなツールの登場は、AIにおけるエネルギーへの意識を向上させる上で重要であり、将来のテクノロジーデザインやユーザーの習慣に持続可能性への影響を及ぼす可能性があります。