Lưu trữ — US — turtlesai
Đo Lường Năng Lượng AI: Công Cụ Khám Phá Chi Phí Vô Hình Của Chatbots
Một công cụ mới được phát triển bởi Julien Delavande từ Hugging Face cung cấp ước lượng tiêu thụ năng lượng thời gian thực cho các tin nhắn từ các chatbot AI, thúc đẩy nhận thức về tác động môi trường của chúng. Công cụ đánh giá việc sử dụng năng lượng cho các mô hình như Llama 3.3 70B, so sánh nó với các thiết bị thông thường và mục tiêu để biến sự minh bạch về năng lượng trở nên phổ biến như nhãn dinh dưỡng.
Điểm chính
- Julien Delavande đã phát triển một công cụ mã nguồn mở để ước lượng năng lượng tiêu thụ của các AI chatbot.
- Công cụ này tích hợp với giao diện Chat cho các mô hình AI, bao gồm Llama 3.3 70B của Meta và Gemma 3 của Google.
- Nó cung cấp cho người dùng dữ liệu về năng lượng tiêu thụ dưới dạng watt-giờ hoặc joule cho mỗi tương tác.
- Một yêu cầu tới Llama 3.3 70B để tạo email sử dụng khoảng 0,1841 watt-giờ.
- Delavande dự định tăng cường nhận thức về bền vững trong lĩnh vực AI, tương tự như nhãn dinh dưỡng.
Vì sao quan trọng
- Sự áp dụng của trí tuệ nhân tạo đang tăng mạnh, và sự chú ý ngày càng tăng về hiệu quả năng lượng, phù hợp với xu hướng bền vững rộng lớn.
- Sự phát triển này đồng cảm với các cuộc đàm luận hiện tại về tác động môi trường của công nghệ và sự cần thiết của các giải pháp xanh hơn.
- Vào năm 2025, các tiêu chí tiêu thụ năng lượng có thể trở thành tiêu chuẩn trong các sản phẩm trí tuệ nhân tạo, ảnh hưởng đến các thực práctice phát triển.
Việc xuất hiện các công cụ như Delavande là rất quan trọng trong việc tạo động lực cho sự nhận thức về năng lượng trong lĩnh vực trí tuệ nhân tạo, có thể ảnh hưởng đến thiết kế công nghệ trong tương lai và thói quen sử dụng của người dùng hướng đến bền vững.