Google vừa công bố báo cáo kỹ thuật đầu tiên về mức tiêu thụ năng lượng của mô hình Gemini, hé lộ những con số cụ thể chưa từng được công bố bởi một công ty Big Tech nào khác. Theo báo cáo, một prompt văn bản trung bình tiêu tốn 0,24 watt-giờ điện, tương đương một giây chạy lò vi sóng
Nghiên cứu của Google không chỉ tính năng lượng tiêu thụ bởi các chip AI (TPU tùy chỉnh của Google, tương đương GPU) mà còn tính cả hạ tầng hỗ trợ. Chip AI chỉ chiếm 58% trong tổng mức 0,24 watt-giờ, CPU và bộ nhớ chiếm thêm 25%, thiết bị dự phòng chiếm 10%, và 8% còn lại đến từ hệ thống vận hành trung tâm dữ liệu (làm mát, chuyển đổi điện).
Không có bình luận