大模型推理到底费多少电？Token 和电力什么关系

dianfei_gg · 2026 年4 月 20 日 03:26

H100满载10kW这数字我第一次算也被吓到

cloudberry_j · 2026 年4 月 21 日 00:22

这么一算全球每天几十亿次查询的碳排放确实恐怖

oakgrove_rx · 2026 年4 月 23 日 12:54

一次GPT-4查询大约消耗一瓶水和一颗灯泡亮一分钟的电

suanfa_jj · 2026 年4 月 25 日 11:48

vLLM优化效果真明显，我司用了也省一半