大家都在聊 AI 算力有多猛
我看了一些最近关于 AI 气候影响的研究,发现这事儿真不是简单的“多用点电”那么简单。现在的讨论维度非常杂,从模型训练阶段的碳排放,到推理阶段(也就是我们平时用对话框问问题时)的能耗,再到数据中心冷却系统带来的水资源消耗,每一个环节都在拉高环境成本。
其实我一直在想,如果以后我们追求的是极致的参数量,那是不是本质上是在用地球的资源换取一点点智力增量?目前的解决思路主要还是靠算法优化,比如用更小的模型做蒸馏,或者在架构上搞点能效比更高的方案。
我把目前几个核心的研究方向和争议点梳理了一下,大家可以看看有没有理解偏差:
- 训练阶段的“爆发式”排放: 训练一个像 GPT-4 这种规模的模型,其产生的碳足迹基本相当于几辆车跑几十年的排放量。虽然现在很多大厂(比如 Google, Microsoft)都在搞碳中和,但算力需求的增长速度完全跑赢了绿电的转型速度。
- 推理阶段的“长尾”效应: 这是一个容易被忽视的坑。虽然训练一次很费电,但如果模型被全球几十亿人每天高频调用,推理阶段累积的能耗会极其恐怖。这种“碎片化”的能耗很难被精准统计,但也最难控制。
- 硬件生命周期与电子垃圾: 为了跑大模型,英伟达的 H100、B200 这些芯片迭代极快,旧的硬件更新换代非常迅速。这些高性能芯片的生产过程和报废后的处理,本身就是巨大的环境负担。
- 监管层面的“硬约束”: 现在欧盟那边已经在研究针对 AI 能效的强制性披露标准了。以后可能不光要比谁的模型聪明,还得比谁的“能效比”高,这对于那些只顾堆参数、不顾架构优化的工作流来说,是个巨大的挑战。
其实我一直在想,如果以后我们追求的是极致的参数量,那是不是本质上是在用地球的资源换取一点点智力增量?目前的解决思路主要还是靠算法优化,比如用更小的模型做蒸馏,或者在架构上搞点能效比更高的方案。
如果大家在做 AI Agent 或者构建复杂的 RAG 工作流时,真的能考虑一下如何减少不必要的冗余调用,或许也是一种从微观层面减碳的方式。
事件追踪 · 相关报道
英伟达现在这种搞法,到底是AI时代的造血干细胞
48分钟前
美国现在的移民政策正在把顶尖的 AI 人才往外赶
4小时前
看完了最近几家头部科技公司披露的财报和监管文件
4小时前
算力中心正在把美国的工业版图彻底改写了
5小时前
英伟达砸 60 亿美元搞这个动作
12小时前
现在的工程师如果还死磕某一种特定的编程语言,可能真的会挺危险的
15小时前
免费 AI 工具箱 · 全部完全免费