最近,联合国大学报告指出,为了减少AI能耗与碳足迹,用户在与ChatGPT等AI交互时应撰写简洁凝练的指令,避免使用“谢谢”等礼貌用语及无意义的闲聊循环,此举可让AI能耗降低25%。
乍一看“不说谢谢就能省电25%”,确实让人觉得有点离谱,甚至会觉得AI是不是太笨了。不过,如果我们从底层原理的角度来拆解这个新闻,就会发现这其实是一个非常严谨的科学问题。
我们可以从以下三个层面来理清这个逻辑:
1. AI不是“人”,它没有“情绪过滤网”
人类在交流时,大脑会自动把“你好、谢谢、请”这些词当成背景音过滤掉,只抓取核心信息。但大语言模型(LLM)本质上是基于概率的数学模型。当你对AI说“请你帮我写个代码,谢谢”时,AI并不能像人一样觉得“这只是客套话”,而是会把每一个Token(词元)都当作需要处理的计算任务。为了维持对话的逻辑连贯性,它在生成回复时,也需要消耗算力去处理这些额外的上下文。
2. “闲聊循环”才是耗电大头
新闻中提到的不仅仅是单句的“谢谢”,更关键的是“无意义的闲聊循环”。如果你和AI进行多轮没有实质信息增量的寒暄,这些冗余文本会不断累积在上下文窗口(Context Window)中。每次你发送新指令,AI都要重新阅读并计算之前所有的聊天记录。输入和输出的Token越多,GPU集群消耗的算力和电力就呈指数级上升。
3. 为什么刚好是25%?
联合国大学的这项研究大概率是基于大规模真实用户交互数据的统计结果。在实际应用中,很多普通用户的Prompt(提示词)往往非常冗长,包含了大量的背景铺垫、礼貌用语和重复确认。如果把这些“水分”挤干,直接给出精准指令,整体节省下来的无效计算量达到四分之一是完全合理的。
说到底,还是因为AI不会真正的思考,它分辨不出哪些是有意义的词,它必须对输入的每一个字都付出算力成本。下次我们再对AI提问时,不必客气,直奔主题的命令它吧😄
夜雨聆风