ARTICLE · 人工智能
“连卖 AI 的微软也扛不住了”……一人每月烧掉数千美元 Token,工程师被提醒别「狂刷 Token」,并开始对 AI 消耗“限额”
一语总结微软正通过设置内部 Token 预算与限制措施,引导工程师从“盲目刷 Token”转向“追求 AI 使用的实际业务价值”,标志着 AI 行业进入成本效益优化新阶段。
文章报道了微软内部 AI 使用政策的重大调整。面对工程师每月高达数千美元的 Token 消耗,微软高管明确提出“Tokenmaxxing(盲目追求 Token 消耗)并非目标”,并开始对内部 AI 调用设置预算限制,同时将成本更低的模型设为默认。此举并非削减 AI 战略投入,而是反映了 AI 行业从“追求部署规模”向“追求投入产出比”的范式转变。文章指出,当作为基础设施提供方的巨头都开始严控成本时,整个行业正面临如何平衡模型能力、计算成本与实际业务价值的共同挑战。
- 微软严控内部 AI 调用成本,反对“Tokenmaxxing”。
微软要求工程师关注 Token 消耗,通过设置预算目标和调整默认模型,遏制为了追求 AI 效果而无节制调用昂贵模型的行为。
- AI 行业进入“追求投入产出比”的新阶段。
企业不再单纯鼓励“多用 AI”,而是开始审视 AI 调用是否真正创造了业务价值,以避免高昂的推理成本抵消效率提升。
- 基础设施提供方亦面临成本平衡挑战。
连微软这样的 AI 巨头都在探索降低推理成本的方法,这揭示了当前 AI 行业在模型能力提升与商业可持续性之间的结构性矛盾。
“连卖 AI 的微软也扛不住了”……一人每月烧掉数千美元 Token,工程师被提醒别「狂刷 Token」,并开始对 AI 消耗“限额”
文章报道了微软内部 AI 使用政策的重大调整。面对工程师每月高达数千美元的 Token 消耗,微软高管明确提出“Tokenmaxxing(盲目追求 Token 消耗)并非目标”,并开始对内部 AI 调用设置预算限制,同时将成本更低的模型设为默认。此举并非削减 AI 战略投入,而是反映了 AI 行业从“追求部署规模”向“追求投入产出比”的范式转变。文章指出,当作为基础设施提供方的巨头都开始严控成本时,整个行业正面临如何平衡模型能力、计算成本与实际业务价值的共同挑战。
文章金句
"Tokenmaxxing 不是我们追求的目标。
"如果作为 AI 基础设施提供方的公司,都无法承担自己的 AI 产品成本,那么其他购买你家 AI 服务的公司又该怎么办呢?
"我们的目标不是减少 Token,而是提高每个 Token 带来的影响力。