十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

微软员工 28 天烧掉 2.8 万美元 Token,AI 预算怎么管

微软员工 28 天烧掉 2.8 万美元 Token,AI 预算怎么管 据报道一份泄露的微软内部表格显示有员工在 28 天内产生了约 2.8 万美元约合人民币 18.9 万元的 Token 成本而同期全体员工 AI 用量的中位数只有 300 美元左右。微软随即收紧内部 AI 用量管理上线用量监控、给各部门设预算目标并把内部默认工作负载切换到更便宜的 GPT-5.6 Sol。这条消息 8 月 30-31 日被多家媒体转载在打工人圈子里讨论度很高。事实梳理公司开始给 AI 用量上紧箍咒把已知信息拆开看2.8 万美元怎么来的。据报道泄露表格显示近几个月部分员工大量调用 AI 来提升内部数据排名极端个案达到 28 天 2.8 万美元同一统计周期里个人用量中位数约 300 美元差了近一百倍。微软的应对分三步。一是 Token 用量监控识别异常高支出账号二是更严格的预算限制据报道自 2026 年 7 月起各部门都有自己的 AI Token 预算目标员工能随时查看个人 AI 支出三是把内部默认模型切换为更便宜的 GPT-5.6 Sol。管理口径也变了。更新后的内部 Copilot 指引不再鼓励多用而是明确不要一味追求调用次数。部门差异很大。据报道泄露数据里不同部门用量差异悬殊CoreAI 这类 AI 核心部门的中位数明显高于其他部门——用量高低不只是个人习惯问题也跟岗位性质强相关。技术本质Token 计费下用量失控是必然的这件事的技术内核并不复杂大模型按 Token 计费输入和输出都算钱长上下文、长输出、反复重试费用是指数级往上走的。问题在于大多数人对一次对话花了多少钱没有感知——聊天框里打几个字后台可能已经烧掉了几千个 Token。为什么之前没人管因为前两年是鼓励用 AI的阶段公司把 AI 工具当福利发考核的是使用率大家自然是能多调就多调甚至有人开着多个客户端刷任务。等月底账单出来管理层才意识到福利发成了无底洞。这跟当年云主机月底账单吓人的剧本一模一样——计费模型没变变的是管理粒度从粗放补贴切换到预算制。对普通打工人来说这件事的信号很直接公司资源是公司资源AI 额度也是。你调用的每一笔都在某个部门的报表上挂着。今天微软查的是 2.8 万美元的极端个案明天可能就是你的用量是部门中位数的三倍请说明理由。普通开发者和从业者该怎么应对在公司场景用公司提供的 AI 工具先弄清楚有没有个人用量视图别把内部免费当成无限免费批量任务、数据排名类玩法谨慎参与这类场景最容易触发异常检测长文档、大上下文任务尽量拆小既省 Token 也省时间如果公司已经上了用量监控就把个人 AI 支出当成一条要维护的指标别让它成为月底报表里的异常点。个人开发场景控制 API 成本有几个立竿见影的办法先算后调。发请求前用分词库预估 Token 数心里有数再动手importtiktoken enctiktoken.encoding_for_model(gpt-4o)text把这段提示词发给模型之前先算算大概要花多少 tokenprint(len(enc.encode(text)))# 输出 token 数量乘以单价就是成本卡住输出上限。调用时显式设置max_tokens防止模型话痨式输出把账单拉高。小任务别用大模型。分类、抽取、格式化这类简单活用便宜的小模型或者规则代码处理成本能差一个数量级。监控响应里的 usage 字段。各家的 API 返回里都带输入/输出 Token 数把它落库月底自然知道钱花在哪了。善用缓存和批处理。重复的提示词走缓存多条短请求合并成一条都能省下可观的费用。一点想法AI 工具从随便用到预算制本质上是它从新鲜玩具变成了生产资料。对打工人来说多了解一点 Token 成本的结构不是给自己添堵而是避免哪天真被请喝茶。另外微软把默认模型切到更便宜的 GPT-5.6 Sol 这件事本身也值得注意它说明对相当一部分任务来说旗舰模型的边际收益并不值那个差价选模型本身就是一项成本控制技能。你们的公司开始管 AI 用量了吗评论区聊聊。
返回列表