返回洞察
企业转型

100 万美元 Token 不限量实验:真正限制 AI 的,是组织

一个20多人的硅谷团队拿到100万美元预算,尝试彻底放开Token:结果不是生产力无限增长,而是人更累、Review堆积、Context失控。真正暴露出来的,是旧组织已经承接不了AI的新生产力。企业AI转型的下一站,不是更多Token,而是组织重构。

最近看到一个很有意思的实验。

一位自称在硅谷AI训练、推理大厂工作的从业者,带着一个20多人的团队,向公司申请了100万美元预算,然后做了一次相当激进的尝试:

Token不限量。

不用考虑API账单,不用为了节省成本刻意选择便宜模型,也不用纠结一个任务到底值不值得调用顶级模型。只要能提高效率,就尽管用。

从某种意义上说,这不是一次普通的AI使用实验,而是把未来提前做了一次压力测试。

因为如果我们相信模型还会继续变强、Token还会继续变便宜,那么绝大多数企业迟早都会进入这样一种状态:AI的供给不再稀缺。

到了那个时候,生产力是不是就可以无限增长?

这场实验给出的答案是:不能。

更重要的是,当Token这个最显眼的限制被人为拿掉以后,真正限制AI生产力的东西,反而第一次清晰地暴露了出来。

单日峰值消耗 $7,000 · 日消耗中位数 $2,000 · 人均并行Session 5 个 · 团队会议环比降幅 -80%

Token不限量之后,人先成为了瓶颈

先看数据。

团队里Token消耗最高的成员,单日费用达到约7000美元;成员日消耗中位数大约2000美元。既然没有预算压力,大家自然倾向于大量使用能力更强的模型。

但负责人后来逐一和团队成员做1对1时,得到的共同反馈却很反直觉:

大家比以前更累了。

原因很简单。过去知识工作基本是串行的。一个人想问题、查资料、写东西、修改、提交,即便工作很多,本质上仍然是一件一件往前推进。

Agent改变了这个模式。团队成员通常会同时打开大约5个Session:一个写代码,一个查资料,一个做分析,一个修改内容,一个尝试另一套方案。

从产能角度看,一个人突然拥有了五个同时工作的“数字员工”。

但接下来,五个Agent会不断把结果交回来。人需要阅读、判断、Review、补充Context、纠正错误、决定下一步,再不停切换到另外几个Session。

认知切换陷阱 AI可以并行处理五套Context,人脑不行。过去的问题是AI或人“做得不够快”;现在的问题变成了AI做得太快,人已经来不及理解、判断和管理。

也就是说,AI大幅提高了Execution Capacity(执行能力),但没有同步提高Supervision Capacity(监督能力)。

这其实是整场实验最关键的第一个发现:当AI的执行能力超过人的管理带宽以后,继续增加Agent和Token,并不会线性增加组织产出,甚至可能适得其反。

更多Token会产生更多结果,更多结果意味着更多Review,更多Review又意味着更多Context Switching。最后AI生产出来的不是生产力,而是一堆等待人类处理的“数字库存”。

人脑串行带宽 vs 5个Agent并行执行:Context切换与数字库存过载

便宜模型未必便宜,因为真正稀缺的开始变成人

实验里还有第二个很有意思的现象。

团队当然也会做模型路由。简单问答、前期研究、信息整理,会倾向于交给更便宜、更快的模型。按照传统IT成本逻辑,这完全合理。

但实际使用下来,他们发现:便宜模型未必真的便宜。

一个能力强的模型可能一次完成任务,而便宜模型可能需要不断补Prompt、补Context、纠偏、重新生成。单次调用虽然便宜,但整体调用次数更多。更重要的是,每多一轮交互,就多消耗一轮人的注意力。

成本结构重构 企业未来真正应该优化的,不应该只是Cost per Token,而应该是Cost per Accepted Outcome——为了得到一个真正可用的结果,究竟消耗了多少总成本。包括模型费用、人的Review时间、返工次数、Context Switching,以及错误导致的隐性成本。

这个变化其实非常重要。因为Token价格会继续下降,但优秀知识工作者的时间不会以同样速度下降。未来企业AI的成本结构会逐渐发生反转:模型可能越来越便宜,而人的注意力越来越贵。

如果一家公司的AI架构仍然需要员工不停地盯着Agent、补Prompt、验收结果,那么它即使拥有最便宜的Token,也很难获得真正可扩展的生产力。

模型路由误区对比:一次通过的高质量交付 vs 便宜模型反复纠偏的人力总成本

会议少了80%,却说明组织正在丢失Context

这场实验里还有一个非常漂亮、也最容易被误读的数据:团队会议数量环比减少了接近80%。如果这是一个普通的AI转型汇报,这几乎可以直接作为“效率提升”的成功案例。但真实情况并没有那么简单。

随着越来越多的研究、分析和推理过程被交给AI,一些团队成员开始出现一个问题:事情完成了,但人自己对事情的理解变浅了。

过去,一个人亲自完成一个分析,他不仅拥有最后的答案,也拥有答案背后的推理过程。现在很多中间过程发生在Agent里。于是会上别人追问“为什么这么做”“这个数字为什么这样”“为什么选A而不是B”时,负责的人可能无法实时回答,需要回去重新问AI,再异步回复。

进一步发展,就会出现一种非常荒诞的协作模式:A收到问题,交给自己的AI;A把答案发给B;B又把答案交给自己的AI。最后两个AI围绕不同的Context来回推演,而两个人类反而都没有完整掌握这件事情。

企业的Context到底在哪里?如果企业没有一套新的Context Infrastructure,那么AI使用越深入,组织知识反而越碎片化。三个看似不同的现象——人更累、便宜模型不便宜、会议减少却理解变浅——都指向了同一个问题:机器的生产能力已经开始超过旧组织的承载能力。

企业Context丢失与协作断层:思考过程外包导致人与人之间的认知鸿沟

真正的问题,是瓶颈在不断上移

把这三个现象放在一起看,会发现一条非常重要的规律。AI并没有消灭企业里的瓶颈,它只是不断把瓶颈往上推。

AI生产力瓶颈演进链条 Execution 执行 → Review 监督/审查 → Decision 决策选择 → Goal & Accountability 目标与责任

最开始,瓶颈是执行:写代码慢、查资料慢、分析慢、做PPT慢。AI把执行效率提高以后,瓶颈开始移动到Review:AI生成太快,人看不过来。

当Review逐渐被自动化以后,瓶颈又会继续向上移动到Decision:这么多方案,到底选哪个?再往上,最终会来到最难被自动化的部分:我们到底应该做什么?为什么做?接受什么风险?谁为结果负责?

AI每解决一层,瓶颈就向上一层移动。这也是为什么,单纯给旧组织不断增加Token,最终一定会遇到明显的边际效益递减。流水线里把其中一道工序提速十倍,不代表整条流水线产能提高十倍。如果下一道工序不变,结果只会是大量半成品堆积。代码写得更快,Review堵住;分析做得更快,决策堵住;Agent越来越多,人的注意力堵住。

100万美元Token不限量实验最大的价值,并不是证明“Token太贵”,恰恰相反,它证明的是:当Token不再稀缺以后,组织本身才是最大的约束。

AI-Native不是“给旧组织装AI”

这也是今天很多企业AI转型最容易误判的地方。现在大量所谓AI转型,本质上还是岗位不变、流程不变、审批不变、职责不变、组织结构不变,然后给每个人增加一个AI:产品经理+Copilot、程序员+Coding Agent、分析师+Deep Research、管理者+AI Meeting Notes。

这种模式当然有效,而且一定应该做。但它本质上只是Human Organization + AI Tools,AI仍然依附于人。

旧组织+AI工具 vs AI-Native组织四大重构支柱全景对比

旧模式 · Human Organization + AI Tools 岗位不变、流程不变、审批不变。一个岗位依然由一个人负责,只不过拥有了更强的单点工具。最终导致多Agent产生的大量结果全堵在单点人工审批处。

新范式 · AI-Native Organization 开始围绕“AI可以成为默认执行主体”重新设计工作。企业真正要重构的只有四件事,恰好对应前面暴露出来的四类瓶颈。

从“人执行、AI辅助”,变成“AI执行、人处理例外”

今天大多数AI Workflow的基本模式仍然是:AI先做一遍,人再完整检查一遍。这种模式长期看无法扩展。如果AI的生产速度是人的十倍,而每一个输出仍然要求人从头到尾Review,那么AI越强,人越忙。

真正可扩展的方式应该变成:AI执行 → 系统自动验证 → 正常情况自动通过 → 异常和高风险情况升级给人。也就是说,人不再负责检查AI的全部劳动,而只处理例外。

这意味着企业真正应该投资的,不只是模型,还包括Eval、自动测试、规则引擎、风险分级、监控和异常处理。关键指标也不应该只是“AI使用率”,而应该逐渐关注:一个任务有多少比例可以在没有人工介入的情况下完整闭环。

从“个人Context”,变成“组织Context”

AI真正进入业务以后,决定效果的往往不是模型知不知道世界知识,而是它知不知道:这家公司是怎么工作的。产品规则是什么,客户规则是什么,历史上为什么这么决策,数据口径是什么,谁拥有什么权限,哪些事情绝对不能做。

这些东西不能继续散落在人的脑子、微信群和某个Agent Session里。企业需要逐渐形成一层真正的Organizational Context Layer:机器可读、持续更新、有版本、有权限、有来源、有责任人。这样Agent才不是每次从零开始理解公司,Context才能够真正成为组织资产。

从“人工Review”,变成“风险分级的监督系统”

今天很多组织只有两种选择:AI可以做,或者AI不可以做。这太粗糙了。真正成熟的AI-Native组织应该把任务按照风险拆开:低风险、高可验证的任务,直接由AI完成;中风险任务,通过自动Eval和规则检查之后执行;高风险、不可逆或者涉及重大判断的任务,再交给人。

也就是说,Human-in-the-loop不应该是所有流程的默认状态。Human-on-the-loop,甚至Human-by-exception,才更有扩展性。否则“人在回路里”最终很容易演化成:所有Agent都在等一个人审批。那不是AI-Native,那只是把人的瓶颈数字化了。

从“管理人”,变成“管理人和Agent组成的生产系统”

最后一个变化是管理方式本身。过去经理管理的主要对象是人;未来经理管理的,很可能是一套Human + Agent的混合生产系统。

管理者需要关心的问题会发生变化:哪些任务应该交给AI?Agent可以拥有多大权限?什么情况下必须升级?AI的质量如何衡量?一项工作到底消耗了多少人类时间?哪些环节仍然需要人,而这些人为什么必须存在?

这实际上意味着,企业未来真正需要重新设计的,不只是Job Description,而是整个Operating Model。工作不再天然属于某个岗位,它应该先被拆成Task和Decision,再决定哪些由AI执行,哪些由系统验证,哪些由人判断,谁承担最终责任。

那么,一家公司今天应该怎么开始?

如果把上面的内容落到实际行动,企业没有必要一上来就讨论宏大的“AI组织架构”。更实际的方式,是先选一条高频、端到端、结果可衡量的Workflow做实验。比如一个营销活动配置流程、一条研发交付流程、一个客服处理流程、一套分析报告生产流程。

然后不要再问:“这个环节可以加什么AI?”而应该重新问:如果今天重新设计这条流程,并且默认AI已经具备很强的执行能力,这条流程还应该长成现在这样吗?

重点审视四个核心问题

然后换一套指标衡量。不要只看用了多少Token、多少员工用了AI、节省了多少写作时间。更应该看:端到端Cycle Time有没有下降,Cost per Accepted Outcome有没有下降,人工介入次数有没有减少,返工率有没有下降,以及一项任务能够Autonomous Completion的比例到底有多高。这些指标,才真正反映组织有没有获得AI生产力。

真正决定AI转型成败的,是组织能不能跟着变

回头再看这场100万美元实验。它最有价值的地方,不是告诉我们Token很贵,也不是告诉我们不要让员工无限使用AI。

Token还会继续便宜,模型还会继续变强,Agent还会越来越多。真正重要的是:当机器端的生产力持续扩张时,公司另一侧有没有同步发生变化。

如果没有,那么更多Token只会制造更多输出,更多Agent只会制造更多待Review的数字库存。如果有,那么AI才有可能真正突破“个人生产力工具”的上限,开始改变整个组织的产出方式。

企业AI转型真正应该重构的四件事

这四件事情如果不改变,无论买多少模型、给多少Token,都只是在旧组织上不断叠加AI。而真正的AI-Native,不是旧组织跑得更快,是重新设计一家公司应该怎么工作。

终局洞察 当Token不再是限制,模型不再是限制,最后真正限制AI的,就是组织本身。