SemiAnalysis，一家专注于半导体研究的知名机构，公布了其内部使用大模型的真实成本：每百万Token仅需0.99美元。然而，更令人震惊的是，大模型Token的支出已占到其员工总薪资的三成。

尽管这个比例看似不低，但其带来的产出效益却远超人力成本。该机构的员工人均每月消耗近50亿个Token，是Meta公司人均水平的五倍以上，核心贡献者更是月消耗高达1000亿Token。过去需要初级分析师花费数小时完成的Excel模型转换和财报图表制作等任务，现在仅需几分钟和几美元即可搞定。SemiAnalysis认为，这并非简单的10%效率提升，而是正在重塑专业服务行业的经济模式。

研究机构、对冲基金、律师事务所等依赖脑力劳动的行业，Token支出占薪资的两到三成可能只是时间问题。英伟达CEO黄仁勋对此也表示担忧，他曾表示，如果一名年薪50万美元的工程师，年底Token消费不到25万美元，他会“彻底抓狂”。他计划为每位英伟达工程师提供相当于半年工资的Token预算，并让7.5万名员工搭配750万个AI智能体协同工作，他认为不使用AI如同坚持用纸和铅笔进行芯片设计一样落后。Token已不再是工具，而是新时代的“生产资料”。

与此同时，硅谷的另一部分企业却为AI账单感到头疼。Uber的案例尤为典型：去年底，该公司向5000名工程师推广Claude Code，并设立了使用排行榜。结果，2月份32%的工程师使用率在3月份飙升至84%，4月份时，95%的工程师每月都在使用AI，70%的代码提交由AI生成，但全年预算却已提前耗尽。Uber的CTO不得不重新制定预算，甚至有报道称公司为每位员工设置了每月1500美元的Token使用上限，超出部分需特批。Uber的COO Andrew Macdonald坦言，AI使用量虽在增长，但其与消费者功能创新之间的联系尚未显现。

微软的情况也不容乐观。《The Verge》报道称，微软正取消大部分Claude Code许可证，转向自家的GitHub Copilot CLI，原因在于其花费的速度超过了产出速度。英伟达应用深度学习副总裁Bryan Catanzaro直言：“对我的团队来说，计算成本远远超过了员工的成本。”MIT在2024年的一项研究发现，在以视觉工作为主的岗位中，只有23%的情况下AI自动化在经济上是划算的，其余77%的情况下雇佣人类员工更为经济。甚至有工程师抱怨AI智能体的使用不当导致数据库和网络被“毁掉”，这是“过度使用”的代价。

硅谷正经历AI经济学中最分裂的时期：一方面是技术带来的前所未有的生产力提升，另一方面是账单以前所未有的速度膨胀。

成本的下降趋势刚刚开始。SemiAnalysis的核心观点是，不应只关注当前的价格，成本的塌缩才刚刚起步。

在软件层面，通过在B300上运行DeepSeek R1，并结合wideEP、disagg与MTP等纯软件优化技术，单GPU的吞吐量可以从基线的1000 tokens/秒大幅提升至14000 tokens/秒，增幅达14倍，这完全是通过代码优化实现的。

在硬件层面，经过优化的GB300 NVL72吞吐量是H100的17倍，若切换至FP4精度，甚至可以达到32倍。虽然Opus 4.7的标价为输入5美元/百万Token，输出25美元/百万Token，但由于智能体工作负载的输入输出比高达300:1，加上超过90%的缓存命中率，实际混合成本被压缩至0.99美元，远低于标价的五分之一。

将软件和硬件的优化结合来看，一个不可回避的结论是：大模型的毛利率扩张并非偶然的定价策略，而是一种结构性的趋势。Anthropic公司的年度经常性收入（ARR）从90亿美元飙升至440亿美元以上，毛利率也从38%提升至70%以上，这意味着Token价格的下降并未影响到卖Token方的盈利能力，反而使其更加赚钱。Gartner今年3月的报告也印证了这一点，预计到2030年，万亿参数大模型的推理成本将比2025年下降超过90%。SemiAnalysis明确预测，2027年的Token价格将持续下降。

钱花出去了，然后呢？这是当前AI领域最令人困惑的局面：全球科技公司今年的AI资本开支已达7400亿美元，较去年激增69%，而与此同时，科技行业的裁员速度已超过去年全年。资金在疯狂投入，人员却在被裁减，但高盛首席经济学家指出，AI对经济的实际影响至今为止基本为零。这不是AI的不足，而是每一次基础设施革命都会经历的阵痛：先投入资金建设基础设施，然后等待其发挥作用。电力网络、互联网皆是如此，AI也不例外。不同之处在于，这次基础设施建设和应用落地的速度是前所未有的。

SemiAnalysis已经看到了AI应用的成果，即30%的薪资投入带来了数倍的产出杠杆，且成本曲线仍在急剧下降。对于其他公司而言，是选择现在就投入其中，还是等待别人先行一步再追赶。