📌Token 成本专题:客户反馈调研

😐 当前市场频繁出现企业过度消耗 Token 引发成本高企的讨论,员工使用 AI 编程工具等产品导致 Token 与算力成本超出预期,不少公司对此感到成本压力。该问题可能阻碍 AI 技术在企业端的普及节奏,进而拖累所有 AI 相关标的表现。本次调研走访多家企业 IT 负责人,收集真实反馈,综合研判后认为,相关风险实际低于市场预期。

🔍调研核心见闻
⚠️ 1. 参与调研的企业中,约 60% 都将 AI Token 与算力成本视作实际难题,这一占比具备参考性,并非媒体夸大报道。
✅ 2. 绝大多数受访公司已经落地,或即将推出管控规则,以此限制算力与 Token 的消耗。
🤝 3. 多数企业表示,除了剔除明显的无效消耗外,不愿大幅限制 AI 使用。企业核心目标是推动内部 AI 落地应用,因此选择压缩其他 IT 开支,来对冲不断上涨的 AI 成本。
📈 4. 所有受访企业均出现 AI 使用率大幅攀升的情况。市场关注 AI 成本上涨,本质是 AI 应用规模扩大所致,并非单个 Token、单位算力的单价上涨。
💡瑞银初步结论
🤔 1. 市场对成本问题的担忧存在夸大成分。企业出台管控规则控制 AI 成本,属于常规的成本管控行为,没有任何一家受访企业表示会全面叫停 AI 落地。即便是优步这类单季度就耗尽全年 AI 预算的公司,依旧坚持推进 AI 布局,还为每位工程师设置了较高的 Token 使用上限。
⚙️ 2. AI 产业链中的模型厂商与云服务商,大概率会加大投入提升 Token 使用效率。这一方面可能缓解短期模型与算力的涨价压力;另一方面,谷歌云、亚马逊云凭借自研芯片与模型形成 Token 成本优势,或将改变云服务商之间的市场格局,对微软、甲骨文等企业形成竞争压力。
💸 3. 对于 SaaS 及应用类公司而言,AI 成本带来的抵触情绪,可能延缓行业向按量计费模式转型的节奏。同时企业为应对 AI 成本上涨,会削减其他 IT 预算,进一步挤压非 AI 类软件产品的营收空间。
📚背景补充
📊 安索帕、OpenAI 等众多 AI 企业都提出了应用落差现象:AI 模型技术迭代速度呈指数级增长,但企业落地应用的进度仅为线性增长。当前整个 AI 行业正积极解决应用落地的各类阻碍,包括增设落地团队、拓展合作生态、推出自研工具、依托大型云服务商拓展市场等。
🚨 如今,AI 使用成本成为了企业落地 AI 的全新阻碍。若云服务商上调 GPU 单价、AI 模型厂商提高服务定价,该问题还会进一步加剧。近期成本问题集中爆发,核心原因是企业 AI 应用不再局限于简单的对话机器人场景,自动化运行的智能体(尤其是 AI 编程工具)使用强度极高,直接推高了 Token 成本。
💥 此前市场普遍认为,Token 单价持续走低,成本不会成为 AI 普及的障碍,企业落地难点主要集中在组织架构等问题上,且按照杰文斯悖论,成本下降会进一步带动应用热潮。但当下过度消耗 Token的现象频繁被投资者提及,过高的 AI 成本会拉低投资回报率,放缓企业 AI 落地速度,最终波及全产业链 AI 相关企业。优步、微软、沃尔玛等企业出现的 Token 超支问题,也让市场担忧情绪持续升温。多位业内人士表示,年初几乎无人关注 AI 成本,如今该问题已成为企业面临的巨大挑战。
🗣️客户反馈内容
本次调研选取十余家企业 IT 负责人进行深度沟通,收集真实观点,后续团队还将在得克萨斯州 IT 采购大会上继续深化相关调研。
💻 我们为 15000 名软件工程师部署了微软 GitHub Copilot、安索帕 Claude Code 两款 AI 编程工具。目前约 40% 的用户会用尽分配的 Token 额度。我们不愿限制员工使用,现阶段核心目标是推动 AI 在内部普及,因此只能通过削减外部 IT 人员成本、优化云基础设施与软件开支来平衡整体预算。我们并不排斥按量计费模式,传统不限量的授权模式,往往会造成大量资源闲置。
📈 公司内部 Token 使用量暴涨。我们主要使用 OpenAI、微软 Copilot 的产品,同时也在测试安索帕 Claude。用量激增的核心原因是内部上线了各类 AI 智能体。AI 功能越强,规模化使用的成本就越高。过去员工仅用 AI 进行简单对话,如今开放权限允许自主搭建智能体后,成本压力随之而来。AI 支出已经从固定 SaaS 成本转变为浮动的按量消耗成本,预算变得难以预估。初期行业都在跟风布局 AI,我们也在多个场景落地相关产品,但部分场景并未实现预期回报。接下来我们会重新审视各类 AI 应用的实际价值。
🤝 我们与安索帕、谷歌、Meta、OpenAI 均建立合作,员工可使用各家的 AI 技术。企业会为每位员工分配年度 Token 额度,同时合作厂商也会提供技术支持,帮助我们探索落地场景。这类合作更多基于商务关系,而非单纯的服务效果。作为大型企业,合作厂商会免费提供 Token 额度,并将这部分使用场景归为研发用途。我们的目标就是让员工尝试 AI 工具,并将其融入日常工作。
💰 我们将 AI 成本视作技术研发的必要支出,而非可随意削减的 IT 预算。我们会在高价值场景扩大 AI 使用规模,同时系统性压低单位使用成本。依托长期合作协议,我们可以对 Token 用量设置上限,避免成本失控。合约中也支持尝试多种定价模式,整体来看,我们有信心通过内部管控,将 AI 支出维持在合理区间。
📉 近期微软 GitHub Copilot 调整定价后,我们的使用管理陷入混乱。团队已与 GitHub 对接,计划搭建更完善的监控体系,追踪每位开发者的 Token 使用情况。目前 Token 为团队共用额度,耗尽后全体员工都会收到提醒。不少开发者使用方式不够规范,造成 Token 低效消耗。我们仅为小部分核心开发者开通高级 Token 权限,但这部分额度也经常快速用尽,短期内用量走势尚不明朗。
🏦 我们是大型银行,和微软保持深度合作,后续若需要更多 Token 额度,相信能拿到优惠。GitHub Copilot 支持切换底层模型,我们会根据场景灵活选择:使用高端推理模型完成规划工作,切换至轻量化模型进行代码编写与运行,以此提升 Token 使用效率,目前也在使用 Codex 模型,实际使用效果表现优异。
⚠️ AI 成本是我们现阶段最担忧的问题。今年企业定下两大目标:削减云服务开支、扩大 AI 应用范围。但即便完成云资源优化,新增的 AI 支出依旧远超节省的成本。首期账单出炉后,管理层明确表示预算不足。目前 M365 Copilot 按月固定收费 30 美元,产品能匹配我们的使用价值,但如果改为按量计费,结合实际使用频次,我们的支出反而可能低于当前标准。除此之外,AI 使用的安全风险也不容忽视,微软也提示我们必须严格管控 AI 权限,一旦权限失控,AI 可能误删全部文件数据。
🛠️ 公司使用微软 VS Code、Visual Studio 以及 GitHub Copilot,团队仍在学习如何高效运用这类工具,存在明显的上手适应期。内部已经出现一批高频使用者。我们与微软签订了整体授权协议,全公司共用一个 Token 额度,部分重度用户会占用大量资源。此前有开发者在当月前三天就用完整月额度,在固定订阅模式下,后续仍可正常使用。本次定价调整后,平台会提醒用户理性使用、避免浪费;若额度耗尽,用户会自动切换至功能、质量更低的免费版本。目前我们尚未对微软自研 AI 模型进行测试。
🧐 相较于其他行业,我们的 AI 布局偏保守,暂时没有出现用量大幅上涨的情况。但如果行业全面转向按量计费模式,会带来负面影响。我们会进一步缩减授权席位,仅为能明确创造回报的岗位开通权限,这会压缩服务商的收入空间。同时,我们也考虑自研内部工具,外部定价模式的调整,大概率无法达成服务商的长期预期。Token 管理需要从企业整体层面统筹规划。
☁️ AI 应用直接推高了云服务开支,云服务商成为主要受益方。我们计划将 IT 资源集中迁移至单一云平台,以此换取成本优惠、提升资源利用效率。
🚫 当前各大服务商纷纷推出 Token 按量计费模式,我们坚决抵制席位 + 用量双重收费的模式,服务商的成本本质仅对应其中一种计费方式。只要产品搭载完善的成本管控功能,我们更认可按量计费模式,企业可以全员开放使用权限,并通过额度管控避免资源浪费。对于无分级权限、低使用量也收取高额费用的产品,我们的抵触情绪会更强。
📈 初期我们的 Token 使用量较低,后续用量快速飙升并突破预算上限,管理层要求收紧使用规模。整体成本涨幅可控,但成本持续走高且成因不明。我们必须设置额度上限与管控规则,防止成本彻底失控。企业为 AI 划定了专项预算,但绝不会为了保障 AI 支出,削减其他核心软件的预算。
合作方反馈
📊 我们是 Snowflake 生态中规模靠前的 CoCo 使用者。Snowflake 支持用户自主监控 AI 成本,可按照时间周期为每位用户设置消费上限,达到标准后自动限制使用。AI 工具能节约人力时间,综合来看具备投资回报,小幅的成本投入具备合理性。
📖调研总结
💸 AI 成本已成为企业普遍难题:本次调研共沟通 13 家企业,约 60% 的企业面临过度消耗 Token、算力成本高企的问题;剩余 40% 企业暂未受明显影响,原因包括签订了整体授权协议、拿到云服务商免费额度,或是 AI 工具仍处于小规模试点阶段。60% 的占比足以说明该问题具备行业普遍性。
📈 AI 应用规模持续扩张:市场聚焦 AI 成本上涨,但核心诱因是企业 AI 落地速度加快。几乎所有受访企业都在扩大 AI 使用范围,尤其研发团队大规模应用各类 AI 编程工具。成本上涨是 AI 高价值场景普及带来的衍生问题,并非行业负面信号。
🛡️ 企业已落地各类管控规则:大部分企业都已推出或即将上线管控措施,包括制定规范提升 Token 使用效率、团队共用额度、切换轻量化模型降低消耗、提醒重度用户节约资源、复盘低回报的 AI 应用等,成本管控动作已全面落地。
🚀 企业不愿全面限制 AI 使用:除清理明显的无效使用行为外,多数企业拒绝大幅收紧 AI 权限,首要目标仍是推动内部 AI 普及。为此,企业选择优化其他 IT 板块开支,例如缩减外部 IT 服务人员、整合云服务资源等,以此消化 AI 新增成本。

作者 AI财经

AI财经提供的财经数据以及其他资料均来自互联网其他第三方,仅作为用户获取信息之目的,并不构成投资建议。
AI财经以及其他第三方不为本页面提供信息的错误、残缺、延迟或因依靠此信息所采取的任何行动负责。市场有风险,投资需谨慎。