• 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

企业AI超越聊天:AI代理的Token消耗量是人类的5倍

2026-08-23 18:49:01
收藏

TLDR:企业AI从聊天转向自动化工作流

Codex、插件与缓存推动超越聊天的转变

截至8月10日,OpenRouter记录的智能体(agentic)令牌数达7.3万亿,是人类驱动的1.4万亿令牌的5倍以上。

前沿企业每用户输出的令牌数比典型企业高出8.3倍,而1月份这一差距仅为2.6倍。

随着工作流应用的扩展,到6月,Codex在企业输出令牌中占到了Codex和ChatGPT合计输出的64%。

超过85%的智能体令牌使用来自缓存提示,这有助于降低重复输入的成本和延迟。

企业人工智能正从对话转向执行,自动化系统消耗的模型容量远超普通人类用户。截至8月10日,OpenRouter记录的智能体令牌7天均值约为7.3万亿,约为2月初水平的14倍。

同期人类驱动使用量约为1.4万亿令牌,较2月初增长2.8倍。这使得在该平台路由的流量中,AI智能体消耗的令牌数超过人类5倍以上。

OpenRouter通过工具调用、对话轮次和时序模式等信号来区分智能体活动。这些数据仅涵盖OpenRouter流量,而非整个生成式AI市场,但清晰地展示了自动化工作负载的扩展速度。

与一次回答一个提示的聊天机器人不同,AI智能体可以检查信息、调用工具、测试输出、修正步骤,并在完成任务前重复执行操作。

企业AI从聊天转向自动化工作流

OpenAI的企业信号报告也指出了公司内部的相同变化,尤其是在重度用户中。前沿企业(定义为AI企业用户中排名前10%的群体)每活跃用户生成的输出令牌数比典型企业高出8.3倍。

这一差距在1月份仅为2.6倍,显示普通企业采用率与最密集用户之间的差距正在扩大。到6月,Codex在企业客户中占到了Codex和ChatGPT合计输出令牌的64%。

自2月以来,法律领域每周活跃的Codex用户增长了108倍,而销售和招聘领域增长了41倍。这种分布表明,企业应用已从聊天扩展到编码、文档创建、研究以及其他多步骤工作流。

OpenAI还报告称,前沿企业中21%的活跃用户每周使用插件,而典型企业这一比例为9%。这一差异进一步强化了向能够使用工具、创建文件、完成任务而非仅回答问题系统的转变。

Codex、插件与缓存推动超越聊天的转变

Andreessen Horowitz引用OpenRouter数据进一步指出,目前超过85%的智能体令牌使用来自缓存提示。简而言之,提示缓存允许系统重复使用先前处理过的上下文,而不必在重复调用时重新计算相同的输入。

OpenAI表示,缓存可以降低延迟和输入成本,使重复上下文的运行成本更低。然而,这些工作负载仍然需要能够存储并快速重用大型上下文的基础设施,同时配合处理推理的GPU。

随着企业将更复杂的任务委托给自动化系统,内存容量和带宽的重要性日益凸显。这一转变也对传统工作流软件构成了考验。

A16z认为,随着用户采用能够推理任务的系统,智能体采纳率的上升可能会给那些基于固定自动化步骤构建的产品带来压力。不过,仅凭网络流量的变化并不能证明替代已经发生,况且Zapier、Make和n8n也正在添加AI功能。

总体而言,随着企业软件代表用户执行越来越长的工作链条,AI智能体正在产生更多的令牌需求。随着这一模式扩展,企业AI的定义正越来越从聊天量转向委托给软件完成的工作量。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻
自选
我的自选
查看全部
市值 价格 24h%