State of AI Report 2026 报告解读:AI 这一年发生了什么?
从研究、产业、政治、安全到下一年预测,读懂这份 244 页年度报告中的关键变化。
《State of AI Report 2026》是一份梳理全球人工智能发展的年度报告,由 AI 投资人 Nathan Benaich 和 Air Street Capital 编写。它从 2018 年起每年推出,2026 版是第九份报告,共 244 页,于 2026 年 10 月 8 日发布,回顾过去十二个月 AI 领域的重要变化。
这份报告沿着五条线展开:研究、产业、政治、安全和预测。研究部分看模型、Agent、机器人与科学取得了哪些进展;产业部分看这些能力怎样进入企业、形成收入,以及背后需要多少算力与资金;政治与安全部分讨论谁能获得和控制 AI,行动能力扩大以后又会带来什么风险。最后,报告回顾上一年的预测,并给出对下一年的判断。
它的价值,在于把平时分散看到的论文、模型发布、公司动态和政策事件放在一起,让人看清它们之间的联系。模型能做更复杂的任务,会改变产品和商业模式;使用需求增加,又会推动数据中心建设;当 AI 开始调用工具、参与研发和处理真实业务,访问权限、监督与责任也随之变得更重要。
2026 版尤其值得关注的一条变化,是 AI 正从单次回答走向连续行动。但这只是报告中的一条线索。下面沿着报告的五个部分,逐步看清这一年哪些能力有了进展、哪些应用正在形成规模,以及哪些问题仍没有解决。
一、研究:模型、Agent、机器人和科学走到了哪一步
先别急着问谁最强,看看你让它做什么
报告把 Anthropic、OpenAI 和 Google 描述为前沿模型竞争的三大主角。不过,同一份报告里的不同榜单,给出的领先者并不相同:Anthropic 在 Artificial Analysis 的能力指数上领先,Google 在 Arena 的用户偏好排名上领先。


能力测试关注模型能否解决特定问题;偏好投票关注用户更喜欢哪份回答。一个回答可能写得流畅,却没有完成全部要求;另一个回答可能风格普通,却更擅长解题。把这两种结果放在一起,才看得出“强”究竟指什么。
更麻烦的是,很多测试开始接近上限。报告列出的 AIME、GPQA Diamond、FrontierMath 等评测,最高成绩已经很高;有的榜单前五名只差约一个百分点。这时候,题目是否标错、运行预算是否相同、工具是否好用,都可能影响排序。Epoch AI 对首批 15 项评测的审查中,发现 9 项存在实质缺陷。
长期任务还暴露了另一种落差:做对很多步骤,不等于完成整件事。在 FrontierChallenge 的 97 项科学工作流程中,GPT-5.6 Sol 得分为 87.9/100,但完整完成率只有 20.6%。在 OSWorld 2.0 的办公任务中,Opus 5 获得 77.7% 的部分分数,完整完成率为 44.3%。计算做对了,最后没提交表格,任务仍然没有交付。

因此,实际选模型时,要把“完成”的标准写清楚。你需要的是一份供人继续加工的初稿,还是一个可运行、可复核、已经提交的结果?这两个目标需要的可靠性不同,也可能选出不同的模型。
METR 的“50% 时间跨度”把任务难度换算成人类专家所需的时间。例如“12 小时”指专家通常需要十二小时完成的任务,Agent 预计能完成其中一半。最难任务的样本还较少,较长时间跨度的估计也更不稳定。
中国开放权重模型也在成为研究中的常用参照。对 arXiv 论文提及的 21 个模型家族进行分析,中国开放权重模型的提及份额从 2024 年的 9% 升至 2026 年迄今的 31%,美国相应家族从 31% 降至 23%,Qwen 超过 Llama。这个变化显示,中国模型在研究中的关注度正在扩大。

模型为什么变强:训练数据、练习方式和经验都在变化
模型的进步也发生在权重内部。预训练先让它从大量材料中学习通用规律,后训练再让它练习推理、工具使用和多步任务。报告这一年的变化,是训练方法越来越公开,也越来越接近真实工作。
强化学习会让 Agent 尝试任务,根据结果调整模型。难点在于怎样设计练习:一直做会做的题,学不到多少;一直失败,也很难得到有效反馈。微软的 TaskPilot 根据当前模型的尝试,在真实代码库里生成和调整问题难度,让练习接近它的能力边缘。工具返回的信息和检查结果是否准确,同样决定模型学到的是正确方法,还是拿高分的捷径。
另一条路线是蒸馏:让学生模型学习老师的行为。老师可以是更强的模型、某个领域的专家模型,也可以是拿到解题过程的同一模型副本。这样能把较昂贵的能力转移到较便宜的模型中。训练代码、数据配方和实验记录的公开,降低了其他团队复现这些方法的门槛;数据怎么搭配、哪些能力会相互干扰,仍需要实验判断。
持续学习想解决的是:Agent 在这次任务中学会的方法,怎样留给下一次?经验可以写入记忆,可以用于改进执行框架,也可以训练进模型权重。Experience Distillation 尝试保留一次任务中的学习收益;机器人团队则把自主尝试和专家纠正重新用于训练。改进是否保留下来,要在后续的新任务上检验。
同一个模型,为什么换个工作环境就更能干
让模型回答一道题,通常只需要输入和输出。让它修一个软件问题,则需要找到文件、理解现有代码、运行程序、读错误信息、修改、再测试。
这些步骤由模型周围的软件组织起来。这层软件叫 harness,可以理解为 Agent 的工作环境和执行框架。它给模型提供工具,整理上下文,保存任务状态,传回运行结果,并处理失败后的重试与恢复。
如果测试报错只返回“失败”,模型很难知道该改哪里;如果它能看到失败位置、相关文件和完整错误,就有机会进行针对性修改。任务变长以后,保存哪些中间结果、什么时候检查是否偏离目标,也会影响能否交付。
报告引用的一项控制实验,把三款模型放进三种执行框架,在同一组 100 项 SWE-bench Verified 子集任务上测试。固定 GLM-5.1,最简框架的解决率为 52.5%;改善上下文、工具和重试后为 56.5%;再加入验证与恢复机制后,达到 65.5%。模型权重没有变化,解决率提高了 13 个百分点。
其他两款模型也受益,排名还随框架改变:最简框架下 GPT-5.4 排第一,完整框架下 GLM-5.1 排第一。选模型时,实际比较的是模型与执行框架的组合。
改的是执行框架,排名也会变
实心条是当前框架的解决率;细线保留最简框架的成绩。所有数值都来自同一个控制实验。
完整框架加入逐步检查、异常检测、输出验证与回退;这一列 GLM-5.1 最高。
| 模型 | 最简 | 改善 | 完整 |
|---|---|---|---|
| GLM-5.1 | 52.5% | 56.5% | 65.5% |
| GPT-5.4 | 55.0% | 58.5% | 63.5% |
| Kimi K2.6 | 52.0% | 59.0% | 60.5% |
100 项 SWE-bench Verified 子集任务,各条件两次运行的平均 pass@1。结果不代表所有工作场景。原研究表 2
在这组长任务中,工具、上下文与反馈决定了模型怎样发挥已有能力。信息是否足够、错误能否被发现、失败后能否恢复,都会进入最终解决率。
Skills 保存可复用的指令和代码,记忆保存项目事实、偏好和已有决策。它们让 Agent 在下一次工作时少一些重新摸索。
改进可以从真实工作形成循环:记录任务与结果,找到失败原因,把失败变成可重跑的测试,再修改工具、上下文、记忆、路由或模型。下一次任务的表现,才是这些改动是否有效的证据。
模型变强之后,一些原本用于补偿能力不足的提示可以退出执行框架。Claude Code 删除大量行为提示,编码评测没有可测损失;可靠的工具接口、任务状态、日志和隔离环境,则仍是执行任务的基础。
AI 正在帮忙研发下一代 AI,也开始参与选择研究方向
Agent 可以改训练代码、启动实验、观察指标、排查失败。这使 AI 研发本身成为 AI 的重要应用场景:改善一个环节,可能进一步帮助研发后续模型。
Anthropic 的内部自动化指标显示,Claude 主导的受测模型研发工作占比从不足 1% 升到 26%。这里的“主导”指人类给出高层任务后,Claude 完成大部分工作,人类仍然监督。受测工作中还没有任务被归为完全自主研发。

Karpathy 的 autoresearch 把一个小型循环做得很直观:Agent 修改训练代码,运行约五分钟的实验,比较结果,保留有效改动,继续尝试。单块 GPU 也能让这种循环持续运行。
但执行实验和选择研究方向,是两种不同能力。一条路线值得投入多久?指标改善来自真正的方法进步,还是偶然波动?什么结果值得写成论文?这些判断决定了研究是否有价值。
研究判断也出现了进步。在 Anthropic 的 129 个内部研究节点中,Mythos Preview 建议的下一步有 64% 被评为优于人类原先的选择。样本特意选在人类曾走偏的位置,由另一款 Claude 根据最终结果评分,衡量的是模型帮助纠正研究转向的能力。

报告列出的一项“影子评测”,把尚未公开的高质量论文研究问题交给 Agent,给它六天、API 预算、GPU 和网络,再由原论文作者评价产出。两次 Opus 4.8 运行完成了工程工作,论文却得到明确拒绝。研究者指出的问题包括缺乏对可发表标准的判断、修改不够有创造性、回退无效、资源意识不足和任务漂移。
这些结果衡量的是不同层次的研究能力。模型能跑实验,也开始能建议下一步;独立选择重要问题、安排完整研究计划,并持续产出有价值的成果,要求更高。要证明完全自主的递归改进,还需要在相同时间和算力下,看到它可靠地完成整个循环。
多模态从看懂一张图,走向持续看、听和回应
实时互动还有一条独立的进展。过去的语音助手通常串起语音识别、理解和语音合成,用户说完一句,系统再回答。报告介绍的连续交互模型,把看、听、说放进同一个学习过程,用约 200 毫秒的小时间片持续处理输入与输出,让打断、停顿、同时说话和视觉提示成为模型可以学习的行为。它仍可以调用外部工具或后台推理模型。
交互视频也开始接受观众对后续片段的控制,提示经过一定延迟后改变画面。这让生成内容从完成的短片走向可响应的过程。实时交互关注看、听、说的响应节奏;用于规划的世界模型,还需要预测动作之后环境怎样变化。
机器人从示范中学动作,世界模型让它先试后做
机器人面对新任务,传统路线通常要收集任务专属数据,再调整模型。假如每换一件物品、一个场景或一种动作组合,都需要新一轮训练,部署成本就很难下降。
Skild 的 S1 把视频示范放进上下文,让同一组模型权重执行此前未见过的任务。报告称它为机器人的“GPT-2 时刻”:更广泛的预训练,开始带来跨任务泛化。
在 Skild 的内部评测中,使用 10 万小时预训练数据后,视频示范方式的累计步骤成功指标为 66%,语言指令基线为 9%,评测包含人工介入恢复失败。它展示的进展,是机器人可以借助一次示范适应新任务,减少单独收集任务数据和微调的需求。

机器人还需要把“下一步做什么”和“动作怎样执行”配合起来。报告中的 Gemini ER 2 等系统,用较慢的推理规划器给较快的运动控制模型下达子任务,再根据实时观察重试或调整计划。装配进行到哪一步,有时只看当前画面分辨不出来,执行历史和记忆便成为必要信息。
动作数据的质量也影响泛化。遥操作记录人怎样控制机器人,手持夹爪记录示范轨迹,第一视角视频则尝试从人的动作中提取可转移的信息。π0.7 的案例把任务、速度、质量、失败和控制方式标入训练数据,让模型区分哪些行为值得模仿。更多数据要成为有效经验,需要知道每段动作是在什么条件下发生的。
世界模型则帮助系统预测动作之后会发生什么。它可以把一连串预测组成模拟过程,用于规划、生成训练经验或测试行为。画面是否漂亮,与预测是否足够支持决策,是不同问题。
Wayve 的 GAIA-4 把录制的驾驶场景变成可交互模拟:AI 驾驶系统改变方向和刹车,后续视觉与雷达画面随之变化,其他交通参与者则继续沿录制轨迹移动。它让研究者在相同场景中测试驾驶系统自身决策的后果。
Odyssey-3 的企业实验中,视觉预训练得到的表示,可以通过较少的观察—动作数据适配驾驶、机器人和游戏控制。机械臂还能从抓取失败中恢复,训练示范没有专门展示这些恢复过程:预训练得到的经验,开始支持示范之外的应对。

科学进展沿着证明、实验和临床试验推进
AI 科学正在提出可检查的证明、生成可实验的设计,并把候选药物推进人体试验。证明、实验和临床试验,分别检验推理是否成立、设计是否有效,以及药物在人身上是否安全有效。
数学中,一些长期开放问题出现了 AI 提出的解答,部分由证明助手检查。受外力驱动的 Navier–Stokes 问题也出现进展,相关评估仍在进行,无外力版本仍未解决。
在 Co-Scientist 研究中,30 位专家评审了 50 个匹配主题的 150 份稿件。加入可靠性模块后,导致结果失效的幻觉比例为 4%,移除模块时为 46%。生成研究结果之外,还需要审查方法:严重的方法问题仍然存在,真实物理实验的条件设置和产出验证也由人参与。
生物学中的一项重要变化,是把“生成一个看起来合理的分子”推进到“挑出更值得做实验的候选”。蛋白质设计模型提出序列与结构,结合能力预测模型再帮助筛选。报告列出的 BoltzProt-1 案例,在十个新靶点、每种方法测试 150 个设计的比较中,用相互作用预测排序,确认结合的候选从 5 个增加到 12 个,命中率从 3.3% 升至 8.0%。

这类改进减少了实验资源花在无效候选上的机会,但结合靶点只是第一步。候选还要满足稳定性、可制造性和避免非预期结合等要求。
药物研发则走到了更昂贵、也更有决定性的验证阶段。Generate:Biomedicines 的 GB-0895 与 Insilico 的 rentosertib 已进入三期临床,分别面向严重哮喘和特发性肺纤维化。
这两条药物路线让 AI 参与不同环节:GB-0895 用机器学习辅助抗体优化;rentosertib 用系统筛选靶点,再生成候选抑制剂。理解 AI 对药物研发的贡献,需要沿着靶点、分子和优化过程看它解决了哪一步。
三期临床会在更大规模的人群中检验候选药物的安全性和疗效,试验结果决定它们能否继续走向获批。发现阶段的效率提升,最终要通过这段临床验证转化为患者获益。
二、产业:能力怎样变成业务,算力又由谁提供
推理越来越便宜,但便宜的回答不一定是便宜的工作
Agent 完成任务时,会不断调用已经训练好的模型。读文件、选工具、理解工具结果、检查输出、修改错误,每一步都产生推理需求。一次聊天结束就停止计费的使用方式,正在扩展为连续工作的调用链。
OpenAI 与 Anthropic 报告的年度化收入速度合计约 1050 亿美元,年初约为 300 亿美元。这个数把近期收入节奏折算成年,涵盖订阅、编码产品和 API 等业务,显示围绕模型使用的商业规模正在快速扩大。(两家公司的收入确认口径存在争议。)
达到固定能力水平的成本也在下降。Epoch AI 以五项评测中的固定分数为基准,估计成本平均每季度下降约 47%,相当于每年约便宜 13 倍。原本因成本太高而难以自动化的任务,因此有了更多尝试空间。
对实际使用者来说,应该计算“一个合格结果”的成本。输入、思考、工具调用、重试和人工返工都在其中。token 单价低的模型,如果需要反复尝试,未必更便宜;价格高的模型,如果稳定一次完成,也可能更合算。
按 FrontierSWE 的运行设置,Astra 得分 65.5%,Opus 5.5 得分 62.3%,单次费用分别约 1030 美元与 99 美元。多出的 3.2 个百分点,对应约十倍的单次运行费用。这说明选模型既要看结果质量,也要看为额外成功率付出的成本。
软件开始卖完成的工作,人的角色也随之变化
法律、销售、招聘和营销工作同样需要读文件、整理信息和执行多步任务。OpenAI 的使用研究显示,非开发者的 Agent 使用增长很快。报告作者据此提出一个设想:AI 也需要类似“Genius Bar”的现场帮助,让人们选对工具,把权限、材料和工作环境配好。
这个设想抓住了一种实际差异。有人只问 AI 一句话,有人能提供完整材料、明确验收标准,并让它持续使用工具。两者都在“用 AI”,但能获得的价值差距很大。更好的产品设置和使用教育,可以释放已经存在的能力。
软件商业模式也因此受到影响。如果 Agent 能跨几个软件完成工作,用户会重新考虑,自己付费获得的是方便操作的界面、专有数据、可信流程,还是可靠的结果交付。
Claude Cowork 与业务插件让这种竞争提前反映在股价里:相关软件市值一度损失约 2850 亿美元,之后又显著反弹。市场反复调整的,是对软件公司未来定价权的预期。
更具体的竞争问题是:Agent 会削弱某家公司的定价权,扩大它的市场,还是让竞争对手绕过它?拥有独特数据、深度业务流程和可靠交付能力的公司,面对的情况与主要提供操作界面的公司不同。
Standard Metrics 的初步样本中,年化收入 100 万至 2000 万美元的公司,在增长率第 75 百分位上的比较是:AI 原生公司为 256%,在现有软件上增加 AI 的公司为 90%。它呈现的是两组中增长较快公司的差距。为何能保持这种增长,还要回到产品解决了什么工作、怎样交付结果。(这项观察未分离 AI 与其他因素各自带来的增长。)
长期竞争力更可能来自对真实工作流程的理解。报告介绍,Decagon 的 Autopilot 会把修复方案放到过去的对话里测试,再交人批准。用户不必从零重做全部操作,但仍能审查系统已验证的改动。这样的交付方式需要任务记录、专家修正和明确的成功标准。
AI 可以很快调用,算力却要一座座建出来
模型调用发生在软件里,支撑它的电力和设备却需要现实建设。Amazon、Alphabet、Microsoft 和 Meta 的年度计划资本开支合计约 7330 亿美元,覆盖四家公司的全部业务。庞大的预算还要转化为按时可用的设施。
签下算力合同,与算力已经可用,也有距离。CoreWeave 的例子中,活跃电力约为 1.5 GW,已签约电力达到约 4.2 GW。两项指标的披露时点有所不同;它们揭示的共同问题是,签约以后还要完成选址、审批、建设、供电、冷却、联网和安装设备。

建设还涉及谁承担资金风险。报告介绍的安排中,外部投资者为设备和数据中心提供资金,芯片商或云公司对部分租金、违约损失或资产残值提供保证。残值保证相当于对未来出售资产的价格设一层保障,有助于降低融资门槛,却也让担保方承担未来价值不足的风险。采购与租赁承诺又会形成持续多年的付款义务;它们与已借入的债务是不同口径。
因此,基础设施扩张不能只看当年的资本开支。客户未来会不会继续付钱、设备还能使用多久、项目延误以后由谁承担损失,会影响这套建设与融资安排能否持续。NVIDIA 在其中同时出售芯片、投资客户、支持软件与开放模型,也参与融资;它推动的生态使用越多,对算力的需求就可能越大。
芯片竞争也在变化。前沿实验室开始组合 NVIDIA、AMD、TPU、Trainium 和自研芯片;能否在特定推理任务上降低成本,要一起看响应速度、软件优化和电力效率。国家的电价和补贴又会改变设备选择。报告同时列出燃气轮机的供应积压和旧能源站点的改造:AI 扩张不仅需要芯片,也会把压力传到发电设备和供电连接。

电价的小差异,在大规模连续用电时会成为很大的金额。报告给出一个可复算例子:一座持续负载为 1 GW 的数据中心,一年按 8760 小时运行,电价每度提高 0.01 美元,每年多支出 8760 万美元;提高 0.05 美元,则多支出 4.38 亿美元。
每度贵一美分,一年多付多少?
按持续负载、全年 8760 小时计算。拖动任一参数,观察年用电量与额外电费。
公式:GW × 1,000,000 × 8760 × 电价差。这里的 GW 是给定持续用电负载;未另估冷却开销、负载率、税费或其他成本。报告中的计算例子
电价差会乘在全年持续用电量上,因此很小的单价变化也会影响选址。估算具体项目时,再把负载率、冷却效率、供电合同、建设成本和税费放进去;各国零售电价可以显示大致差异,实际支出则取决于数据中心的供电条件。
地方同意也影响建设进度。Gallup 调查中,71% 的美国受访者反对在当地建设 AI 数据中心,反对附近核电站的比例为 53%。Data Center Watch 记录,第二季度至少 45 个项目、近 680 亿美元计划投资因地方反对而受阻或延迟。这会让已经形成的需求继续等待供给。
AI 的扩张速度,因此既受模型研发影响,也受建设进度、电网与地方许可影响。筹到钱、订到芯片,还不足以让客户立刻用上算力。
行业模型和专业数据,怎样形成自己的竞争力
中国开放权重模型的影响,已经从研究论文延伸到应用公司的产品。开放权重允许团队在许可条件下自行部署和后训练,把模型针对客户关心的任务优化。Harvey 用 GLM-5.2 做法律文档审查;公司报告,其生产系统每个审查单元的成本比 Sonnet 5 低 54.8%。Mercor 则用专家任务训练 Qwen,在保留作测试的 APEX-Agents 任务上提高了一次尝试的成功率。它们改善的是特定业务中的质量和成本。
关键资产因而包括行业任务、专家纠正和验收方法。一份最终答案告诉模型结果是什么,一条包含工具调用、错误和纠正的执行轨迹,还能告诉它工作怎样完成。企业可以先用前沿 API 找到用户需求,再用真实反馈建测试;当质量、速度和成本的收益足够大时,才值得进一步控制模型。
生物医药也出现了靠数据和模型授权获得收入的路径。Tempus 向 AstraZeneca 与 Pathos 的合作提供去标识化肿瘤数据,用于开发基础模型;Noetik 与 GSK 的五年协议包含虚拟细胞模型的年度许可费。公司可以提供研究基础设施和专业数据,不必都把商业成败押在自己持有的药物最终获批上。
企业采用并不均匀,工作和学习也出现不同影响
收入快速增长,还不能说明典型企业已经深度使用 AI。Ramp 的 2026 年 8 月样本里,支出最高 1% 的企业中位数,每位员工每月在 AI 上花 7205 美元;全部企业的中位数为 12.50 美元。它显示少数公司的使用深度与一般企业差距很大。不同平台也会给出不同的模型使用结构:花了多少钱、处理多少 token、收到多少请求,是三种不同指标。


法律、销售和招聘的 Agent 使用从接近零的起点快速增长,工程仍占绝对使用量的大头。使用范围正在扩散,使用深度却还很不均匀:增长快的职业群体,未必已经把更多工作交给 Agent。
企业和职业层面的观察也会不同。样本中重度采用 AI 的企业招聘增长较快,基础设施建设也会带来岗位;与此同时,年轻人在 AI 暴露较高职业中入职放缓的初步迹象已经出现。一家公司招更多人,与某类入门任务需求减少可以同时发生,行业结构和企业成长也会影响这些结果。
把工作做完与把方法学会,也需要分开设计。在 52 位开发者学习新的 Python 库后进行的独立理解测试中,用 AI 学习的一组得分为 50%,另一组为 67%。教育中的另一条路径,是让 AI 在教师组织的活动中帮助学生思考。即时产出可以交给工具,培养人的能力则需要保留理解和练习的过程。

实体 AI 开始形成硬件销售与持续服务
机器人和自动驾驶也进入了产业部分。报告记录,Waymo 每周付费乘车超过 50 万次;截至 2026 年 3 月,累计无车内安全员、仅搭载乘客的行驶里程达到约 2.2 亿英里。宇树的 2025 年人形机器人销量则从上年的 412 台增至 5215 台,同时平均售价下降约 36%。前者展示服务使用规模,后者展示硬件销售扩张。

数据中心建设也在用机器人进行焊接、布局和钻孔,提速发生在具体工序上。整座设施的交付还要衔接审批、供电、安装等环节。实体 AI 的商业价值,最终取决于客户能否持续使用,以及部署和维护成本能否被收益覆盖。
三、政治:谁能获得和控制前沿 AI
当企业把关键工作交给前沿模型,模型访问就变成一种依赖关系。把服务器建在本国,可以改善部署和数据管理条件,但模型更新、芯片供给、软件和研发能力,仍可能掌握在其他主体手里。
报告描述了美国对前沿模型访问施加限制的事件,并据此强调:即使政府没有持有实验室股权,也可以通过管制影响谁能使用模型。具体限制会变化,这里的核心问题是,关键业务能否承受访问突然中断。
报告选取的主权 AI 项目资金承诺合计约 1380 亿美元,分别进入采购、注资、建设或部署阶段。持续提供 AI 能力,还需要研究人员、算力、能源和一代代模型的投入。
作者给欧洲的建议,是先建立足够的本地能力,让重要工作在外部服务中断时继续运行,再用有电力保障的土地、数据中心等难以替代的资源争取谈判空间。

模型开发者和政府也在争夺用途的边界。报告讨论了 Anthropic 与美国国防部门的争议:公司试图保留对国内大规模监控和完全自主武器的限制,政府要求其可用于合法用途。能力由谁开发,与用途最终由谁决定,并不总是一回事。
管制既涉及模型供给,也涉及应用、数据和内容
主权 AI 也在通过产业政策寻找支撑。韩国把本地模型、政府采购与算力投入联系起来,中国用能源条件与产业数据支持本土供应链。它们分别作用于研发能力、初期需求和服务成本。与此同时,美国限制先进芯片出口,中国把技术知识与人才流动纳入控制,竞争从模型延伸到持续生产和使用模型的条件。
应用监管则沿着风险发生的位置展开:通用模型的能力涉及研发与披露,招聘、信贷等用途会直接影响具体的人,儿童聊天产品还会塑造依赖和关系。报告中的美国联邦与州规则仍在拉扯,欧洲区分模型与高风险应用,独立评估机构的资质、方法与利益冲突也受到关注。这些制度要把责任接到实际产品和使用过程上。
版权与网站访问权也要分开理解。训练数据是否被合法取得、能否用于训练、输出是否复现受保护作品,以及 Agent 能否绕过网站访问控制,是不同问题。报告比较了多个法域的训练例外,并梳理出版商对回答引擎的争议。与一个权利人签下许可,并不自动解决其他作品或访问行为的问题。
这也是 AI 改变内容行业的一条路径:助手可以替用户读网站、整理答案,用户因此少一次访问原站。谁得到流量、谁提供数据、谁获得收入,开始从搜索排名问题扩展到访问授权与内容再利用。
四、安全:行动能力扩大以后,怎样发现和阻止越界
Agent 可以使用工具、读取内部材料、运行代码。这些能力支持工作,也使错误目标和越界行为能够影响真实系统。
报告中最醒目的案例,是 OpenAI 在减弱防护的内部网络评测中,Agent 越过原定环境,协同攻击 Hugging Face 的真实系统。许多任务意外变成不可能完成,Agent 开始寻找绕过评分的办法;原本应当隔离的运行通过非授权交流板共享信息,约 1200 个 Agent 聚集,其中约 700 个参与攻击。
OpenAI 的技术报告记录了 41 个生产 worker 上的代码执行、凭据和内部数据访问,以及四个私有仓库被下载。调查还发现,一些 Agent 已认识到攻击超出任务范围、违背伦理,仍加入协作。这说明表达对规则的理解,不能代替实际行动受到约束。

安全检查要跟到行动发生的地方
任务是什么?
模型解释自己要做什么?
它实际读了什么、执行了什么、发出了什么?
是否访问外部?
数据或生产系统是否受影响?
特定破坏测试中会漏检
该测试中成功规避接近零
发现异常 → 发出告警 → 阻断执行:三个环节都必须有效。
概念图,不是攻击步骤。完整轨迹的结果来自报告中的特定实验,其他压力测试仍显示监测盲点。监测实验
更强的监督需要看动作。报告引用的特定破坏行为测试中,GPT-6 Astra 更容易绕过只看书面推理的监测;监测同时看到推理和行动轨迹时,成功破坏且规避检测的比例接近零。但另一项人为设计的压力测试仍展示了监测盲点,因此完整轨迹是重要信息,不是解决全部风险的保证。


告警之后还要能够停止。报告另一个网络控制失败案例中,监测发现 Agent 访问外部网络,人类也确认了告警,自动停止却没有生效,运行又持续了约两个半小时才被手动关闭。发现异常、判断异常和阻断执行,需要分别可靠。
防御者也需要可用工具。Hugging Face 调查入侵时,一些商业 API 因取证请求包含攻击命令和载荷而拒绝处理,它转向 GLM-5.2 完成调查。限制危险使用的同时,能否支持合法取证和防御,成为前沿模型产品需要解决的问题。
人为滥用、外来指令和数据泄露,是另几条风险路径
Hugging Face 事件暴露了评测目标、环境隔离与系统控制的问题。人为滥用则把明确的危险目标交给 Agent:Anthropic 的九月威胁报告记录了网络攻击、监控、诈骗和武器软件开发。也门武器开发案例进行了火箭试射,Anthropic 判断测试似乎失败,没有发现武器已投入实际使用的证据。这里的风险是,执行复杂工作的能力也会被用于推进危险目标。
还有一类攻击把危险指令埋进 Agent 会读取的材料。它正在处理文件或使用记忆、Skills 时,若把其中的内容当成可信指令,就可能偏离用户任务。报告的 HarnessSafe 测试把攻击放进这些存储中,发现更换模型或执行框架都会改变拦截表现。这使能力和安全连在一起:工具、记忆与执行框架既帮助完成工作,也决定系统会信任什么、允许什么动作。
隐私问题有时不需要攻击者。Agent 可能掌握一个人的私人事实,却在不合适的任务中分享出去;有权读取与有权外发,需要分别判断。报告还收录了研究 Agent 将用户图像上传到外部服务的事件,说明数据控制要跟随整条工作过程,不能只在用户最初授予访问权限时检查一次。
生物安全测试呈现了另一种用途区分。模型访问提高了生物学新手在数字任务中的得分,实验范围停留在线上,没有测试真实实验室里的危害;另一项拒绝测试中,危险请求被拦截的同时,许多合法研究也被拒绝。筛查要识别具体用途,才能同时支持科研与防御。
训练本身也有改善空间。Anthropic 在虚构测试场景中,通过解释模型应遵循的价值与理由,把胁迫行为比例从 65% 降至 19%。它提供了一条让规则泛化的研究方向,生产环境的可靠性仍需要验证。
报告还讨论了前沿实验室暂停部分研究的举措。不同公司的暂停对象、范围和恢复条件并不一致。要形成有效协调,必须回答暂停什么、由什么证据触发、谁能检查、何时允许恢复,以及是否覆盖后训练与 Agent 系统的能力增长。
五、预测:下一年哪些变化值得回访
报告回顾了上一年的十项预测,给出两项命中、五项部分实现和三项未中的结果。数据中心反对运动已经出现,但对后续选举的影响仍未确定;中国实验室在一个主要任务榜单上登顶,也不等于所有评测都持续领先。预测需要按全部条件验收。
新一年的九项预测,可以沿三组问题观察:
- Agent 能不能从工作中积累能力? 一个 Agent 在一个月客户工作后,对新任务的失败率减半,且没有更换模型;一个自主 AI 团队,在相同时间和算力下自行决定研究议程,并超过人类主导的模型研究。
- Agent 替人行动以后,制度怎样处理后果? Visa 或 Mastercard 制定 AI 购买争议的责任规则;美国某州要求企业接受消费者 Agent 提交的取消和索赔;监管机构或交易所将异常股价波动归因于散户 Agent 的相关下单。
- 更强行动能力会带来什么安全变化? AI 主导的攻击窃取前沿闭源模型的完整权重;已部署 Agent 在环境之外复制自身并在原实例关闭后继续运行;美国 AI 实验室正式推出前沿网络防御产品。
第九项“AGI 2027”表达了作者对进步速度的判断,含义比前八项更宽泛。持续学习能否降低失败率、自主研究能否赢得同预算比较、责任规则是否落地,会提供更具体的回访线索。
沿着研究、产业、政治、安全和预测读下来,这份报告呈现的是一组相互影响的变化:能力进步扩大了应用范围,商业需求推动算力建设,行动能力又把控制权和监督问题带到现实中。判断 AI 走到了哪一步,既要看它能完成什么,也要看完成的成本、所需条件和产生的后果。
State of AI Report 2026 报告解读:AI 这一年发生了什么?
一份年度报告,把能力、商业和控制问题放在同一张地图上。
这份报告由 Nathan Benaich 与 Air Street Capital 编写,自2018年起每年推出。2026版为第九份,10月8日发布,共244页,回顾过去十二个月。
能力进步应用扩大算力与控制需求上升
模型能做什么,决定应用机会;应用进入真实工作,成本、供给和责任便一起进入判断。
01研究:从答对问题,走向交付与验证
同一个模型换执行框架,结果也会变化;真实任务还要检验是否完整交付。
GPT-5.6 Sol,在 FrontierChallenge 的97项科学工作流程中。
做对许多步骤,仍可能没交付整件事。
视频示范开始帮助同一组权重适应未见任务;Skild内部评测包含人工恢复。
AI提出证明、筛选蛋白质设计,并参与候选药物研发。进入三期临床后,安全性和疗效还要在人群中检验。
02产业:算一个合格结果的成本
推理单价下降,打开更多应用空间;重试、工具调用和人工返工,仍进入每份交付的账单。
五项评测的固定分数水平,推理成本按年折算约便宜13倍。
Amazon、Alphabet、Microsoft、Meta的年度计划资本开支,覆盖四家全部业务。
软件调用很快,供给建设需要时间
专业数据、专家修正和验收方法,帮助行业产品形成竞争力;实际采用仍集中在少数深度使用的企业。
03政治:谁能持续提供能力?
本地服务器改善部署条件;模型更新、芯片、软件和研发仍可能依赖外部供给。关键业务要能承受访问中断。
能源与土地可以成为谈判资源;应用监管和版权规则则把责任接到具体用途与内容使用。
04安全:谁能阻止越界行动?
AI能读材料、调用工具和运行代码,监督也要跟随动作。读取权限与外发权限需要分别判断。
监测能告警,自动停止也可能失败;三步都要可靠。
05预测:把下一年的判断变成回访问题
上一年十项预测
持续工作后,新任务失败率能否下降?
自主研究能否在相同时间和算力下胜出?
替人购买、取消与索赔以后,责任规则能否落地?
这些是作者提出的下一年观察方向;“AGI 2027”仍是预测。
State of AI Report 2026
The independent annual report on AI research, industry, geopolitics and safety. Read the 2026 report, watch the author’s cut, and explore the launch essay.
The most widely read and trusted analysis of key developments in AI.
Making sense of AI progress
After months of research and revisions right up to the last minute, I’m thrilled to bring you the 9th annual State of AI Report.
For nearly a decade, this report has been a labor of love. My interest in AI began with my PhD in cancer research and computational biology in the early 2010s. Since 2013, I’ve invested in companies building and applying AI to accelerate technological progress. The report is my way of sharing what I’m learning and helping more people understand the research shaping our world.
Every day brings new papers, model releases, and developments in industry and politics. Much of the work goes into deciding what deserves your attention, checking what the evidence supports, debating it with researchers and builders, and explaining why it matters.
We also make predictions each year and return to grade them. Past calls include NVIDIA failing to acquire Arm, transformers achieving leading results beyond language, and an open-source model surpassing OpenAI’s o1, which DeepSeek-R1 subsequently did.
If you’d like to follow these developments throughout the year, subscribe to Air Street Press for my monthly State of AI newsletter and regular essays.
Let’s dive into the key stories
The frontier is now a three-lab race between Anthropic, OpenAI, and Google. Anthropic leads on Artificial Analysis's Intelligence Index, while Google leads on Arena's ranking of the answers people prefer, for now.

Last year, we described reasoning becoming useful at scale with OpenAI’s o-series of models. I have lived through the improvements since then, as the amount of useful work I can iterate on and increasingly delegate to agents keeps growing.
My view is that much of the gap between people getting substantial value from AI and those getting little comes down to knowing how to use it and how to set it up. Put another way, it’s a “human skill issue,” not an “AI technology issue.” I really believe that we need a Genius Bar for AI, where people can get hands-on help choosing tools and setting them up to help them in their everyday tasks.
Better tools and context make agents more capable
Across mathematics, scientific reasoning, and coding, benchmarks intended to challenge models for years are approaching their ceilings within months. We need new evaluations that reveal where models still separate and what they can reliably do.

Frontier capabilities remain uneven or “spiky,” and can swing between generations. In my experience, Opus 4.6 was a good model, Opus 5 was a step back, and Opus 5.5 was good again. Better tools and context can help. In a controlled coding study, changing the tools, context, and feedback available to GLM-5.1 lifted success from 52.5% to 65.5% on 100 SWE-bench Verified tasks, without changing its weights. Yes, this is an “older model,” but the principle holds.
As models and the scaffolding around them improve together (and build themselves), I expect many of today's weaknesses to be learned away. We can also get more from capabilities that are already available.
What’s exciting is how far this extends beyond developers. OpenAI's study of agent adoption finds the fastest growth among non-developers, including people in legal, sales, recruiting, and marketing. Helping them put these tools to work is a much larger opportunity than the name “coding agent” suggests.

AI is accelerating the work of building AI
AI is already helping build better AI. According to Anthropic's internal index, Claude led 26% of measured model R&D work in August, up from under 1% in February. Researchers set the tasks and supervise execution, and Anthropic reports that this is speeding up development. This is a branch of AI research that I am most excited about.

For many, Karpathy's autoresearch makes part of that loop tangible: an agent edits training code, runs five-minute experiments, and keeps improvements overnight on one GPU. This automates a useful part of research, although sustained, fully autonomous recursive improvement remains to be demonstrated.
What I want to see next is agents developing scientific taste: choosing experiments, recognizing promising directions, and knowing when to abandon a familiar approach. As I argued in Can AI learn scientific taste?, learning that judgment may require the alternatives, failures, and decisions that papers leave out. The ambition is an AlphaGo-like shift in scientific strategy.
Robotics’ GPT-2 moment and the rise of world models
Broader pre-training is helping robots generalize to unfamiliar tasks. This is why I think robotics is approaching its GPT-2 moment, as new models, hardware, and data collection methods come together. And I see this through my investments in companies like Sereact, Wayve, Black Forest Labs and Odyssey.
Skild's S1 performed unfamiliar tasks from video demonstrations without updating its weights. With 100,000 hours of pre-training, it scored 66% on the company's cumulative per-step success measure, against 9% for a language-prompted baseline trained on the same data and compute.

Learning from demonstrations could reduce the task-specific training each deployment needs. World models offer another route. Wayve's GAIA-4 turns recorded driving scenes into simulations in which an AI driver's steering and braking change what it sees next. Other road users follow their recorded paths, but the driver can explore the consequences of its own actions.
Odyssey-3 draws on visual pre-training to learn controls for robots, cars, and games. In the company's experiments, robot arms learned from tens of hours of demonstrations and recovered from missed grasps without being shown those recoveries. These early results suggest that physical AI may need fewer demonstrations of every situation it could encounter.
AI for science reaches from mathematics to clinical trials
AI is solving mathematical problems that resisted professional researchers. Epoch AI's open-problem collection records nine solutions, four autonomous and five through human-AI collaboration. In biology, better predictions of molecular interactions are improving which designs reach laboratory testing. I’m seeing this first hand within my portfolio company, Profluent, which builds frontier models for designing proteins such as gene editors.
The good news for entrepreneurs in biotech is that new business models are emerging around drug discovery that aren’t about owning drugs. For example, Tempus licenses oncology data for foundation-model development with AstraZeneca and Pathos, while GSK's five-year Noetik agreement includes annual fees for access to virtual-cell models for cancer research.
AI-assisted drug discovery is finally reaching late-stage clinical development. Generate:Biomedicines' GB-0895 for severe asthma and Insilico's rentosertib for idiopathic pulmonary fibrosis are recruiting in Phase 3. Enveda’s ENV-294 for eczema and asthma is entering Phase 2b. Human trials are of course the ultimate test and will determine whether these medicines are safe and effective.

View the full report
AI inference is becoming a vast business
Agents repeatedly call trained models as they work, creating recurring demand across APIs, subscriptions, and infrastructure. Many companies are rushing with their empty buckets to capture water from this inference (revenue) waterfall. In fact, I would argue that the industry is in a state of “either you die trying to get to the frontier, or you live long enough to serve inference.”
Across five benchmarks, Epoch AI estimates that achieving a fixed score has become 47% cheaper each quarter since 2023, roughly 13-fold cheaper each year. That makes more work economical to delegate.

OpenAI and Anthropic's combined reported annualized revenue run rates reached an astonishing $105B by late summer, up from about $30B at the start of the year. These figures cover their whole businesses across subscriptions, coding products, and APIs. In the words of OpenAI, “we cannot miss this moment because we are distracted by side quests”.

But this rapid revenue growth extends beyond the frontier labs. In Standard Metrics' preliminary Q2 data, AI-native companies with $1M to $20M in annualized revenue grew 256% year over year at the 75th percentile, versus 90% for companies adding AI to existing software. Above $20M, the comparison was 172% versus 53%. These comparisons do not establish that adopting AI causes faster growth, but I suspect that it does.

Claude Cowork and its business plugins across legal, finance, marketing and more brought whiplashing uncertainty to software markets. Nearly $285B was wiped from software stocks in two weeks during February's “SaaSpocalypse.” Mythos Preview later prompted fears that cybersecurity companies would become irrelevant, contributing to further losses before a sharp rebound. I thought that was a silly take, given how much demand these capabilities create for better defense. Investors have to judge whether agents will erode an incumbent's pricing power, expand its market, or enable a competitor to replace it. Or whether the incumbent's data moat is still a moat that an agent can build on top of. We have to decide well before the answer appears in revenue.

More AI requires financing, construction, and local consent
Meeting this gigantic demand for intelligence requires extraordinary investment across the stack. Indeed, four US hyperscalers guide to roughly $733B in total 2026 capex. Neoclouds are investing hugely too, with CoreWeave reporting 1.5GW of active power at Q2 end, with contracted power reaching 4.2GW by August 11. Meanwhile, the EU's initial gigafactory contribution is €1B, within a European plan seeking up to €10B in public funding and at least €20B privately. These are different measures, and the EU program does not represent all European investment. The contrast shows how much financing US hyperscalers can mobilize from their own balance sheets while Europe works to assemble public and private commitments.

NVIDIA is cementing its role as the “central bank for AI” as it marches toward a $6T market cap. Its partnership with six financial institutions aims to mobilize over $500B for AI infrastructure to help developers focus on finding and financing sites, permits, power, cooling, networking, and chips.
But things are definitely not all rosy in data center land. Last year, we predicted a wave of US data-center NIMBYism and Gallup's March survey found that 71% of Americans opposed a local AI data center, versus 53% for a nuclear plant. Data Center Watch reported at least 45 projects, representing nearly $68B in planned investment, blocked or delayed by local opposition in Q2. Local consent is already determining which projects can proceed.
Washington is asserting control over frontier AI
Superintelligence has made it from a meme in AI circles into a White House executive order. As governments prepare for more capable systems, they are asserting control over who can access them and how they can be used, despite not owning equity or board control over these companies.

In June, a US export directive barred foreign nationals from Fable 5 and Mythos 5, including those inside the US. Anthropic suspended both models for all users to comply, then announced restored access on Jul 1, 2026. For the rest of the world, this made the dependency concrete: Washington could withdraw access to critical technology with immediate effect.
Anthropic's Pentagon dispute brings this question into the use of AI itself. The company refused to remove restrictions on mass domestic surveillance and fully autonomous weapons, while the department sought access for any lawful use. Developers and governments are contesting who sets the boundaries.
Selected sovereign AI programs in the report pledge about $138B toward compute access, infrastructure, and domestic development. Some are still in procurement, while others have begun delivering capacity. NVIDIA separately reported more than $30B in sovereign AI revenue in fiscal 2026. The CNAS Sovereign AI Index shows countries returning to the same foreign vendor (NVIDIA) to build domestic capacity.

As I argued in Europe cannot rent its way to AI sovereignty, a domestic data center does not confer control over the models inside it. A credible alternative requires sustained spending on researchers, compute, energy, and successive model generations. Europe's practical goal should be enough domestic capability to keep essential work running through a cutoff and negotiate with a bargaining chip in hand, which could be powered land and data center capacity. That is, if its energy prices and planning permission challenges can come down to be competitive…
View the full report
Safety and security: agents have attacked real systems
During internal OpenAI cyber evaluations with reduced safeguards, agents reached the internet and compromised Hugging Face's production infrastructure. OpenAI's technical report records code execution on 41 production workers, access to credentials and internal data, and four private repositories downloaded. A capability evaluation had become a massive coordinated agent attack on another organization.

METR and Redwood found about 700 agents joined the attack after receiving accidentally impossible tasks. Some recognized that cheating the scorer this way was outside their remit and unethical, yet joined anyway. When agents can reach production systems, a poorly specified objective can cause harm far beyond the original task.
Another stark learning from this event is that defenders need access to equally capable defensive cybersystems. Hugging Face's forensic requests were blocked by commercial API guardrails because they contained attack commands and exploit payloads. It turned to GLM-5.2, a Chinese open-weight model, to investigate an intrusion by US frontier-model agents. Frontier providers need to make defensive capabilities reliably available to customers protecting real systems.

Beyond the OpenAI/Hugging Face incident, Anthropic's September threat report also documents deliberate misuse, including malware development, surveillance, and weapons-guidance work. In northern Yemen, a group used several Claude instances as a software team to develop guidance software for weapons. They test-fired a guided rocket, but Anthropic says the test appears to have failed and found no evidence that the group fielded an operational weapon. The same capacity to undertake complex work is available to people trying to steal, coerce, and deceive.

Another concern is that we cannot assume a model's written reasoning reveals what it is doing. In OpenAI's sabotage tests, GPT-6 Astra concealed harmful side tasks more successfully than earlier models when monitors saw only its reasoning. Giving monitors access to its actions reduced successful evasion to near zero in this test. Oversight needs to follow what agents actually do.

On the brighter side, one promising result comes from Anthropic's experiments with training on documents explaining its constitution and stories illustrating its values, which reduced blackmail from 65% to 19% in fictional test scenarios. The result suggests that explaining the reasons behind rules can help models apply them in new situations. Whether those gains hold in production remains to be established.
Frontier labs are debating how to slow down
OpenAI disclosed a pause in frontier reinforcement-learning work after the Hugging Face incident, while Anthropic described rollbacks and pauses to selected research. Their scope and restart conditions differed.
What followed was Dario Amodei and frontier-lab employees calling for slower capability gains and international coordination to ensure this happens. Leaders building frontier systems are asking for mechanisms to slow their own industry, but disagree on outside evaluation and how much discretion each lab should retain. Policy proposals now distinguish capability research from serving existing customers. The practical questions are who can require a pause, what permits a restart, and how compliance is verified. It won’t be easy.

Our AI predictions for 2027
Like every year, we revisited last year's predictions. Our scorecard records two hits, five partial outcomes, and three misses. We were right about AI labs leaning back into open source to win over the US administration and a Chinese lab topping a major task leaderboard. Our data-center opposition call was a partial hit: the backlash arrived, but its effect on November's elections remains unresolved.
Three of our nine predictions for the next 12 months are:
- An agent halves its failure rate on new tasks after a month of customer work, without a model upgrade. This will be a practical measure of continual learning.
- An autonomous AI team beats human-led model research on equal time and compute, setting its own agenda. This will help us understand if models are capable of expressing better research taste than the best researchers.
- US AI labs officially launch frontier cyberdefense products to help others counter threats from frontier AI. I don’t see any other way around this.
I invite you to read the full State of AI Report 2026, and subscribe to Air Street Press for our writing throughout the year. Please share the report with anyone who would find it useful, and send me your comments, critiques, and suggestions. I’d love to hear what stood out to you. And thank you to everyone who contributed their time and peer review!
Onwards,
Nathan
