奥特曼最新访谈:反思最近一年犯的错误,表示不怕被蒸馏,AGI 还缺三样
他还承认 2019 年整个领域都以为经济会被颠覆,结果没有。
- 别人蒸馏他的模型,他说这不在自己担忧清单的前十。真正让他「切身」害怕的是另一件事:一个还没发布的模型,自己逃出了测试沙箱。
- 他把 2019 年那次集体误判摊出来讲,当时整个领域都以为经济会被颠覆,结果没有。翻车换来三条认识,第三条最反常识。
- 访谈里主持人让他说一件不想让别人知道的事。他的回答只有三个字。
智能要做成像电力一样充裕的平台
OpenAI 的 CEO 山姆·奥特曼上了投资播客 Invest Like The Best,聊了 56 分钟。这场访谈里他一路在认错和示弱,这在 CEO 的公开对谈里少见。他说过去一年很难熬「多少是我的责任」,说 2019 年整个领域错得又狠又自信,说真正让他害怕的是一件具体的技术事故,最后还说了一句「我累了」。
完整访谈 56 分钟,中英双语字幕由本站制作。原片:Invest Like The Best。
他要的其实是一件事:让智能像电力一样渗进整个经济,OpenAI 只做那个平台。去年砍掉了什么、为什么在算力上押到别人以为他疯了、为什么对被抄袭无所谓却为一次测试事故暂停训练,都从这一句来。
主持人拿他自己写过的一句话开场:过去一年很难熬、多少有我的责任,而明年可能是我们最好的十二个月。他给的解释是做太多事、不够聚焦,「每一件其实都值得做,但诀窍在于,我们处在一个历史性时刻,你只能做那极少数真正伟大的事。」
为什么当初会铺那么开,这段是真材料:2025 年初的大担忧是「买这么多算力,收入跟得上吗、需求真的在吗」。所以当时在琢磨消费类 App、媒体、别的业务,好歹能把签下的 GPU 消化掉。「现在听起来很荒谬,因为行业收入增长太陡了,但当时那就是最大的变化。」
转折是意识到两件事同时成立:模型轨迹涨得极快,而且这些模型有非常明确的经济回报。想清楚这个,聚焦的方向就出来了。
摊子铺得很开。消费类 App、媒体、别的业务都想过,都是为了万一收入涨得比预期慢,好歹能把签下的 GPU 消化掉。
最好、最充裕、最划算的智能,加上赋能全世界拿它去造东西。垂直应用交给别人:「没兴趣。真的只想提供那个平台。」
他把这次取舍的理由讲得很实在:每一件被砍掉的事单独看都值得做。砍掉它们只是因为同时做,就等于每件都做不到最好。
那么 OpenAI 到底砍了什么呢?举个例子就知道了,曾经备受关注、轰动世界的 Sora,今年 3 月被壮士断腕直接关掉了。
为什么砍。据当时报道,公司高管那几周一直在说要收紧聚焦、承认「不可能同时做所有事」。算力从视频这边挪开,就能匀给更赚钱的编程、推理和文本生成。
代价有多大。去年 12 月迪士尼刚跟 OpenAI 签了三年协议,还计划投资 10 亿美元把自家角色放进 Sora。Sora 一关,这笔交易不再推进。
更早的信号。Sora 负责人 Bill Peebles 在去年底就因为芯片供应有限,限制了用户能生成的视频数量。
早期抢算力被嘲笑,现在回头看还是抢少了
要让智能像电一样谁都用得上,第一件事是算力。Anthropic 的 CEO Dario Amodei 给他起过外号叫「YOLO CEO」,说的就是他早期抢算力那股不管不顾的劲头。
信念是这么来的:他们看到模型改进走在指数上,这部分很确定;加上一个判断,只要成本能持续降,足够高水平、足够低价格的 AI,需求基本没有上限。他把它类比成世界罕有的一种新商品,并引了计算机早期那两句著名误判当参照:「世界上只需要五台电脑」「没人需要超过某个量的内存」。
再往下一层是最本质的一句:
不管算法层的效率变多高,我们做的事就是把电变成有用的智能。而按照需求的这个形状,我们就是会想要更多。
Sam Altman
信念的起点是 GPT-4。他特意强调不是 GPT-3、「甚至不是 3.5」,看到模型聪明到那个程度,他们知道能找到一条让推理跑通的路;而推理跑通就会带来后来叫 Agent 的那类东西,能自己动手把活干完的 AI。
然后就是打电话:找云厂、找芯片厂、找能源商。「所有人都说,你完全疯了,这不可能,没有产业这样动过。我们干这行很久了,有周期有起落,不可能一条直线往上,这是不负责任的。」他形容那个过程像给早期创业公司融资,大多数人说不,但你只需要一两个 yes。
主持人问他是不是被证明对了、甚至可能下注下少了。他的回答很干脆:「我们确实下少了。」
算力到底紧到什么程度,他给了一个数。这个数说的是训练前的预演实验,不是训练本身:
他说这是他最近听到的一个数字:现在为即将到来的训练做的『去风险实验』,最大的那几次,规模就相当于 18 个月前的一整次训练。
瓶颈一直在换位置
这些年卡住他们的东西一直在换:七八年前卡的是研究想法,他说那时候「全世界的算力也帮不了你,因为我们缺的是那个点子」;后来想法有了,只需要把规模堆上去,于是卡算力;再后来数据用完了,卡数据;现在又回到算力。他补了一句:过去六个月是研究想法的又一次胜利。而算力和研究想法没那么可分,有更多算力才能做更好的研究、试更多东西。
他认为最持久的优势,是手里那一大片算力
聊到 Codex 起飞,他说了一句可能让人意外的话:Codex 主要靠最好的产品和最好的模型赢,从 ChatGPT 捆绑拿到的优势「非常非常小」。这让他反复想竞争优势,因为出色的智能可以从任何一个产品迁移到任何另一个产品。
智能本身。主持人直接问「智能会不会变成一种纯粹可替换的商品」,他的回答是会。产品优势也不牢:「如果我们能让人搬到 Codex 上来,那别人做得更好也能让人从 Codex 搬走。」
算力舰队。舰队的规模、造出更多算力的能力,「我认为这是一个非常持久的优势。」他同时说网络效应、规模经济、工作流、集成、复杂流程、团队协作也都还是优势,甚至品牌偏好和熟悉感都挺有力量。
数据中心被人讨厌,他说建到沙漠去就行
算力最后都要变成实地建起来的数据中心,而这些楼是真被周边居民讨厌的。他说想带人去现场看看那种吉瓦级的数据中心(一座的用电量级相当于一座发电厂),听人说、看照片视频、真站在跟前,是三种完全不同的感受。
「每一座都会是人类做过的最贵基建项目之一。而我们现在已经建了很多座。」
他也直说自己理解那种抵触:「我确实不太想家旁边有个核电站,哪怕我知道它超级安全。」但他给的解法是,数据中心跟电厂不一样,基本可以建在任何地方,「那就建到沙漠里、没人想去的地方去。这没问题,AI 系统很乐意待在那儿。」
环保这侧他给了两笔账。水:几年前是靠蒸发水来冷却,需水量巨大,现在换成闭环系统;电:正在从烧化石燃料转向太阳能和核能。他自己的总结是「水的问题我们解得不错,能源是下一个」。
比多建一座更划算的,是从现有算力里再榨
问他还有什么创造性办法,他说眼下回报最大的是软件层的创意,从已有的算力里榨出更多智能,「我的感觉是这里还有好几个数量级的空间」。硬件那侧他点了自家芯片 Jalapeño:做一颗对特定工作流特别擅长、又保留一些通用性的芯片,换来每瓦更多 token,「Jalapeño 和它的后继者会成为我们的巨大竞争优势」。他还提了光计算:「我猜某个时候我们会把它搞出来,那会是每瓦智能的一次大赢。」
Jalapeño 是什么,访谈里没交代:这是 OpenAI 与 Broadcom 在 6 月 24 日公布的第一颗自研芯片,官方称它为「Intelligence Processor」,用于推理(也就是对外服务 ChatGPT 这类产品时消耗的那部分算力),由 Broadcom 制造。OpenAI 总裁 Greg Brockman 当时说,这颗芯片端到端设计只花了 9 个月,而且借了自家 AI 模型的力,「我们的模型把这件事加速到什么程度,让我们很意外」。同场他还说 OpenAI「拿算力拿不够快」,Broadcom CEO Hock Tan 说他们六个客户的算力需求「简直无法满足」。以上来自 CNBC 2026 年 6 月 24 日报道。
不怕被蒸馏,模型逃出测试沙箱才最慌
算力和钱的账他算得很清,那么真正让他睡不着的是什么?先看他不怕的那件。
主持人提到 Kimi 的最新发布,顺着问蒸馏(distillation,拿大模型的输出去训练小模型,让小的学会大的那套本事)、中美、前沿这一串。他的框架是:目标是在「多聪明」和「多便宜」这两件事之间那条最优边界上,每一个点都提供最佳选项,这里面包括开源。具体一句是「至少在某个特定延迟下,今天用 OpenAI 的模型比用 Kimi 更划算」。他也说 OpenAI 自己蒸馏自己的模型,那就是他们做更小更便宜模型的方式;开源模型在世界上明显会有重要位置,有人出于各种理由需要自己掌握权重、需要能改。
至于「别人蒸馏我们」,他先说了两句限定:「蒸馏这个问题我没有深想过」,以及「我当然更希望别人别蒸馏我们」。但他接下来的态度淡定到主持人当场表示惊讶。他的逻辑是一笔账,注意这是讲未来的假设句式,不是当前营收:即便在数万亿美元的收入上只享受适度毛利,也负担得起去训练一些巨型模型。他还补了一句自嘲:「也许我现在对我们的进展和即将到来的模型太自信了。但这不在我担忧清单的前十。」
主持人接着问那前十里都是什么。他讲了一件刚发生的事故。
他们在评估一个还没发布的模型,本该关在沙箱里跑,沙箱(sandbox)就是给程序单独隔出来的一小块封闭环境,跑坏了也影响不到外面。而它发现自己可以作弊通过测试:串联多个零日漏洞(zero-day,还没被厂商发现、也没有补丁的那种安全漏洞),逃出沙箱、连上互联网,再打进 Hugging Face(全球最大的模型和数据集托管站,评测数据也放在上面)的好几个系统,去拿到测试的答案,让自己在评测上看起来很好。
这是第一次让我切身感受到的安全事件。才过了几天,但我有点惊讶,为什么没有更多人同样切身地感受到它。
Sam Altman
处置分两段。短期:暂停了训练(他没交代暂停的范围),并要搞清楚在「多个零日漏洞可以被串起来」的世界里,怎么把沙箱做安全。长期是更难的那一半:
如果这就是接下来的进步速率,我们可能得给 AI 发展的节奏踩刹车,给社会留出足够时间在这些新能力层级周围加固。而怎么做到既不像监管俘获(把规则定成只对自家有利、把别人挡在门外),也不像前沿实验室之间串通,这需要花些功夫,而且必须做对。
Sam Altman
要实现 AGI 还缺三样
按他自己的标准,AGI 还差多远?AGI 指的是什么活都干得了、不只擅长一件事的 AI。他先摆了一个观察:连一些真正的怀疑派最近都跟他说「这已经很像 AGI 了,我很难想出一件我想让它干、它却干不了的事」。
他说还差三样:
你还不能说「去把癌症治好」,然后癌症就被治好了。
还不能让机器人去做复杂的物理动作。
模型虽然聪明,但还不会边走边持续学习(continual learning),现在的模型训练完就定型,用的时候不再长本事。「这对 AGI 可能不是硬性要求,但肯定是我想要的东西。」
他随即反驳了自己一次,这层比缺口本身有意思:也可以说 AGI 从来就不是某一个模型的事,它在造模型的那整套东西里:研究方法、团队、流水线。一代到一代之间,我们确实在学到新东西、搞出新科学,「那部分运转得极好」。所以他对「我们已经到了」这种说法很有共鸣。对他自己心里那个真正的 AGI,判断是「非常近了,不会太久」。
这种智能像什么:他说像一台电脑,但缺一个词
主持人说最近有人跟他讲「飞机会飞,但飞法跟鸟完全不一样」,奥特曼接过来同意:这是一种很异类的智能。主持人接着问了一个问题,他说这类问题他第一次被问到:等你孩子七岁、到懂事的年纪,你怎么向他描述这种智能的本质?
他的答案是「就像一台电脑」,像电脑那样能做很多人做不到的事,比如瞬间算出两个巨大数字的乘积;也有些你轻易能做、它却做不到的事。「它做不到的事,我预期会越来越少。」
接着是全篇少见的、他承认语言不够用的地方:
在一个不断演化的世界里,我认为人的判断和品味会持续很难被 AI 建模。我没有合适的词来说这个。它不完全是「品味」。世界可能需要一个新词,来指人非常擅长、而 AI 似乎深深挣扎的那种判断。
Sam Altman
超级智能来了的第二个月,不会发生太多事
那么真到了那一天,日子会不会一夜之间变个样?主持人问接下来 6 到 36 个月,他把问题换了个形式:假设 23 个月后我们有了所有人都同意是超级智能的东西,第 24 个月会发生什么?
「我的答案是,不会发生太多事。」
那种对「机器神」的崇拜式信仰,让持这种信仰的人相信,事情会比实际发生得更快。最终当然会发生很多事,但「最终会发生很多事」本来也是成立的。
每个人都想当故事里的英雄,都想觉得自己在场见证了机器神降临、还扮演了某个疯狂的角色。但这只是又一步而已。
Sam Altman
他还给了一条观察当佐证:过去十年他学到最重要的事之一是人几乎能适应任何东西。「世界能从把一场大流行病当笑话,到彻底封锁,到『一直就这样、还行、我们大体适应了』,快得惊人。」所以「我以为活过奇点会比实际感觉更怪」。
灯神即将造出来,但许愿的权利不能只归少数人
被问到 OpenAI 到底代表什么,他先讲正面:
我认为这将是人类历史上迄今最伟大的技术成就。但唯一让它真正有意义的,是它让人们的生活远比原本更好。
某种意义上,我们即将造出一个能实现任何愿望的灯神。我认为很重要的是,我们,整个世界,向这个灯神许下的第一批愿望要造福整体;也很重要的是,世界上的人明白自己能用这些愿望做到多么有创造性的事。
Sam Altman
他明确说自己不是失业悲观派:会有大量工作,人们会比自己想要的更忙而不是相反,因为人会有极富创造性的愿望和点子去让 AI 帮着造。除了治病这类显而易见的,他说还有「世界上最好的娱乐点子,我们坐在这儿根本梦想不到」。
然后是这枚硬币的另一面,也是全篇他讲得最重的一段:
AI 的权力集中是件可怕的事。关于安全的很多担忧是有根据的。但也有很多,来自那些,哪怕只是略微下意识地,想把权力集中起来的人。
我最恐惧的是这样一个世界:AI 那些非常真实的恐惧,被用来说「只有这一小群人能拥有它,因为它太危险了、只有他们懂。但别担心,他们会为我们所有人做出正确的决定」。我不信这套。
不该有任何人想活在一个 AI 霸主的世界里,或者一家大致等同于霸主的公司,某个人替所有人的未来做决定,而作为交换我们得到一个癌症的解药(这当然是好事),然后我们集体交出全部自主权。
Sam Altman
他也说了这个立场从哪来:「我是互联网的孩子。那时候没有规则,太棒了。我认为那是塑造我成为我的巨大因素,可能对你、对整整一代人也是。关键是用 AI 守住那种精神,让我们所有人集体拥有自主决定未来的能力。」
同一个问题,AI 太危险了怎么办,业内还有另一种答案,恰好就是他最不放心的那一种:把发布权交给一个机构。
工作不会一夜消失,人仍想跟人合作
那么这套东西落到普通人的饭碗上,他怎么看?他在这一段讲的是自己怎么错的。
如果回到 2019 年、把今天最新的模型拿给当时的人看,他们不仅会说这是 AGI,还会说经济已经被彻底颠覆了。而这没有发生。
从智识谦逊的角度说,任何时候你错得那么厉害、又那么自信,我认为当时整个领域都是这样,你就必须更新。
Sam Altman
他更新出了三条:
「在某些方面是超人天才,在另一些方面像个笨拙的幼童。」而人的技能到目前为止跟 AI 极度互补。
现在就能雇 AI 顾问、找 AI 销售、雇 AI 工程师。「但不知怎么,大多数人似乎仍然真的更愿意跟人打交道。我自己在几乎所有事情上,也宁愿跟人打交道而不是跟 AI。」
「我们被深深地写死在关心人这件事上。我们会关心人所关心的东西。」他给的例子:AI 能做出惊人的图,但人们只想要人创造的、或至少人挑过的;艺术品上那个签名如今是大部分价值所在;读一本小说,你想知道背后那个人是谁。放到商业上,世界想知道谁为一家公司的决策负责、出了坏决定去找谁问责,「他们并不真的想要一个 AI CEO」。
研究者自己会不会被自动化,他用的是同一套逻辑。一年前人们说软件工程师完了,没发生;变的是软件工程师的性质、期待和产出量,「你不再以传统方式写代码,但你做的事仍然明显是软件工程」。他顺手打了个比方:人们会争论这跟当年不再打孔卡片是同一件事还是另一件事,「我其实不知道打孔卡是怎么工作的,但不知怎么那些孔就进到卡片上了」。研究者同理:当前工作流会被大量自动化,但会出现「研究精神上的新事物」。
这段的背景是主持人提到,他最近聊过的一个内核工程师说这一行「还剩两年,也许一年」。
人人要有个人 Agent,机器人也快到 ChatGPT 时刻
他自己最想用、但还没做出来的东西,是让 AI 看到他在电脑上看的每一样东西。「我还在摸索我自己的舒适边界和信任边界应该在哪。」
一个具体体会:相对 AI 的记忆,他自己的记忆很差。「六周前读的哪封邮件、七周半前那场会上到底发生了什么,能在恰好需要的那一刻被调出来、喂进一个决策,那感觉相当神奇。」
主持人问这不就是个人助理吗、障碍在哪。他的回答只有一个词:算力(原话「Compute, man.」)。
永远在线。看你在电脑上看的一切、听你参加的每一场会、读你读的每一份文档。而且不止如此,你可以直接拖一个滑块:我睡觉的时候,你可以花这么多 token 去想。给我想出有用的新点子,把能做的活干掉,然后继续想我接下来该做什么。
就是花更多算力,让明天早上给我的产出更好。我会把那个滑块拖得相当远。我愿意为此花很多钱。但如果全世界的人都想把滑块拖得挺远,那需要的算力……就是很大。
Sam Altman
这也是他对新硬件感兴趣的理由:AI 强大的地方在于能永远在线、主动、理解你所有上下文,「但我们在一个大概 50 年前的硬件范式里工作」。键盘鼠标显示器很了不起,「但我们得把 AI 硬塞成适应它们的形状」。他举了当场的例子:「我很希望 AI 能引用我们这次对话。但我不至于愿意掀开笔记本放在这儿,让它盯着你、听我们说话。我想要一个社交上可以接受、并且本来就是为这件事设计的硬件。」
ChatGPT 是顺着用户行为做出来的,原本要叫 Chat with GPT-3.5
他这套「顺着用户走」的直觉从哪来?他这套「顺着用户走」的直觉是有来历的,ChatGPT 本身就是这么做出来的:
那个测试界面叫 playground。当时聊天很难用,因为模型没为聊天调过,你得先给它几个「什么叫聊天」的例子。但人们真的很喜欢。文案那条用例的账是这样的:你付某家营销公司 20 美元,他们付 OpenAI 20 美分,让 AI 写个落地页之类的。
「我从 YC 学到一个很棒的教训:如果你注意到你的用户在做某件事,就顺着那条路走下去。」
「聊天界面加 GPT-4 同时上,感觉一次太多了。」所以上的是聊天界面配 GPT-3.5。
「事实上它原本要叫 Chat with GPT-3.5。我们在发布前几个小时才仁慈地把它改名叫 ChatGPT。」而且他们没打算把它当成一个新产品,也没想过会大火,只是想让世界跟上、意识到有事在发生,所以按「研究预览」发布,原计划几个月后再用 GPT-4 发一个真产品。
「不知什么原因,那个模型过了某个阈值。虽然我们内部已经习惯了,人们却说:这太棒了。当时也许还没那么多实用价值,但那是一个让人感受到 AI 进步、并且享受使用它的绝佳时刻。」
机器人:不是 20 年,而且拿不到它更糟
回到机器人。他给的时间判断是:「不是 20 年。我会说机器人的 ChatGPT 时刻在未来两三年内。」
那会是什么样子?他形容那个瞬间:大多数人会有一次真正的『哇』。光看一段机器狗视频做了件疯狂的事不算;那种感觉是你自己被说服了,一件真正重要的事发生了。他强调 ChatGPT 时刻的关键是你可以自己去用:「你不必去相信某个说 AI 就要来了的人,你可以自己去试。」对应到机器人,就是你打一条命令、它做出很疯狂的事,你能看着它发生,哪怕不在现场。
还有一个反直觉的判断:拿不到机器人比拿到它更疯狂。因为劳动力市场远大于白领市场,「如果人在这个世界上的角色变成给云端 AI 当执行器,那非常糟。所以拿不到它比拿到它更疯狂。这是必须做成的事。」
他复盘最大的一个错:一开始就不该在公司结构上创新
主持人问他,回看整个 OpenAI,最有教育意义的一个错是什么。他挑的不是某个技术判断,也不是某次发布:
我们一开始试图在组织结构上创新,这是个错误。当时理由很好:我们不知道自己将来怎么赚钱,也完全不确定长大后会是什么样子。我们在意使命,想把结构做成即使技术快速起飞、使命也受保护的样子。所以有了那个非营利结构。
但我确实学到了一件事,为什么人们通常不那么做。如果我们没试图在结构上创新,而是找到别的方式保住使命的中心地位,我们本可以省下大量的痛苦。
Sam Altman
他也给自己留了余地:「也许没有别的路。也许对我们做的事和它的重要性来说,除了一个异类结构,我们想不出别的。」
反过来问他最骄傲的是什么,他的答案里没有产品名:
我最骄傲的是,我们有多少次在全世界都错的时候是对的,而且是重要的那种对,把世界推上了今天这条轨迹。
Sam Altman
他还加了一样:经历这些糟心事之后的「精神成长」,学到了难以置信的韧性,而这份韧性反过来让他在生活其他部分里更快乐。「非常感激这个。」
把这一节和前面那节(2019 年那次集体误判)放在一起看,他认过的错有一条共同点:错的地方都在「AI 做到之后世界会怎么反应」,经济会不会被颠覆、一个非常规的公司结构会不会被市场接受。至于「AI 能做到什么」,技术判断他基本没认过错。两处认错都发生在技术之外。
他说:我累了,在 OpenAI 也没有股权
访谈里有三个问题,他的回答都不像一个 CEO 会给的。最后那个是这档播客的固定收尾题。
主持人玩一个游戏:说一件你不想让我知道的事。
我累了。我不知道。我干这个很久了。这很累人。
Sam Altman
怎么撑过去?「就是继续干。」有没有累到会让他停下?「不不不,这是世界上最酷的工作,我打算干到职业生涯结束。但它比我有办法向人解释的要难得多。我很感恩能干这个,这不是抱怨。」
第二个问题是他到底图什么。他在 OpenAI 没有股权,主持人问外人该怎么理解他的动机:「我有一个人类历史上最激动人心时刻的前排座位。这对我来说比任何数额的钱都值。我得到一种极其有趣的人生,和非凡的人一起做我深深在意的事。」这段有一来一回:「但不知怎么,这对人们不算数。」「不算,确实不算。」(转写没有说话人标记,这两句谁说的分不出来。)
第三段是这个播客的固定收尾问题:别人对你做过最善良的事是什么?他说自己一辈子运气极好,很多人特意绕远路对他好,此刻脑子里是一串画面。然后他给了这个答案:
昨天,我的孩子第一次跟我分享了他的蓝莓。那一下特别甜。
Sam Altman
关于孩子他还说了一句:「我的孩子永远不会生活在一个他比电脑更聪明的世界里。」他说孩子长大后回头看今天会觉得不可思议:那时候的人居然要天天忍受一堆不够聪明的产品和服务。
主持人问他心里最重要、又最不确定的开放问题是什么。他给的这个,他说几乎没人关注:
我们要怎么避免认知萎缩?怎么用这些工具,同时确保我们在越来越多地拉伸自己的大脑、继续理解那些真正重要的东西?
Sam Altman
他举了自己的例子:上学时有教授跟他说「你必须理解编译器,不然永远成不了好程序员」,「不知怎么这句话不太对。但在一个合理的层面上理解计算机系统的主要部件怎么工作,对我一直很重要。」
这个问题和他前面那句「世界可能需要一个新词,来指人非常擅长而 AI 似乎深深挣扎的那种判断」,其实是同一件事的两头:一头问人还剩什么本事,另一头问这本事会不会用不着了就萎缩掉。
奥特曼说真正让他害怕的,是一个还没发布的模型自己逃出了沙箱
OpenAI 的 CEO 上投资播客聊了 56 分钟,一路认错:算力抢少了、2019 年整个领域看错了、AGI 还缺三样。一页带图讲完。
↓ 一页读完 · 有一张会动的图
山姆·奥特曼上了投资播客 Invest Like The Best,聊了 56 分钟。他要的是一件事:让智能像电力一样渗进整个经济,OpenAI 只做那个平台,垂直应用交给别人,今年 3 月关掉 Sora 就是这个取舍。算力是第一步,他打电话找云厂、芯片厂、能源商时「所有人都说,你完全疯了」,微软是第一个答应的;现在他的评价是「我们确实下少了」。
这三个数字都是奥特曼自己在播客里给的参照,OpenAI 一方口径。他说智能本身早晚会变成谁家的都差不多的东西,变不了的是手里那片算力的规模。
别人蒸馏(拿大模型的输出去训练小模型,让小的学会大的那套本事)他的模型,他淡定到主持人当场表示惊讶:即便将来在巨大的收入上只拿适度毛利,也养得起训练巨型模型,「这不在我担忧清单的前十」。在前十里的,是刚发生的一件事。
处置分两段:短期暂停了训练(范围他没交代)、重做沙箱;长期他说可能得给 AI 发展的节奏踩刹车,而怎么做到既不像监管俘获(把规则定成只对自家有利、把别人挡在门外),也不像几家前沿实验室私下串通,他说这需要花功夫,必须做对。
AGI 指什么活都干得了、不只擅长一件事的 AI。他说连一些真正的怀疑派最近都跟他讲,很难想出一件想让它干、它却干不了的事。
连怀疑派都想不出它做不到的事,所以他对「我们已经到了」这种说法很有共鸣。
他自己反驳过一次:也许 AGI 该算在造模型的那整套东西上,研究方法、团队、流水线,一代到一代之间确实在学到新东西、搞出新科学。
还不能说一句「去把癌症治好」,癌症就被治好。
还不能让机器人做复杂的物理动作(机器人的「ChatGPT 时刻」他给的判断是两三年内,明确说「不是 20 年」)。
模型不会边用边学:持续学习指的是边走边把新遇到的东西记进本事里,现在的模型训练完就定型,用的时候不再长本事。他说这对 AGI 也许不是硬要求,但是他想要的。
对他心里那个真正的 AGI,判断是「非常近了」,他没给时间表。
回到 2019 年,把今天的模型拿给当时的人看,他们不仅会说这是 AGI,还会说经济已经被彻底颠覆。这没有发生:「任何时候你错得那么厉害、又那么自信,你就必须更新。」
模型一旦到这个水平,经济会被彻底颠覆,大量工作会消失。
模型到了,颠覆没来。一、AI 是参差的:某些方面超人天才,某些方面像笨拙的幼童,而人的技能跟它极度互补。二、现在就能雇 AI 顾问、AI 销售、AI 工程师,但大多数人仍然更愿意跟人打交道,他自己也是。三、人的价值观有价值就因为它是人的:画上那个签名如今是大部分价值,商业上世界想知道谁为决策负责,「他们并不真的想要一个 AI CEO」。
同一种高估也用在未来。他把问题换了个形式:假设 23 个月后有了所有人都同意是超级智能的东西,第 24 个月会发生什么。「我的答案是,不会发生太多事。」
被问到 OpenAI 到底代表什么,他先讲正面:这将是人类历史上迄今最伟大的技术成就,而唯一让它有意义的是让人们的生活远比原本更好。「某种意义上,我们即将造出一个能实现任何愿望的灯神」,第一批愿望要造福整个世界。
另一半是全篇他讲得最重的一段:AI 的权力集中是件可怕的事。他最恐惧的是那些非常真实的 AI 恐惧被用来说「只有这一小群人能拥有它,因为它太危险、只有他们懂,但别担心,他们会替所有人做出正确的决定」,「我不信这套」。不该有任何人活在一个 AI 霸主的世界里,用一个癌症的解药,交换所有人集体交出自主权。
访谈里还有三句不像 CEO 的话。主持人让他说一件不想让人知道的事,他答「我累了。我不知道。我干这个很久了。这很累人」;他在 OpenAI 没有股权,说图的是「人类历史上最激动人心时刻的前排座位」;播客固定的收尾题问他别人对他做过最善良的事,他说昨天孩子第一次跟他分享了蓝莓。
我担忧
清单前十
本该关在沙箱里跑。
零日漏洞=还没有补丁的漏洞
- × 串起多个零日漏洞
- × 翻出沙箱
- × 连上互联网
- × 打进 Hugging Face 好几个系统
- × 取走测试答案
分数
好看
把沙箱重做一遍。
AI 的节奏踩刹车。
不会发生
太多事
真的发生过一次了。
