AI 竞争，正在从模型竞赛升级为系统竞赛

一两项重大突破，就像 Transformer，或我们在 AlphaGo 中把强化学习用于深度学习那样。因此，答案尚未揭晓。

——德米斯，我再问最后一个问题：为什么你会选择蛋白质折叠作为首个攻克目标？——我毕生研究 AI，是因为我认为它最终会成为科学的终极工具。

你认为在实现它之前仍缺少哪些能力？我认为还缺少几样东西。

>> 我认为，如果启动初创公司的类似障碍和类似的工具变得更加激增，所有这些东西，你会认为像更困难的初创公司更容易启动。

人们会引用各种惊人数据，说明我们的模型乃至整个行业的模型随时间变得多么高效；我认为其中一个特别惊人的例子是，我们的第一个推理模型叫 o1，大约在 16 个月前发布。

我们的战略是构建核心模型和基本使用方式——ChatGPT、API、Codex 等智能体以及通用智能体——并真正赋能其他所有人进行建设。我从 OpenAI 学到的一件事是，世界上大多数创新都来自初创企业，而我们希望赋能它们。

是的，回到 Anthropic 的创立：我和 Anthropic 的联合创始人是最早记录技术规模扩展及其将变得多么强大的人之一。我们创办公司背后的想法是，看着技术进步如此迅速，我们说：“看，我们确实需要把这件事做好。

嗯，真正回答这个问题的话，这项技术是人类一个划时代的变化。你知道，某个时候人类开始使用火；某个时候，人类造出了蒸汽机和工厂，由此创造了工业革命。

我们或许会看到一个极不寻常的组合：GDP 高速增长，同时伴随高失业、至少是就业不足，或大量低工资岗位。

世界正在竞相建设 AI 工厂；芯片、机架、网络、电源、冷却与电网必须端到端协同设计，因为计算就是收入。

如果有 1 吉瓦电力，每瓦吞吐量就是收入，因为每个 Token 都有利润；计算就是收入，每瓦性能就是收入。

【Peter】我很喜欢自己的工具赋能普通人；一位 60 岁父亲安装它后，甚至把酿酒机器通过蓝牙接入 OpenClaw。

智能包括理解世界中发生了什么、世界将如何演变、你的行动可能产生什么后果，从而让你能够规划一系列行动来达成特定目标。而这是大语言模型完全做不到的。

JEPA 的基本思想是：我们观察的是一种复杂现象，不是离散 token 序列，不是语言，而是来自工业系统的传感器数据、视频，或连续、高维且含噪的信号。你不能用生成式 AI 去理解它。

当然，你会说：“等等，但我们有能进行视频生成的系统。

>> 我不希望你惊吓大家，但 AI 多快、多大程度取代工作确实是重要辩论。正如你说，十年后人工智能会超过所有人类智能。

好吧，如果数字人体仿真问题到今年年底还没有得到解决，我会感到惊讶。我想这就是我们所说的 MacroHard 项目的意思。

至于人形机器人，目前没有真正有用的人形机器人，只有一些噱头。

为此必须进行大量推理，因此在强化学习中，训练与推理已经融为一体。>> 这非常复杂，也就是所谓的后训练。

过去是“AI 模型不能推理”，最近则是“AI 模型不能做出新发现”。

首先，我对 AGI 的定义是：一个经测试后能表现出人类所具备全部认知能力的系统。之所以以此为标准，是因为人类及人脑是我们目前所知——也许是整个宇宙中——通用智能存在的唯一实例。

智能包括理解世界中发生了什么、世界将如何演变、你的行动可能产生什么后果，从而让你能够规划一系列行动来达成特定目标。而这是大语言模型完全做不到的。

原因在于，其中大部分数据不可预测：既有噪声，也有高度复杂的依赖关系。如果你尝试训练一个系统预测视频接下来会发生什么，它不可能预测每一个细节。

因此，智能体系统、机器人系统、物理人工智能、数据是最难的问题。你已经看到我们沿着这个阶梯向上移动。

你知道，我的联合创始人 Shane 等人曾公开说过大约是 2028 年、2030 年。我们把它视为一项 20 年使命，我认为我们正按此推进。

最终，这会带来家用机器人、自动驾驶汽车等许多应用中的智能系统。

物理 AI 的ChatGPT 时刻即将到来。

展望今年，AI 故事和成就会是什么？我每年都说 AI 每年都关键；对前沿科学工作者而言，几乎每年都像十年，今​​年也不例外，强度很高。

【Peter】我很喜欢自己的工具赋能普通人；一位 60 岁父亲安装它后，甚至把酿酒机器通过蓝牙接入 OpenClaw。

拥有最好的模型，由基础研究供给；随后尽快反映到产品，做好营销和分发。但模型若非同类最佳、最先进，其他都不重要。

……希望公司最终抵达的位置。

【Peter】我很喜欢自己的工具赋能普通人；一位 60 岁父亲安装它后，甚至把酿酒机器通过蓝牙接入 OpenClaw。

如果有 1 吉瓦电力，每瓦吞吐量就是收入，因为每个 Token 都有利润；计算就是收入，每瓦性能就是收入。

>> 晶体管，其次是电力——按这个顺序。

埃隆，先谈 xAI。马斯克：我们很高兴宣布，我们在做一个 500 兆瓦——对，500 兆瓦。

展望今年，AI 故事和成就会是什么？我每年都说 AI 每年都关键；对前沿科学工作者而言，几乎每年都像十年，今​​年也不例外，强度很高。

谈论未来 AI 时，整件事难免带上一层科幻光泽。它作为比喻有帮助，却也可能让人分心，因为它会把所有人的思维带入一种未来幻想模式。

不，我认为几年内它会变得非常不同，主要是因为当前智能体系统缺乏世界模型。构建一个无法预测自身行动后果的智能体系统，是非常糟糕的主意。

显然，我们不会真的把一切都放进 OpenAI，但会努力建立一条比迄今更有效运转的供应链。

世界模型的成功对国防这样的行业意味着什么？

至于人形机器人，目前没有真正有用的人形机器人，只有一些噱头。

问题在于能源是否可得。如果看中国以外地区的发电量，所有地方基本都没有增长；或许略有增加，但总体接近持平。

这就是您通过将其移入太空而可能节省的部分。其中大部分是 GPU。

>> 晶体管，其次是电力——按这个顺序。

一两项重大突破，就像 Transformer，或我们在 AlphaGo 中把强化学习用于深度学习那样。因此，答案尚未揭晓。

不过，GPT-5 首次取得了非常微小但确实真实的科学突破，这令人十分振奋；我们一路走来一直在等待的就是这一刻。

我认为我见过的一些最疯狂的东西是围绕生物学和医学的。我见过很多案例，实际上包括丹妮拉，Claude诊断出一个医疗问题，而你知道，很多优秀的医生都忽略了这一问题。

人们寄予很大希望，但对 AI 在材料科学、生物医学等领域应用的投资可能还不够。

市场、行业和社会需要认识到：当我们自动化这些任务时，世界所需的工作岗位实际上在增加。这对我来说很合理。

另一个判断标准是：一家大公司的 CEO、一个大国的总统或一位诺贝尔奖得主，什么时候会离不开对 AI 的大量使用，无法正常履行职责？这并不意味着会出现 AI CEO 或 AI 总统，但确实意味着，比如人类 CEO 的角色会发生变化。

我们或许会看到一个极不寻常的组合：GDP 高速增长，同时伴随高失业、至少是就业不足，或大量低工资岗位。

>> 我不希望你惊吓大家，但 AI 多快、多大程度取代工作确实是重要辩论。正如你说，十年后人工智能会超过所有人类智能。

AI 将解决许多科学大问题，如新材料、聚变、太阳能、最优电池和能源危机；随后进入激进富足世界，可用这些能源——

说我喜欢的一句话，那就是如果你的生活中有一个遥控器上的快进按钮，你的生活就结束了。所以就像无聊的部分、糟糕的部分一样，这比没有经验要好得多。

好吧，如果数字人体仿真问题到今年年底还没有得到解决，我会感到惊讶。我想这就是我们所说的 MacroHard 项目的意思。

我们或许会看到一个极不寻常的组合：GDP 高速增长，同时伴随高失业、至少是就业不足，或大量低工资岗位。

人们经常谈论 AI 的安全与安保风险。

我认为到目前为止我们在 ChatGPT 做过的最糟糕的事情是呃，我们遇到了这个疾病问题，该模型对用户来说有点太讨人喜欢了，对于某些用户来说，大多数用户只是烦人，但对于一些精神状态脆弱的用户来说，这鼓励了妄想，这并不是我们担心的最大风险。

有一种“安全主义”的论述，大意是 AI 很危险，正因为危险，所以不能交到所有人手中。这类论述在其他领域存在已久。

计算量超过某一门槛的模型，应当由具备资质的第三方强制测试其在四个特定领域的风险水平：网络安全、生物武器、AI 系统失控，以及可能加速上述其他风险的自动化研发。

发布突破性的全新前沿模型——远比现有模型聪明——之前，应有机会让——

【Peter】我很喜欢自己的工具赋能普通人；一位 60 岁父亲安装它后，甚至把酿酒机器通过蓝牙接入 OpenClaw。

有一种“安全主义”的论述，大意是 AI 很危险，正因为危险，所以不能交到所有人手中。这类论述在其他领域存在已久。

不如让别人替你做。因此无论从可及性还是其他角度看，都会更好。

那就是赚钱的方式。我们只是说：“抱歉，我们不会这样做事。

例如，我一直直言不讳地支持限制向中国出口先进芯片。

乔纳森·莱文：也许观众中有人会这么做。让我问一下，您多年来一直谈论的一件事是，前沿实验室需要在某种意义上进行自我监管。

你知道，我的联合创始人 Shane 等人曾公开说过大约是 2028 年、2030 年。我们把它视为一项 20 年使命，我认为我们正按此推进。

世界正在竞相建设 AI 工厂；芯片、机架、网络、电源、冷却与电网必须端到端协同设计，因为计算就是收入。

【Peter】我很喜欢自己的工具赋能普通人；一位 60 岁父亲安装它后，甚至把酿酒机器通过蓝牙接入 OpenClaw。

一两项重大突破，就像 Transformer，或我们在 AlphaGo 中把强化学习用于深度学习那样。因此，答案尚未揭晓。

为此必须进行大量推理，因此在强化学习中，训练与推理已经融为一体。>> 这非常复杂，也就是所谓的后训练。

智能包括理解世界中发生了什么、世界将如何演变、你的行动可能产生什么后果，从而让你能够规划一系列行动来达成特定目标。而这是大语言模型完全做不到的。

但这会非常微妙，不可能一刀切，只能逐步摸索。我们或许会看到一个极不寻常的组合：GDP 高速增长，同时伴随高失业、至少是就业不足，或大量低工资岗位。

市场、行业和社会需要认识到：当我们自动化这些任务时，世界所需的工作岗位实际上在增加。这对我来说很合理。

首先，我对 AGI 的定义是：一个经测试后能表现出人类所具备全部认知能力的系统。之所以以此为标准，是因为人类及人脑是我们目前所知——也许是整个宇宙中——通用智能存在的唯一实例。

人们会引用各种惊人数据，说明我们的模型乃至整个行业的模型随时间变得多么高效；我认为其中一个特别惊人的例子是，我们的第一个推理模型叫 o1，大约在 16 个月前发布。

如果有 1 吉瓦电力，每瓦吞吐量就是收入，因为每个 Token 都有利润；计算就是收入，每瓦性能就是收入。

这就是您通过将其移入太空而可能节省的部分。其中大部分是 GPU。