今天的AGI，从来都不是Ilya想要的。11月25日，被称为“深度学习教父级人物”的Ilya Sutskever接受了播客主Dwarkesh Patel的深度访谈。这是他离开OpenAI、创立Safe Superintelligence Inc.（SSI）后首次系统性阐述对AI未来的思考。一个半小时，两万多字，这可能是2025年AI圈最重要的一次对话。

一、对当前LLM发展的四大批评

访谈中，Ilya对LLM的批评主要集中在以下四点：

1. Scaling模式到头，需回归“研究时代”

他将整个LLM发展分成了三个时期：2012—2020年（研究时代）：百花齐放，新想法不断；2020—2025年（Scaling时代）：“Scaling”吸走了房间里所有的空气，只要堆数据和算力堆上去就会变强，导致核心创新乏力；现在（回归研究时代）：预训练数据正在枯竭，算力边际效应递减。虽然Scaling仍有惯性，但真正的飞跃需要新的根本性的研究突破。显然，他领导的SSI就是要引导这一新的研究突破。

2. 模型能力与社会经济影响不成比例

Ilya认为，今天的模型跑分结果惊艳，能力已很强，且为达到这一能力烧了大量资金，但在实际经济活动中的影响却不成比例地小。这源于模型存在“Jaggedness”（能力时高时低）问题——可能在测评场景表现出色，换个场景突然变得“白痴”。而Jaggedness背后是模型泛化能力不足，RL构建的学习环境本质是一场巨大的“应试教育”：训练时有“全量数据”支持，加上不断刷题，应试能力强，但到实际应用场景碰到新情况就易出问题。

3. 厌恶硅谷巨头主导的AI生态氛围

Ilya把今天AI巨头们的竞赛称之为“Rat Race”（老鼠竞赛），认为这种竞争总会带来痛苦，不愿参与；他觉得行业里“More Companies than ideas”（公司比想法多），导致大家缺乏核心新想法，总做重复事情，竞争局限在商业维度。他不赞同硅谷老话“ideas are cheap，execution is everything”，反问“if ideas are so cheap，how come no one's having any ideas?”

4. 对AGI安全的传统批评

他认为让AI学习“人类价值观”不可取，因为人类价值观脆弱又矛盾，学习后可能得到表面相似但本质不同的东西。这些批评共同指向一个浮躁的、技术未足够优秀却提前过度商业化的AI生态，“市场就是一个目光极其短浅的智能体”。

二、与Lecun的批评差异：改良派vs革命派

Ilya的批评与同样被大厂“赶出来”的LLM批评者Lecun有相似之处，但也存在不同。Lecun是彻底的革命派，要打碎旧的LLM制度，建立新的AGI；而Ilya则是洋务运动式的改良派，主张在LLM生态基础上做进一步技术能力突破——即做ASI（超级人工智能）。

三、迈向ASI：SSI的定位与研究方向

Ilya在访谈中展现出更多建设性，从产业进步角度谈论AGI生态，并重申SSI的定位：纯粹的研究公司，不做产品。这也解释了他认为30亿美元足够的原因——不会像奥特曼那样花费天价供养免费用户，而是聚焦宏伟未来。

对于SSI的研究方向，Ilya给出了以下方向：

- 回归基础能力研究：预训练数据有限，算力充裕，瓶颈在泛化能力，样本效率变得关键，大模型应像人类一样用少量数据高效学习（如10小时数据学会开车）。

- 重视Value Function：这是访谈高频词，类似人类的直觉甚至情绪，能让模型在推理过程中意识到问题，而非探索所有道路，大幅降低推理成本，如同从“应试教育”转向“素质教育”。

ASI的构想：快速学习者

Ilya心中的ASI不是全知全能模型，而是“快速学习者”：能用小样本高效学习，像人类一样在无海量指示下持续学习，更像15岁的超级智能，虽有未知但渴望学习。

ASI的安全路径

安全方面，Ilya认为让AI感知生命比理解道德更好：让AI感知所有生命（包括动物与自身）并共情，若能用同样机制理解自己和其他感知存在，可能产生关怀。但他仍担忧未来长期均衡，提出人类避免成为“宠物”的可能方案——通过脑机接口成为强大AI，实现半人半神的终极“对齐”，虽不喜欢但承认其可能性。

四、未来展望：ASI的遥远与乌托邦式AGI生态

当被问及更好的系统何时到来，Ilya给出“5到20年”的宽泛时间，这意味着需两到三代工程师的努力。若ASI5年内不落地且SSI不做产品，其需在漫长智能发展长夜中持续探索。

从访谈中可勾勒出Ilya构想的乌托邦式AGI生态：技术路线追求热诚，方案百花齐放，聚焦创新方法而非标准答案修补；创新受重视，Ideas被珍视，世界由新观点而非新算力驱动；技术有审美，简洁优雅而非浪费与“大力出奇迹”；研究者为人类文明利益而研究，重视安全性，而非大企业大资本围绕scaling law和用户注意力倾轧。

但如今AI已聚集数万亿美元投资，AGI及相关从业者世故圆滑且握有金钱权杖，Ilya离自己梦想的世界或许已渐行渐远。