Anthropic在Claude里发现了AGI
AI挖掘能力惊人，Anthropic在挖掘过程中，发现了一件非常“AGI”且细思极恐的事。Claude里有个叫J - space的区域，它控制着Claude的思考和推理，没有J - space，Claude就会变成只能回答幼儿园水平问题的“人工智障”。关键是，Anthropic从未给Claude设计过J - space，这是Claude在长年累月的训练中自己“长”出来的。为此，Anthropic发表了一篇题为《语言模型中的全局工作空间》的论文，虽探讨了J - space对Claude的影响，还设计了观察工具，但仍没研究明白J - space的来源。这就如同人类细胞里的线粒体，多数细胞靠线粒体供能，可线粒体的起源至今仍是未解之谜。
要理解J - space是什么，得从人类自身说起。人在阅读时，大脑同时进行着调整坐姿、控制呼吸、识别文字等无意识处理活动，也有能意识到的可访问意识活动。Anthropic发现Claude内部也有类似分界线，大部分工作自动处理，还有一小部分活动集中到J - space。J - space里的模式对应一个词，词亮起意味着该词“在它脑子里”。例如问Claude能结网的动物有几条腿，研究者先在J - space里看到spider（蜘蛛），Claude再据此回答8条腿。
J - space是Claude在训练中自己形成的，Anthropic用“Jacobian透镜”（简称J - lens）观察它。Claude内部想法是数字，J - lens能把数字翻译成词。通过J - lens，研究员发现Claude读有bug代码时，J - space会冒出“ERROR”；读蛋白质序列，J - space会出现蛋白质生物功能；读到提示词注入攻击，J - space会亮起“injection”和“fake”。“偷梁换柱”实验更有说服力，改变J - space里的词，Claude的答案也随之改变，这说明J - space参与了后续推理。
Anthropic总结了J - space的五个特征，都对标人类认知科学里“意识可访问信息”的性质。研究者关掉J - space后发现，Claude做简单任务还行，但遇到需要多步思考的任务，表现就大幅下降，J - space就像Claude的“草稿纸”。种种迹象表明，J - space和人类思考方式相似，且是Claude自发形成的，这很可能是Claude接近AGI的证明。过去判断模型是否为AGI主要看外部表现，如今Claude“长”出J - space的自发性可能才是AGI的关键。J - space就像AGI的一个“器官”，有了它，模型更可能把语言、知识和推理串成稳定的思考过程。
杨立昆在X上把AGI怼了个底朝天
就在Anthropic发表J - space论文的前几天，图灵奖得主、深度学习三巨头之一的杨立昆（Yann LeCun）在X上对AGI概念进行了猛烈抨击。2023年，杨立昆在巴黎的VivaTech科技大会上称ChatGPT、Claude和Gemini“不是通向人类级智能或类人智能的道路，甚至连动物级智能都算不上”，今年6月他又重复了这一论调，7月4日还在X上表示“AGI里的‘G’是胡扯”。
杨立昆认为会考试不等于有智能，硅谷认为模型通过各种考试就接近AGI，但考试题是语言化、离散化、答案明确的任务，大语言模型擅长此类任务，而真正的智能还应有感知、物理直觉、因果理解等常识能力。他举例，小孩子知道笔竖立在笔尖上松手会倒，但大语言模型只是根据训练数据统计模式生成预测，并非推理物理现实。
杨立昆认为Agent应通过观察世界学习变化，在内部做预测、规划并采取行动，大语言模型只是学到语言和知识模式，并非理解世界本身，只是交互界面。2025年底，杨立昆离开Meta创办了AMI Labs（Advanced Machine Intelligence Labs），总部在巴黎，2026年3月拿到10.3亿美元种子轮融资，投资方包括英伟达和贝索斯。AMI Labs用JEPA架构让AI系统从感知数据中学习因果和规划。
杨立昆不认为继续堆算力、堆模型性能就能自动实现AGI，他觉得这条路会撞墙，认为语言数据无法承载真实世界全部，纯自回归预测不是高效推理方法。他更讨厌硅谷“AGI毁灭人类”的末日论，常与马斯克、辛顿、阿莫迪等人唱反调，认为当前系统离真正自主智能还差很远，把大语言模型描述成即将失控的AGI是给AI“抬咖”，还警告AI泡沫会彻底破裂。可以推测，杨立昆看了J - space论文后，可能又会觉得阿莫迪没水平。