LLM 当前有什么问题?一言以概之就是: 为了解决 LLM 在习得类似人类的“智慧”时,过度依赖“语言”(这一线性、低信息密度的媒介)导致幻觉、难以应用的问题。
试想一下:有一个“绝世天才”(拥有规模超大规模的神经元),过目不忘(硅基神经元电信号不衰减),他的记忆容量甚至能装下全人类所有的文字,并且理论上可以无限增加(scaling law)。
但是,从他(LLM)诞生的那一刻起,就被锁在一个没有窗户的房间里。看不见外面的天空,听不见鸟叫,摸不到粗糙的树皮,也闻不到雨后泥土的味道(并没有对应的数据集)。
他了解世界唯一的途径,是一条缝隙,有人会从门缝里塞进无数张纸条,上面写满了文字,或者画着平面的图画(训练数据包含文字和图片)。
他读到了“苹果”这个词。书上说:“苹果,蔷薇科植物,果实圆形,味甜或酸,口感清脆。” 他看过无数张苹果的照片,红的、青的、画在静物油画里的。
他甚至能写出一篇关于苹果的绝美散文,比任何美食家写得都动人。
可是,他真的“懂”什么是苹果吗?
他知道咬下去那一瞬间,汁水在口腔爆开的轻微刺痛感吗?他知道它握在手里那种沉甸甸、凉丝丝的触觉吗?
他不知道。
因为他所有的认知,都隔着一层语言的纱。
这就是当前大型语言模型(LLM)所面临的终极困境。
一、语言是载体,不是智慧本身。
我们总是误以为语言就是智慧。但其实,语言只是智慧的压缩包,是思维的载体。
当我们说“好烫!”的时候,这两个字背后,是我们被开水烫到的痛苦记忆,是皮肤红肿的生理反应,是下意识缩手的神经反射。
但对于那个被锁在房间里的“天才大脑”(LLM)来说,“好烫”只是一个经常和“火”、“开水”、“疼痛”这些词一起出现的统计学符号。它通过海量的阅读,学会了在看到“开水”时预测出“好烫”,但这中间没有痛觉,没有物理反应,只有概率。
这也是为什么基于 LLM 的 AI 总会产生“幻觉”(一本正经地胡说八道)的原因,一切都是统计值推演结果(LLM 其实并不知道自己不知道)。
因为它并没有真正在物理世界中生活过。当它在文字的迷宫里迷路时,它没有现实世界的锚点来纠正它。
它会根据概率拼凑出一个看起来很通顺,但违背物理常识的答案 ——因为它不知道在这个客观存在的三维物理世界里,万有引力是如何运作的,也不知道谎言和现实的质感有何不同。
有时候,大家都说 LLM 有幻觉,我觉得其实有失偏颇,因为人类也有幻觉。我们何尝不是基于前几十年训练得到的“模型”在如今社会中生活呢?只不过,我们有“现实”这一纠错机制,我们生活在客观物理的世界,让我们作出错误决策时(训练的前向传播)付出相应的代价(loss)。
二、解决方案的一体两面:具身智能与世界模型
既然问题出在“没见过世面”,那解决办法是什么? – 具身智能(Embodied AI) 和 世界模型(World Models)。
通俗点说,就是把那个被锁在房间里的天才,放出来。
这里有一个非常有趣的视角:其实人类某种意义上也是先看到“二维”的。我们的视网膜接收的图像本质上是平面的,但为什么我们能理解三维的纵深?因为我们有手,我们有身体。确切的说,我们有其他感官(触觉、味觉等)。
我们的手伸出去触碰到了物体,这种触觉反馈告诉了大脑:“哦,原本视觉上那个小小的色块,原来在这么远的地方,而且是立体的。”
这就是具身智能和世界模型这对“双生子”真正要解决的问题,从这个角度看,它们简直像极了人类的“手”和“脑”:
世界模型(World Models):就是那个理解 3D 的“脑”。 它不再仅仅预测下一个“字”是什么,而是去模拟和预测这个物理世界的 3D 变化。它让 AI 知道,如果我松开手,苹果会因为重力掉下去,而不是飞上天。它为 AI 构建了一个即使闭上眼也能感知的、有纵深的心理地图。这个方向专注于用已经收集到的数据训练智能化的模型。
具身智能(Embodied AI):就是那个验证 3D 的“手”。 它是世界模型落地的载体。给大脑装上机械臂和传感器,让它去推倒一个杯子,亲眼看着杯子碎裂,亲耳听到刺耳的声音。正是通过这种物理交互,AI 才能验证它脑中的“世界模型”是否准确。这个方向专注于通过一个“实体”去收集真实的、文本以外的数据。
只有当 AI 像我们一样,用“手”(具身交互)去触摸它“眼”(视觉感知)中的二维画面时,它才能真正理解什么是纵深,什么是实体,什么是因果。
三、什么是世界模型?
那么,到底什么是世界模型?
简单来说,世界模型(World Model)就是 AI 在自己“脑中”构建的一个关于现实世界如何运作的微缩、可交互的模拟器。
它不是简单地记忆事实,而是试图理解事物之间的因果关系和物理规律。就像你在脑中预演明天上班的路线,或者想象一个球从桌上滚落的轨迹一样,世界模型让 AI 拥有了在采取行动之前,先在“心里”模拟一下“如果我这么做,会发生什么?”的能力。
这个“内部模拟器”有两个核心作用:
- 预测(Prediction)根据当前状态和即将采取的动作,预测世界在下一刻会变成什么样。
- 规划(Planning)通过在模拟中反复“试错”,找到达成目标的最佳行动路径,而无需在现实世界中付出高昂的代价。
理解了这一点,我们再来看最近的争议,就能明白为什么很多人都理解错了。
世界模型:不是为了造游戏,而是为了通过“物理图灵测试”
前几天,像 Marble 这样的新一代世界模型横空出世,让 AI 圈子再次沸腾。但看了一圈评论,我发现大家似乎有一个巨大的误解:
“这不就是个更高级的游戏引擎吗?” “生成个 3D 场景有什么用?大众又不需要天天捏泥人。” “比起 ChatGPT 这种能帮我写代码的,这东西简直就是玩具。”
如果你也这么想,那可能就错过了 AI 通往“真实智慧”最关键的一把钥匙。
1.为什么 AI 非要死磕 3D?
大家有没有想过,为什么现在的世界模型(如 Sora, Marble, Genie)都要去生成 3D 视频或者三维空间?
因为 3D 是物理世界的“防伪水印”,是 AI 的“物理图灵测试”。
什么意思呢?语言模型(LLM)可以撒谎。它能写出“杯子掉在地上碎了”,这是因为它在书里读过这句话。但它并没有理解重力,也没有理解陶瓷的脆性。
但如果一个模型,能够凭空生成一段连贯的、符合物理规律的 3D 视频:
- 它必须“知道”物体被遮挡后并没有消失(物体恒常性);
- 它必须“知道”光线打在玻璃上会折射(光学规律);
- 它必须“知道”杯子掉落的加速度是越来越快的(重力与运动学)。
生成,是最高级的理解。
如果 AI 能够完美地推演并生成出三维世界的下一帧,那就证明它已经不仅是“读过万卷书”的书呆子,而是真正理解了了物理法则。所以,搞 3D 不是为了做游戏,而是为了验证它是否真的“懂”了这个世界。
四、什么是具身智能?
那么,到底什么是具身智能?
简单来说,具身智能(Embodied AI)就是让 AI 不再仅仅是计算机屏幕上的一个程序,而是拥有一个“身体”(Body)——无论是物理机器人还是虚拟世界中的角色,使其能够像生物一样在真实环境中感知、思考和行动。
它不是简单地处理数据和文本,而是强调智能体与环境之间的实时、双向、循环互动。就像一个孩子通过触摸、跌倒和奔跑来学习世界的物理规则和社会规则一样,具身智能让 AI 拥有了在具体情境中“亲身体验”,并利用这些反馈来不断调整和完善自身行为的能力。
这个“身体和环境的结合”有两个核心特点:
- 具身性(Embodiment)智能体必须拥有物理形态(或可感知、可操作的模拟形态),能够执行动作并感知环境变化。
- 交互性(Interaction)智能体的行动会对环境产生影响,而环境的变化也会实时作为新的输入反馈给智能体,形成一个封闭的学习循环。
理解了这一点,我们再来看最近的应用,就能明白为什么它被视为通用人工智能(AGI)的关键一步。
具身智能:不是为了写代码,而是为了让 AI 拥有“现实世界常识”
1.不要用人类的线性进化视角,去看待硅基生物的指数级进化。
有人说:“具身智能(机器人)进化太慢了,一个机器人能遇到的场景有限,摔倒一次学一次,这得学到哪年去?”
不要用人类的线性进化视角,去看待硅基生物的指数级进化。
人类的学习是孤立的。我吃亏了,如果不写成书告诉你,你就得再吃一次亏。 但机器人不一样。
具身智能 + 世界模型 = 蜂巢思维(Hive Mind)
触角采集: 一千万个机器人散布在全球各地。A 机器人在厨房摔碎了一个盘子,B 机器人在工厂拧滑了一颗螺丝。这些是具身智能在收集真实的、低密度的物理反馈。
云端同步: 这些失败的经验(高维向量数据),瞬间上传到云端的世界模型中。
高效协同: 机器人们的通信不需要使用人类的语言,而可以直接用“向量”这一更高信息密度的信息载体。
群体顿悟: 世界模型通过模拟和训练,瞬间“学会”了这两种物理特性,并更新参数。
全员进化: 下一秒,全球一千万个机器人同时完成了固件更新。哪怕 C 机器人还在出厂的盒子里,它就已经学会了“如何不摔碎盘子”。
“一个机器人吃过的亏,能让千万个机器人瞬间避坑。”
这就是为什么具身智能不是笑话,它是为了给那个庞大的云端大脑(世界模型)提供源源不断的“新鲜血液”。世界模型在云端模拟千亿次,具身智能在现实验证一次,两者闭环,进化速度将是人类文明的无数倍。
2.当前主流的竞争格局
既然世界模型这么重要,现在谁走在前面?
OpenAI (Sora): 走的 “大力出奇迹”路线。把视频当作 token 来预测,试图通过极其庞大的数据量强行涌现出物理规律。画面极美,但在精细的物理交互控制上还有很长的路要走。
Meta (V-JEPA / Yann LeCun): 走的 “本质派”路线。LeCun 坚持认为不应该预测每一个像素(那是浪费算力),而应该预测抽象的特征表示。这更接近人类大脑的工作方式——我不记得你衣服上有几个褶皱,但我知道你坐在那里。这可能是通往高效 AGI 的关键。
Google / DeepMind (Genie, RT-2): 走的 “交互派”路线。Genie 可以把任何图片变成可玩的游戏,这不仅是生成,更是侧重于“动作”和“反馈”。这直接为机器人规划动作打下了基础。
Marble 等新势力: 专注于“高保真 3D 构建”。试图打通文本到精细 3D 世界的桥梁,解决创意控制的局限性。
五、主要挑战与解决方案
尽管前景广阔,但通往真正世界模型的道路上,还是非常困难的(不然可能早就成为主流了),这正是当前研究的焦点,也是其价值的体现。
1.物理外推(3D/4D 世界的推理)困难
当前模型面临两大困难:物理外推(就是物理推理,就是泛化性)和算力开销。
什么是物理外推?
简单来说,就是将模型在“已知”物理场景(如简单的刚体碰撞、重力下落)中学到的规律,应用到“未知”或更复杂的场景中去。
挑战在哪里?
现有模型可以很好地模拟“一个球掉在地上会弹起来”,但很难准确预测“一杯水泼在墙上时,水花会如何四溅”或者“烟雾在遇到障碍物时会如何缭绕”。这些涉及到流体动力学、柔性物体、空气阻力等极其复杂的物理效应。模型在这里往往会“脑补”出一些看似合理但不符合物理一致性的结果,导致模拟在细节上失真。这就像一个只学过初中物理的学生,去解答一个关于湍流的博士级问题,知识储备和工具都远远不够。
2.庞大的计算开销
另一个核心挑战是巨大的计算开销。
高保真的 3D/4D 世界建模,本质上是在用算力“硬扛”物理定律。要实时模拟一个哪怕是房间大小的空间里所有光线、粒子和物体的交互,所需要的计算量都是天文数字。这导致了两个问题:
- 研发门槛极高:只有少数拥有大规模GPU集群的巨头公司才能承担起训练这些模型的成本,这极大地限制了整个领域的创新速度。
- 实时交互受限:即便模型训练好了,要在消费级硬件上实现与模型的实时、高频交互(例如,在一个模拟世界里自由地移动物体并立即看到反馈)也几乎不可能。这使得世界模型目前更像一个“电影生成器”,而不是一个可供 Agent 实时“排练”的沙盒。
3.业界当前的解决方向
抽象化学习(LeCun 的“本质派”路线):与其像素级地模拟每一个细节,不如让模型学习世界更“抽象”的特征和规律。就像我们人类理解世界一样,我们不会去计算光子的轨迹,而是理解“光会照亮物体”这个抽象概念。Meta的 V-JEPA 等模型正是这一思路的体现,它试图在保证物理一致性的前提下,大幅降低计算的复杂度。
混合式模型(Hybrid Models):将神经网络的强大“学习能力”与传统物理引擎的“精确计算”相结合。例如,用物理引擎处理宏观、简单的刚体运动,而用神经网络去模拟和渲染那些传统方法难以处理的复杂细节(如毛发、流体)。取长补短,在效率和真实性之间找到最佳平衡。
算法与硬件的协同进化:未来,更高效的算法(如稀疏注意力、神经微分方程等)将能用更少的算力实现更真实的模拟。与此同时,专为 AI 计算设计的新型硬件(如光子芯片、存内计算)的发展,也将从根本上提升算力上限。算法的“软件”优化和硬件的“底层”突破,将共同推动世界模型跨越成本的冰山。
六、结论:大脑与双手的共生进化
总结来说,当前的 LLM 智力提升会越来越慢,为了让AI走出“语言的房间”,一种预期的方案是赋予它一个能理解物理世界的“大脑”(世界模型)和一双能感知物理世界的“双手”(具身智能)。
然而,这两条路径并非坦途,它们各自面临着核心的瓶颈,却又奇妙地互为解药:
- 世界模型的瓶颈在于“数据”:再强大的模拟器,如果只在虚拟世界里闭门造车,其对真实物理的理解终将遇到天花板。它需要源源不断的、来自真实物理世界的、充满意外和噪声的“非结构化数据”来喂养和校准自己。
- 具身智能的瓶颈在于“智力”与“精度”:再精密的机器人,如果背后的大脑不够智能,它就只是一台重复执行指令的机器,无法应对复杂多变的环境。同时,机械的物理极限(精度、速度、力量)也决定了它探索世界的效率。
这形成了一个完美的闭环,一个“大脑”与“双手”的共生进化关系:
双手(具身智能)
在真实世界中摸爬滚打,为大脑(世界模型)带回了最宝贵的“养料”(真实数据),迫使其迭代,让模拟更逼近现实。
一个更强大的大脑(世界模型),能够进行更深层次的思考和规划,反过来指导双手(具身智能)做出更智能、更高效的动作,突破其纯粹的机械局限。
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。