车原本规划好的路径被挡住,停了一下,重新绕。地图里新增一个障碍。等车过去以后,老师又把椅子搬走,可那块障碍并没有马上从内部地图中消失,车下一次经过仍然绕开了一点。
“它记住了一个已经不存在的东西。”
老师说。
“这也是世界模型的问题。”
这是原既白第一次在大学教室里听到“世界模型”这个词,却和他过去在网络文章里见过的用法不太一样。老师没有把它说成某种神秘的新技术,只说任何需要在现实中持续行动的系统,都必须以某种形式保留对环境的内部假设。这个假设可能是一张几何地图,也可能是概率分布、状态变量、对象关系,或者更加难以直接解释的内部表示。关键不在“画一张和世界一样的图”,而在行动之前能不能预测一些事情:这里能不能过去;推一下会不会倒;抓住以后会不会滑;前面的人下一秒大概往哪里走;一个动作执行以后,环境会发生什么变化。
讲台边的小车并不知道“椅子”这个词。
它只知道那里存在一个暂时不可穿过的区域。
这已经足以绕开。
可如果任务变成帮人搬椅子,它现在的内部世界就立刻贫乏得不够用。它需要知道哪里可以抓、重量大概多少、轮子有没有锁,甚至要知道人在说“把这把椅子搬到后面”时,什么东西被称作“这把”,哪里算“后面”。
同一个环境,行动目标一变,需要保存的结构也跟着变。
原既白听得越来越慢。
高中时期他理解一个复杂系统时,最自然的方法是先寻找更高层结构。一旦那个结构足够好,底下很多细节会被统一解释。这种能力让他在数学和算法里走得很快,也让他在交通项目第一天就本能地想先设计完整数据模型。现在讲台上的老师却从另一端不断逼他:一个内部结构再优雅,如果没有保留行动真正依赖的东西,它只是漂亮。
第二位讲者来自计算机系,年纪更大一些。
他上台以后没有继续演示机器人,而是放了一张很简单的图:左边“环境”,中间“智能体”,右边又回到“环境”,箭头构成一个环。环境给感知,智能体采取行动,行动改变环境,新的环境再产生新的感知。
“你们很多人过去接触机器学习,”他说,“会天然想到先有一份数据,再训练一个模型。”
原既白确实如此。
“可一个真正生活在世界里的系统,数据从哪来?”
老师没有等回答。
“很多数据,是它自己做出来的。”
屏幕出现一个机械臂摸不同物体的视频。第一次抓一个软袋时,它夹得太紧,袋子滑出去;第二次减小力度,却抓不起来;第三次换了接触位置。每一次失败都不只是训练集里新增一行记录,而是系统通过自己的动作改变了下一次能获得什么信息。
老师暂停视频:“如果它永远不碰,只看照片,能不能知道这个袋子软不软?”
有人说可以从视觉估计。
“估计当然可以。那如果照片里从没出现过这种材料?”
下面没人答。
老师又放了一段婴儿伸手碰桌上杯子的短视频。没有声音,只有一只小手反复把杯子往前推,杯子第一次没倒,第二次转了一点,第三次掉下桌面。老师没有把婴儿和机器粗暴等同,只说一件很朴素的事:很多关于世界的知识,不是旁观得到的,而是在行动中被验证。视觉告诉你“像什么”,动作会逐渐告诉你“它会怎样”。
原既白脑子里突然出现一个问题。
如果一个模型只从别人留下的数据里学习,它理解的是世界,还是“别人已经行动过以后留下来的世界”?
他在本子上写了一半。
停住。