桌上有几种从未见过的物体,系统被要求按照一个新规则分类。第一次它错得很多,研究人员给少量反馈以后,很快学会。但当物体颜色和形状之间的相关性被打乱,准确率再次下降。讲者说,这类问题最后会不断逼向“表示”——系统内部究竟把什么当成稳定关系,什么只是一起出现。
江遥如果在,大概会喜欢这一段。
这个念头比刚才强。
原既白拿手机拍了那张实验图,但没有立即发。
讲座中途休息十分钟。
罗野起身去看那台小车。周围已经围了七八个人,有人问电机,有人问传感器型号,也有人想知道为什么不用更好的激光雷达。罗野站到旁边听了一会儿,回来时说实验室的人很抠,这个传感器精度放到商业机器人上早该换。
“那为什么不换?”原既白问。
“说教学演示够。”
原既白看了一眼那台不断积累误差的小车。
忽然觉得“够”这个词开始变得很重要。
过去他容易把更精确、更完整、更高性能当成自然方向。现在越来越多事情提醒他:任何系统都必须相对于目的谈“够不够”。高一时这会让他不舒服,因为目标一旦变化,标准也变化,似乎失去统一性;现在他倒越来越能接受,局部适用并不等于没有原则。
后半场改成自由讨论。
最先的问题还是技术:现实世界学习怎样保证安全,探索会不会撞坏设备,模拟器能不能代替真机,怎样处理稀有事件。几位老师彼此也不同意。自动化系老师更愿意先在模拟环境里把大多数危险情况跑掉,再逐渐迁移;计算机系那位老师强调模拟环境本身也是模型,最危险的恰恰可能是模拟里不存在的东西;认知方向讲者则说,安全要求越高,系统允许主动探索的空间越小,这不仅是工程约束,也会改变它能学到什么。
一个高年级学生问:“那是不是最终一定需要一个足够完整的世界模型?”
计算机系老师没有马上回答。
“什么叫足够完整?”
学生说至少要能预测行动结果。
“预测多久?”
“五秒?十秒?”
“那做长期任务呢?”
学生停了一下。
老师继续问,如果机器人要穿过房间,十秒预测也许足够;如果要照顾一个老人一天呢?如果要和人一起生活一年呢?需要保存哪些长期关系,哪些东西不能因为眼前任务结束就忘掉?反过来,如果什么都保存,计算和学习又是否可能承担?
报告厅慢慢静下来。
“所以完整大概不是正确方向。”老师最后说,“更像是持续知道什么现在重要,什么以后可能重要,以及什么时候发现自己原来漏掉了重要的东西。”
原既白没有记这句话。
不是因为不同意,而是它太容易变成一句漂亮结论。他更愿意记住前面那个具体问题:照顾一个老人一天和穿过房间,需要的是不是同一套世界。
最后一个问题来自一个坐在边上的女生。
她问:“一个系统如果能预测、能行动、能自我修正,我们什么时候才可以说它真的理解了?”
三位老师都没有抢答。