三五中文网

三五中文网>燕归来 > 第一卷少年游 第一百三十四章感知(第3页)

第一卷少年游 第一百三十四章感知(第3页)

停住。

这问题太大,而且现在说“理解”本身就没有定义。他把后半句划掉,只留下:

**被动数据行动产生的数据。**

老师已经讲到另一层。

行动并不天然带来更真实的知识。机器人撞一次墙,只知道某个速度、某个角度、某种材料下撞不过去;如果因此得出“所有类似颜色的平面都不可穿过”,那只是从一次经验长出一个过大的结论。行动让数据与因果更近,却仍然需要表示、泛化和反事实。一个系统不仅要记住“我做了A,随后出现B”,还要逐渐区分:B真的是A造成,还是刚好同时发生?换一个环境,A还会不会导致B?如果不做A,会怎样?

报告厅里开始出现更多笔记声。

这些概念已经越过普通新生课程,却没有难到无法跟。老师有意避开太多公式,真正技术边界只点到为止:部分可观测、状态估计、预测误差、探索与利用、因果干预、长期记忆。每个词后面都可能是一整门课,他不展开,只让大家看它们为什么会从“一个东西要在世界里活着行动”这个问题里自然长出来。

原既白第一次觉得,人工智能和他过去想的有一点不一样。

不是那些知识错。

算法、模型、计算、优化仍然在那里。

但如果智能只被放在屏幕里,任务已经由人定义,数据已经由人收集,输入输出边界也由人提前切好,那么很多最麻烦的问题其实被世界替你解决了。真正让一个系统进入现实,不只是给模型装上轮子和摄像头,而是让它开始面对那些原来隐藏在数据之外的东西:传感器会坏,地图会旧,人会临时改变主意,环境会变化,一个动作的结果未必可逆,某些错误不是重新运行一次就能恢复。

他想起奶奶认错楼。

这个念头出现得突然,以至于他几乎立刻想把它压回去。

但它没有完全消失。

家里贴一张六桌合照,实际上也是给奶奶的环境里增加一个可识别的线索。那张照片最初有效,后来慢慢褪色,老人也可能开始忽略。同一条回家路径,对年轻人来说几乎不需要思考,对一个记忆开始变化的人却需要完全不同的信息。所谓“环境足够清楚”,从来和谁在使用它有关。

原既白没有在笔记里写奶奶。

只看着台上的图。

第三位讲者没有任何技术演示。

她来自一个做认知与机器人交叉研究的小组,年纪大概三十多岁,上台以后第一句话是:“前面两位都在讲怎么让机器更懂世界,我想讲一个相反的问题——不要太快说它懂了。”

她放出几段机器人完成任务的视频。

第一段非常顺利。机器人听到“把红色方块放进左边盒子”,识别、抓取、放置,一次成功。第二段把两个盒子换了位置,仍然成功。第三段只改变桌布图案,机器人却开始连续抓错对象。

如果只看第一段,很容易得到“它理解颜色、对象、左右和指令关系”的印象;加入几个环境变化以后,真正支撑成功的可能只是训练环境里某些人没有意识到的相关性。

“行为成功不等于内部原因是你以为的那个原因。”

她说这句话时,没有刻意加重声音。

原既白却听得很清楚。

这和考试有一点像。

一个学生做对一道题,可能是理解,也可能是见过,也可能只是恰好猜中;一个模型在标准环境里持续成功,也可能通过完全不同的捷径实现。真正困难的是怎样设计变化,让那些捷径失效,逼出系统是否保存了你关心的关系。

讲者又展示一个更有意思的实验。

桌上有几种从未见过的物体,系统被要求按照一个新规则分类。第一次它错得很多,研究人员给少量反馈以后,很快学会。但当物体颜色和形状之间的相关性被打乱,准确率再次下降。讲者说,这类问题最后会不断逼向“表示”——系统内部究竟把什么当成稳定关系,什么只是一起出现。

已完结热门小说推荐

最新标签