三五中文网

三五中文网>燕归来 > 第一卷少年游 第八十五章试探(第2页)

第一卷少年游 第八十五章试探(第2页)

做到最后一问时,她又遇到了以前最危险的地方。题目问如果所有钟的自然速度分布稍微改变,前面的结论是否仍成立。她本能地想写“结构基本不变”,因为刚才那种整体表示太好用了,可笔停下来以后,她先检查了几个极端情况。如果速度差异非常大,相互作用再强一点也未必能让所有人同步;如果分布有两个明显群体,还可能先形成两拨不同节奏。她最终没有写一个漂亮的“仍成立”,而是写出了成立需要的范围,并指出超出范围以后可能出现其他集体状态。

考试结束以后,江遥比上午更累。不是因为题目数量多,而是她能明显感到自己脑子里同时存在两种要求:一边不断寻找更好的表示,一边又不断质问这个表示凭什么成立。以前前一种声音远大于后一种,现在两者终于开始像真正的对手。

与此同时,原既白正在县城做第一次由程序主动生成的模型测试。

叶老师前几天要求他们把“动态测试”说清楚,不能只写一句根据模型调整。原既白和宋弈讨论了整整两个晚上,最后把目标缩得非常具体:不再由人提前列一长串“可能出问题的变化”,而是让程序自己反复修改图片中人认为不重要的部分,看看什么时候模型会突然改答案。主体尽量不动,先换背景,再轻微改变压缩、亮度、边缘和局部纹理;如果某个方向特别容易让模型摇摆,就继续沿着那个方向试。

宋弈听完设计以后说:“不就是让机器专门找机器麻烦?”

原既白想了想:“差不多。”

这句话比他们报告里任何专业描述都准确。以前的测试像老师自己出十道题,看看学生会不会;现在他们想做的是一个会观察学生薄弱处、然后不断换方式追问的考官。第一次跑起来以后效果却很差,程序很快学会了一种最没价值的办法:把图片改得越来越难看,最后连人都快认不出主体,模型当然会犯错。宋弈看着屏幕上一只被扭曲得像坏掉塑料袋的豆子,笑得趴在桌上:“恭喜,证明了把东西毁掉以后模型认不出来。”

原既白自己也笑了。

问题却很真实。如果只告诉程序“找一个能让模型出错的变化”,它会选择最容易的路,根本不在乎这个变化对人来说有没有意义。这和他们此前机器学习任务里的问题几乎一模一样:目标写成什么,系统就会努力去赢什么,而不是自动理解设计者心里真正想要什么。

他们不得不加入第二条约束:变化以后,人仍然应该认为这是同一个对象。可“人仍然认为一样”又没法直接写成一句程序。宋弈建议用图像相似度,原既白试了以后发现仍然会漏掉很多情况;两张像素差别很大的图片,人可能一眼认为是同一颗豆子,只是背景不同,而两张像素很接近的图片,也可能恰好把一个关键结构改掉。

两个人折腾到晚上十点半,没有解决。

第二天叶老师的视频会议里听完,没有帮他们设计指标,只问:“你们现在发现什么?”

宋弈抢着说:“发现‘别把图改坏’比写起来难多了。”

叶老师笑了一下:“这就够你们再做一个星期。”

原既白却一直在想另一个问题。如果一个测试系统必须知道“什么变化对于任务来说不重要”,才能判断模型是不是学错了,那么所谓测试从一开始就不只是技术问题。你必须先回答:这个任务真正应该依据什么作判断。对豆子来说,也许形状和纹理重要,背景不重要;可换成医学影像、招聘简历或者自动驾驶,什么应该重要、什么不应该重要,就不再那么容易由一个程序员独自决定。

这个念头刚冒出来,他便觉得范围太大,没有继续写进报告,只在自己的纸上记了一句:“谁决定什么算同一个问题?”

下午他还得做英语套卷。

这种切换近来已经成为高三生活的常态。上午可以因为一个机器学习问题想得很远,下午照样会因为阅读理解少写一个条件扣两分。年级第二次冬季模拟考里,原既白总分比上次上升了一些,数学仍然稳定,语文也因为强迫自己把“脑子里已经懂了”的东西完整写出来而有所改善。他没有回到年级第一,而是在前三名之间浮动。秦老师对此几乎没有评价,只看了他的作文一眼,说逻辑很清楚,人物却写得像实验对象。

“什么意思?”原既白问。

“你写这个父亲为什么做决定,把条件列了四条,每条都对。”秦老师把卷子翻回来,“可是人做决定的时候,很少先在脑子里列完四条再行动。他可能先发火,后来才知道自己在怕什么。”

原既白看着自己的作文,觉得这个批评比扣掉的那几分更麻烦。

秦老师继续说:“你以后做什么我不知道,但别把‘解释得通’当成‘人就是这样发生的’。这是两回事。”

这句话跟机器学习没有任何直接关系,原既白却在晚自习走神时又想了一遍。他一直习惯从更高处找到一个结构,把下面的行动解释清楚;这种能力让很多复杂东西变透明,也会制造一种危险的错觉,好像只要事后能找到合理结构,事情当时就一定按这个结构发生。

人不是程序。

至少不是那么容易被自己看见的程序。

核心组成绩在两天以后公布。

这一次榜单没有只列一个总名次,而分成传统理论、开放问题、实验基础和综合评估四栏。训练中心显然不想让所有人把四种不同能力重新压成一个简单数字,可最后仍然需要分组,所以最右边给出了进入下一阶段核心组的名单:十五人。

已完结热门小说推荐

最新标签