绿荫在线
文明满屏

你家猫踩过键盘吧?聊聊神经网络到底在瞎学什么

前天晚上我蹲在沙发上刷手机,屏幕突然闪了一下,相册弹出一张三年前拍的糊照,下面一行小字:“回忆·2021年7月”。我愣了半天——那会儿我还在上一个出租屋里养着一盆快死的绿萝。我没点任何按钮,手机自己就把这张图捞出来了。不是按日期找的,是按“内容”。

这事挺瘆人的,对吧?

但背后干活的,就是神经网络。一个被说烂了、但大多数人其实没搞明白的词。今天不扯公式,不画那些带圆圈的图,就说说这东西跟你家猫、跟你手机相册、跟你半夜刷到的推荐视频,到底有什么关系。

它不是“模仿大脑”,它更像一个偏科到极致的分类狂

很多人第一次听到“神经网络”,脑子里浮现的画面是:一堆蓝色的神经元,啪一下连在一起,然后机器就“会思考”了。说实话,这个印象一半对一半错。

错的那一半是,它压根不是真的在模仿大脑。人脑有860亿个神经元,每个神经元跟别的神经元有一万来个连接,而我们所谓的“神经网络”——哪怕是最吓人的大模型——里面那些节点跟人脑比,数量级差得远。更重要的是,人脑会累、会饿、会因为失恋写不出代码,而神经网络不会。它就是一个数学函数,一个被数据喂出来的、专门用来找规律的超级偏科生。

嗯……说偏科都算抬举它了。

你给它看十万张猫的图片,它学到的不是什么“毛茸茸”“有胡须”“会踩键盘”这种人类概念。它学到的是一堆像素亮暗的统计规律。哪些地方的像素经常同时亮起来,哪些形状的边缘总是连续出现。这些规律叠了成千上万层之后,刚好能把它没见过的那只猫也认出来。仅此而已。

手机相册自动识别猫咪分类界面截图
手机相册自动识别猫咪分类界面截图

所以别被“神经网络”这四个字骗了。它没有意识,没有情绪,更不可能偷偷躲在你路由器里密谋什么。它只是一台极其擅长“把东西分到该去的筐里”的机器。

你喂它什么,它就学什么——包括你的偏见

你喂它什么,它就学什么——包括你的偏见
你喂它什么,它就学什么——包括你的偏见

几年前有个挺有名的段子。有人拿一堆狼和哈士奇的照片训练模型,想让它分清这两种动物。训完之后模型准确率很高,大家都很开心。直到有人把背景里的雪去掉,模型立刻瞎了——它压根没认狼,它认的是雪。

这故事我每次想起来都觉得好笑又无奈。

神经网络的学习方式,本质上是从数据里找相关性,而不是找因果。你给它看一百万个“会议室里坐着穿西装的人”,它就学到“穿西装的是决策者”。不是因为它觉得西装帅,是因为数据里就这么写的。问题是,现实世界里,穿西装的不一定是老板,也可能是房产中介。

这就是为什么有时候你用某些App,会觉得它“有点傻”,或者“怎么这么刻板”。不是神经网络坏,是教它的那些数据本身就带着人类的偏见和粗糙。它像个特别听话但没什么判断力的学生,老师写错板书,它照抄不误。

不过话说回来——这一点也挺有意思的。你要想让它学得靠谱,就得把数据洗干净。这活儿特别枯燥,而且经常洗着洗着就发现,“洗干净”本身就是个不可能完成的任务。因为“干净”的标准也是人定的。

那些让你“哇”的瞬间,其实都是同一个把戏

现在回到开头那张照片。手机相册是怎么找到它的?

真的没什么魔法。训练的时候,工程师扔了几亿张带标签的图片进去。每张图都被拆成数字矩阵,颜色、亮度、纹理,一层一层算。算到最后,模型脑子里形成了一个几百维的空间——你可以把它想象成一个巨大的停车场,每辆车停在哪,取决于它的样子。猫停猫区,狗停狗区,模糊的停模糊区。你相册里那张糊照,恰好被停在了猫区旁边。

然后你打开相册,它说:“喏,这辆可能是猫。”

就这么简单。语音助手听懂你说话,是同一个原理——把声波变成数字向量,然后去停车场找最像的那辆。短视频推荐你喜欢的视频,也是同一个原理——把你看过的行为变成向量,找离得最近的。

一个把戏,翻来覆去用,只是停车场越来越大了。

手机相册智能分类识别宠物照片效果
手机相册智能分类识别宠物照片效果

给它一张没见过的图,它会怎样?

给它一张没见过的图,它会怎样?
给它一张没见过的图,它会怎样?

我试过一件事。拿我家那只橘猫的照片,只露出尾巴和半只耳朵,扔给一个识别模型。它给出的答案是:87%概率是猫,12%概率是“模糊的家养动物”。

它没瞎猜。它在做数学题。那些像素点位、颜色梯度、边缘方向,跟它训练时见过的某些猫图很接近。它没见过我家这只猫,但它见过“类似形状的猫”。

这就是神经网络最让人困惑、也最让人着迷的地方:它没有记性,但它有“类似感”。像人,又不像人。像直觉,又完全是计算。

所以下次你手机自动给你剪了个视频,或者地图软件提前告诉你要堵车,别觉得它懂你。它连你姓什么都不知道。它只是在做一个极其复杂的、它自己也解释不清楚的归类动作。

你问它为什么做出这个判断,它大概率会给你一个你听不懂的长串数字。就像你问你家猫为什么突然踩你键盘——它也不会回答,它只是踩了。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:你家猫踩过键盘吧?聊聊神经网络到底在瞎学什么
文章链接:https://www.lylxb.com/tech/1134.html