Loading...

为什么人类可以犯错,但机器不行?

科技 1年前 (2021) 社科兔
38 0 0

为什么人类可以犯错,但机器不行?

  撰文 | 塞萨尔·伊达尔戈(César A。 Hidalgo)

  翻译 | 魏书豪

  审校 | 孙琳钰、clefable

  在人工智能(AI)技术还没火之前,计算机科学家亨利·利伯曼(Henry Lieberman)曾邀请我去麻省理工学院参观他的实验室。亨利痴迷于“AI缺乏常识”这个观点。为此,他与同事凯瑟琳·豪沃希(Catherine Havasi)和罗宾·斯皮尔(Robyn Speer)一直在网络上收集常识性内容,来分析人类对常识的理解和推理过程,期望找到增强AI通识能力的方法。

  人们习惯评判好坏

  诸如“水(和雨都)是湿的”或“爱(和恨都)是一种感觉”之类的常识,对人类来说显而易见,但机器却难以掌握。这也是人工智能的一个难点,学者们仍在试图理解,为什么理解常识对机器而言如此困难。那天,亨利激动地向我展示了一张图表。他们通过主成分分析(PCA)的方法,将收集的常识性词语集进行多维度的分析和压缩,将最终得出两个最能差异化区分所有词语的维度,设置为了横轴和纵轴,“爱”、“水”和“感觉”之类的词就散布在这张图上。 

为什么人类可以犯错,但机器不行?

  亨利说:“用PCA来分析常识性的认知,就像是用数学方法试图回答一个古老的哲学问题:人类的知识到底是关于什么的?”我问他这些轴都代表什么含义,卖完关子后,亨利揭晓了答案:最能区分常识性概念的第一个维度,是好与坏。

  事后看来,这个规律似乎显而易见。我们每天都会在认知事物和交流沟通中进行无数的好坏评判。我们说天气有“好”和“坏”。我们要寻找更“好”的工作。我们喜欢“好”的音乐,不喝“坏”的酒。然而,人们尚能理性地看待某人袜子上有个洞无伤大雅,跟他的道德无关,但我们却常常在语言中忍不住滥用道德批判。亨利的图表证明了人类语言中普遍存在着好坏评判,这种道德评判也隐含在常识性知识的理解和推理中。

  AI犯错,难以原谅?

  如今,AI和开发它的人会遭受很多批评。人们愤怒往往是有道理的。AI曾经陷入多起科技丑闻,比如给照片分类时出错,面部识别出错导致无辜的人被捕,或者在评估再次犯罪时具有明显的偏见,以及翻译中存在与性别相关的刻板语句。在大多数情况下,AI界的研究人员都会倾听群众的意见。时至今日,研究人员已经很清楚AI的这些问题,并在积极努力地解决。

  随着激烈的争论渐渐过去,值得思考的不仅是AI是“好”还是“坏”,还有批判AI失误时人们展现出来的道德。毕竟,AI伦理也是人类制定的,我们才能做出判断。

  在过去的一段时间里,我和我的团队一起做了几十个实验。在这些,我们招募了几千名受试者,要求他们在实验中对人类和AI的行为做出反应。这些实验包括一些场景,如人类或机器使用挖掘机不小心挖开了一个坟墓,或者监视着海啸预警系统,却未能及时向沿海城镇发出警报。这样的比较使我们能够超越单纯由人评判AI的局限,去观察人们在判断机器和人类行为时有什么区别。

为什么人类可以犯错,但机器不行?

  这种差异看似微妙,但它迫使我们用一个更现实的参照标准来评判机器行为。过去,我们倾向于用一个完美的标准来衡量AI,而没有对比过如果人类发生同样行为,造成相同的后果后,大家是如何反应的。那么,这些实验告诉了我们什么?

  论迹不论心

  早期的数据已经清晰地表明,人类对人和机器行为的反应并不相同。例如,在发生意外时,人们对AI的宽容度要低于人类,尤其是当AI造成实质性伤害时。基于几千个数据点,我们可以更深入地研究这些问题,通过建立一个统计模型来解释人们是如何评判人类和机器的。该模型成功预测了人们如何根据造成的伤害以及错误方的“故意程度”打分。

  令我们惊讶的是,该模型表明,人们对人类的道德批判并不比对AI更轻,只不过我们使用了不同类型的道德要求来评判二者。下面的这张图总结了这一发现,蓝色和红色平面分别显示了人们如何评判其他人和机器的行为(平均值)。

为什么人类可以犯错,但机器不行?

  你可以清楚地看到,平面是不平行的,红色和蓝色平面之间存在偏移。这是因为,在评判机器时,人们似乎更关心事件的结果,即事件带来的伤害程度。这就是为什么红色平面几乎完全沿着伤害维度增长的原因。但是当人们评判他人时,我们在蓝色平面发现了一个曲率。这一次,增长是沿着伤害和意图(故意程度)平面的对角线上升的。这就解释了为什么在发生意外的情况下,人们对机器的评判更加严厉;人们采用结果主义的方法来评判机器,意图无关紧要,但评判人类时则不是这样。

  这个简单的模型让我们得出了一个有趣的结论,人们会基于一个经验原则来评判机器与人类的行为,简而言之就是:“人们根据动机评判人类,根据结果评判机器。”

  常见的“双标”

  但这些实验对我们认识人们的道德直觉有什么启示呢?首先,这些实验告诉我们,人们的道德理念并非固定不变。我们可能会告诉自己,我们是有原则的人,但事实是,我们的判断常会根据判断的人或事物而发生变化(简称双标)。这种摇摆不定的道德标准,并不仅局限于评判人类和机器行为时。

  我们在道德上摇摆不定,或并非因为偏袒某一群体那么简单。如果人们只支持人类而不是机器,那么红色和蓝色平面就会平行,但结果却并非如此。这意味着人们不是只喜欢人类而不喜欢机器,只是我们对人和机器的判断不同。相比于用结果主义道德评判机器,我们对人类同胞有着讲道义或更康德式的道德评判标准。

  但最重要的一点可能是,我们能通过训练机器的技术来了解人类的道德。在我的研究中,我们通过建立一个简单的,多维度的道德评判模型来了解人类道德的好恶。在亨利等人的研究中,他们通过流行的“降维技术”分析和了解了人类常识中的道德。

  在告诉我第一个维度是“好与坏”之后,亨利让我猜第二个轴代表了什么。“易与难,”他说,“简单地说,所有的常识知识都是关于什么是‘好’的或者‘坏’的,以及什么是‘容易’的或‘困难’的。其余的都不重要。”

  原文链接:

  https://www.scientificamerican.com/article/why-we-forgive-humans-more-readily-than-machines/

版权声明:社科兔 发表于 2021年12月7日 pm12:11。
转载请注明:为什么人类可以犯错,但机器不行? | 社科兔网址大全

相关文章

暂无评论

暂无评论...