金属科学
现在读书
将外表和犯罪的算法有一个黑暗的过去
金属科学
金属科学

将外表和犯罪的算法有一个黑暗的过去

特色图片:路透社

“颅相学”听起来有点过时。这听起来像是历史书里的东西,在放血和骑自行车之间。我们认为根据头骨的大小和形状来判断一个人的价值已经过时了。然而,骨相学又一次昂首挺胸。

近年来,机器学习算法承诺各国政府和私营公司从人民外观中获取各种信息的权力。几个初创公司现在声称能够使用人工智能(AI)来帮助雇主探测基于面部表情的求职人格特征。在中国,政府已开创了识别和跟踪少数民族的监控摄像机。与此同时,报告已经出现了学校安装摄像机系统,根据面部运动和眉抽搐等面部运动和微表达,自动制裁儿童不关注。

也许是最令人惊奇的,几年前,AI研究人员小林吴和西张声称培训了一种算法,以根据脸部的形状识别犯罪分子,精度为89.5%。T.hey didn’t go so far as to endorse some of the ideas about physiognomy and character that circulated in the 19th century, notably from the work of the Italian criminologist Cesare Lombroso: that criminals are underevolved, subhuman beasts, recognisable from their sloping foreheads and hawk-like noses. However, the recent study’s seemingly high-tech attempt to pick out facial features associated with criminality borrows directly from the ‘photographic composite method’ developed by the Victorian jack-of-all-trades Francis Galton – which involved overlaying the faces of multiple people in a certain category to find the features indicative of qualities like health, disease, beauty and criminality.

还读:我们需要完全禁止面部识别,而不仅仅是规范它的使用

科技评论人士批评这些面部识别技术是“字面颅相学”;他们还将其与优生学联系起来,优生学是一门伪科学,通过鼓励被认为最适合的人繁殖来改善人类。(高尔顿自己创造了“优生学”一词,在1883年将其描述为“所有的影响,无论多么遥远的程度,都倾向于使更合适的种族或血统比不合适的种族或血统更有机会迅速流行起来”。)

在某些情况下,这些技术的明确目标是否认对被认为不适合的人的机会;在其他人中,它可能不是目标,但这是一个可预测的结果。然而,当我们通过将它们标记为繁殖的算法来解雇算法时,我们正试图指出的问题是什么?我们是说这些方法科学缺陷,他们真的不起作用 - 或者我们说,无论如何使用它们是道德错误的?

T.这是一团乱麻历史“颅相学”被用作一种毁灭性的侮辱。对这一努力的哲学和科学批评总是交织在一起的,尽管它们的纠缠已经随着时间的推移而改变。在19世纪,颅相学的批评者反对这样一个事实,即颅相学试图精确定位大脑不同部位的不同心理功能——这种做法被视为异端,因为它对基督教关于灵魂统一的观点提出了质疑。然而,有趣的是,试图根据一个人的头的大小和形状来发现一个人的性格和智力并不被认为是一个严重的道德问题。相比之下,今天,定位心理功能的想法是相当没有争议的。科学家们可能不再认为右耳上方有“破坏性”,但认知功能可以局限于特定的大脑回路,这一观点是主流神经科学的一个标准假设。

孕丙化在19世纪也有其实证批评。争论围绕哪些功能居住在哪里,并且颅骨测量是否是确定大脑中发生的事情的可靠方式。尽管如此,对旧胸膜学的最有影响力的经验批评来自法国医师吉埃尔·佛朗的研究,基于损害兔子和鸽子的大脑 - 他得出结论,即智能职能分布,而不是本地化。(这些结果稍后被认为是批评的事实被拒绝的事实被拒绝的原因是当代大多数当代观察者不再接受,使得在我们使用“雌激素”时,我们将更加困难地弄清楚我们的目标是今天的诽谤。

既是“旧”和“新”的孕态学已经批评为他们的邋..在最近的犯罪研究中,数据从两个不同的来源中获取:囚犯的Mugshots,与工作网站的图片与非法行为。仅此事实可以解释算法检测组之间差异的能力。在一个新的前言研究人员还承认,将法庭定罪等同于犯罪是一种“严重的疏忽”。然而,将定罪与犯罪行为等同起来似乎主要是作者的经验缺陷:只使用已定罪罪犯的面部照片,而不使用逃脱者的面部照片,这导致了统计上的偏差。他们说,他们对公众对一篇旨在“纯学术讨论”的论文的愤怒感到“深深的困惑”。

来自吴和张(2016)

值得注意的是,研究人员没有评论这样一个事实,即定罪本身取决于警察、法官和陪审团对嫌疑人的印象——使一个人的“犯罪”外表成为一个混杂变量。他们也没有提到对特定社区的严格监管,以及获得法律代表的不平等是如何扭曲数据集的。在对批评的回应中,作者并没有放弃“成为一名罪犯需要很多异常的个人特征”的假设。事实上,他们的框架表明犯罪是一种与生俱来的特征,而不是对贫困或虐待等社会条件的反应。他们的数据在经验上有问题的部分原因是,被贴上“罪犯”标签的人很难是价值中立的。

使用面部识别来检测犯罪行为最强烈的道德反对之一是,它会让那些已经被过度监管的人蒙羞。作者说他们的工具不应该被用于执法,但只引用了不应该使用它的统计论据。他们指出,假阳性率(50%)将非常高,但没有注意到这在人类意义上意味着什么。那些假阳性的人的脸看起来像过去被定罪的人。考虑到刑事司法系统中存在的种族和其他偏见,这些算法最终会高估边缘化群体的犯罪行为。

还读:德里警方的使用面部认可将屏幕抗议者的合法」吗?

最具争议的问题似乎是针对“纯粹学术讨论”的目的是公平游戏。一个人可以反对经验的理由:过去的生活家如Galton和Lombroso,最终没有找到倾向于犯罪的面部特征。那是因为没有找到这样的联系。同样,努力学习智力的遗传性的心理学家,如Cyril Burt和Philippe Rushton,不得不快速地发挥他们的数据,以便在头骨大小,种族和智商之间制造相关性。如果有什么可以发现的,可能是多年来多次尝试的人不会出现干燥。

重塑面相的问题不只是以前尝试过而没有成功。在科学上达成共识后,坚持寻找冷聚变的研究人员也面临着追逐独角兽的批评——但对冷聚变的反对远未达到指责的程度。在最坏的情况下,他们会被认为是在浪费时间。不同的是,冷聚变研究的潜在危害要有限得多。相反,一些评论员争论面部识别应该紧紧地调节为钚,因为它有这么少的非药用用途。When the dead-end project you want to resurrect was invented for the purpose of propping up colonial and class structures – and when the only thing it’s capable of measuring is the racism inherent in those structures – it’s hard to justify trying it one more time, just for curiosity’s sake.

然而,呼吁面部识别研究“膈精”而不解释股权的内容可能不是沟通投诉力量最有效的策略。为科学家认真对待他们的道德责任,他们需要了解他们的研究可能会产生的危害。拼写更清楚的是,标记为“膈宫”的工作有可能有更多的影响,而不是简单地将名称作为侮辱投掷。AEON计数器 - 不要删除

Catherine Stinson是德国波恩大学理学与思想的人工智能哲学哲学和伦理的博士学位,并在剑桥大学的智慧的leverhulme中心。

本文最初发表于永康并已在知识共享下再版。

AEON计数器 - 不要删除

滚动到顶部