科学与社会

自动检测骗子?

面部分析软件声称可以确定您是在撒谎还是在说真话,例如在机场检查期间。它们的可靠性和存在的风险值得怀疑。

雨格斯·德尔马斯(Hugues Delmas) 对于科学N°519
本文仅供《 对于科学》的订户使用
面部识别

假设某人被指控犯有罪行,并强烈要求其无罪。这里有个快速提示,可以快速确定他是否有罪:让他拿几米饭,嚼一会儿,然后吐在你面前。如果米饭是湿的,那人是无辜的。另一方面,如果大米还干,那就证明她在撒谎。

这种“技巧”可能会让您微笑,但确实在古代印度的某些试验中使用了它,正如芝加哥法医实验室的Paul Trovillo叙述的那样。这只是过去发现谎言的多种方法的一个例子,这表明公司在识别各种欺诈者方面一直表现出极大的兴趣。但是我们今天能做得更好吗?

这个问题最近具有新的重要性和相关性。一方面,因为从科学的角度来看,近几十年来对说谎的研究非常丰富。另一方面,由于从社会的角度来看,随着传播媒介的扩散,强烈需要可靠的工具来发现骗子。 假新闻 或部分人口对更好的边境控制的需求。

在此背景下,欧洲研究计划诞生了 iBorderCtrl由一个由英国曼彻斯特城市大学(Manchester Metropolitan University)牵头的财团领导。它的目的是开发一种在不减慢机场旅客流的情况下进行加强边境检查的工具。与其他现有控制系统相比,其独特之处在于创建了自动测谎检测模块(自动欺骗检测系统,或ADDS)。

头像问

现在想象下面的场景。您将要去度假,前往希腊岛屿上一个豪华的海滩。因此,您将像通常一样上飞机并进行一些尽职调查。除非这次您需要在Web应用程序上进行预注册。然后,化身向您询问有关身份和旅程的一系列问题,例如“您的姓氏是什么?” “或者”您的手提箱里有什么? ”。您的网络摄像头可以拍摄采访内容,而人工智能则可以分析您的非语言行为。对于您的每一个答案,她都会做出自己的判断:谎言,真相或“不确定”。第二天,基于此评估和机场控制的其他要素(例如护照验证),它将为您分配总体“风险级别”。如果此级别较低,则可以安全通过;否则,您将受到其他检查。

请放心,此模块仅处于试验阶段,实际上并未部署在机场中。但是,关于其开发的公告引发了科学争议,并引发了激烈的批评-即使根据其设计者的目的,其目的是帮助人类做出决定,而不是取代它。在报纸上的文章 守护者 在2018年底,伦敦大学学院的Bennett Kleinberg将该系统称为伪科学系统,而iborderctrl.no网站正在反对使用该系统。为什么这么大声疾呼?

54%:这是试图发现别人的谎言或比偶然更好的人类中正确答案的平均率。对于自动系统,此比率通常超过70%。

请记住,我们是差劲的测谎仪,因为我们比偶然做的更好。实际上,仅仅依靠我们用肉眼和耳朵所感知的东西,我们发现欺骗的平均程度达到了54%。这在几个实验中都得到了证明,科学家们向参与者展示了视频,并询问他们被摄人是否在说真话。

皮诺曹的鼻子不存在

有几个因素可以解释这种不良表现。首先,没有任何一个指标可以确定地说谎:皮诺曹的鼻子不存在。然后,许多收到的想法阻碍了我们的仲裁。其中最重要的是要考虑说谎的人一定很紧张。实际上,情况并非总是如此。相反,一个真诚的人有时会因为许多其他原因而受到压力,包括害怕不被相信。但是,这种公认的想法的结果是,我们将欺骗与神经质的各种表现联系在一起:凝视,过度躁动,面部抽动,眼睛神经眨眼……如此多的行为并非只针对撒谎。例如,在一个实验中,研究人员计算了说谎者和某人讲真相的眨眼,然后观察到……没有区别。

对微妙事物的一种希望曾经寄托在微表情上,即面部表情在不到500毫秒的时间内通过面部。根据美国心理学家保罗·埃克曼(Paul Ekman)的说法,他们出卖了人们希望抑制或掩盖的情绪,他称之为情绪渗漏,或“情绪泄漏”。一个潜在的有价值的指示器,用于检测撒谎者,其微表情与他们所说的不一致(例如,偷窃的罪魁祸首在撒谎时会表现出微微的喜悦,让愚弄他的对话者通过显示高兴。您可能已经听说过它们,因为它们在电视连续剧中很流行 骗我。它的主要角色Cal Lightman出现在他看来可疑的丝毫动作上。

但是,科学现实是不同的。研究表明,微表情很少出现在脸上,因此其用途受到限制。此外,无论您是否试图隐藏自己的情绪,它们都会表现出来。最后,根据英国哈德斯菲尔德大学的莎拉·乔丹(Sarah 约旦)及其同事的最新研究,对他们进行侦查的训练并不能提高谎言的检测能力。

人工智能救援

说谎和真理之间仍然存在一些行为上的差异(例如,一项研究显示,说谎者倾向于在两个单词之间或句子的开头和结尾之间更加张开嘴唇),但它们构成了两种类型。问题。一方面,它们最多只是撒谎的线索,绝不是绝对的证据。另一方面,这些差异是如此微妙,以至于在实践中如果不仔细分析就不可能将它们区分开。面对这种对人类表现不佳的观察,使用人工智能的项目诞生了:一个计算机检测器将能够捕获微小的肌肉收缩并聚集几十个指标。皱眉,嘴巴的移动,凝视的方向……可能性是无穷的。

为了开发这种工具,科学家然后告诉系统要分析和提交说谎者或真实情况的记录的参数。这些数据输入一个统计模型,在学习阶段之后,该模型确定提交给它的陈述的诚意。

如果是'iBorderCtrl,测谎仪模块是根据其“微型手势”设计的。他们还没有传达这些指标的确切性质,这是科学界唯一提及的指标。我们只是知道这些是微小的肌肉收缩,可能会持续更长或更短的时间,但是我们没有关于在这种情况下使用它们的适用性的数据。

但是,加拿大麦吉尔大学的Lin Su和Martin Levine在2016年发表的一项研究可能会给我们一些答案。这些研究人员开发了一种谎言检测工具,该工具似乎类似于iBorderCtrl,因为它也是基于自动提取的一系列面部指示器(例如眉毛的某些动作)而产生的。 Lin Su和Martin Levine用媒体传播的真实和虚假证人电话的视频对它进行了测试。在这两种情况下,拍摄的人都说他们正在寻找失踪的亲人,但在真正的要求证人的呼唤中,他们是真诚的,而在虚假的亲人中,他们实际上杀害了所称的失踪者(录像带显示苏珊·史密斯受到谴责谋杀了他的两个孩子)。结果,人工智能在77%的时间内正确地识别了说谎者。

的设计师iBorderCtrl 报告检出率超过70% ,这与这项研究是一致的。但是,为了达到可靠的水平,以证明有理由在海关控制或反恐中使用这些系统,这些系统必须做得更好。也许通过包括语言分析?

的确,经过五十多年对该主题的研究,结果总体上显示出语言指标在评估可信度方面优于副词指标(语气,停顿时间等)以及非语言行为(手势,姿势等):得益于这项研究的“荟萃分析”,弗吉尼亚大学的贝拉·德保罗(Bella DePaulo)例如在2003年表明,骗子的账目较少详细描述为真诚的个人。换句话说,如果您想讲一个简单的故事,最好是倾听并专注于所讲的内容,而不是寻找身体或声音的提示。又是在这里, iBorderCtrl 可能会从这一方向的挖掘中受益,包括语言指标。

另一个问题是,该系统已经在大约30位左右的少数人中进行了培训和预测试。这可能会导致众所周知的人工智能限制,即“  过度拟合 ”。也就是说,该模型可能无法推广到其他个人,尤其是那些说另一种语言或以不同方式表达自己的个人。

根据官方网站iBorderCtrl,但该工具仍在自愿条件下于2019年在匈牙利,希腊和立陶宛的边界进行了实际测试。它的开发人员尚未发布有关结果的任何数据,但意大利记者Ludovica Jona的不幸遭遇使人们想到了使用这种自动测谎仪时许多旅行者会期望什么。在此测试阶段,她设法对该系统进行了试验。为了产生令人振奋的结果:系统指控他撒谎有关其出生日期,国籍,护照签发地和目的地!尽管她在预录中表现出诚恳的态度,但最终还是被认为“处于危险之中”。

伦理和社会问题

因为我们不要忘记70%的成功意味着30%的失败,这绝不能忽略。具体而言,这些错误在于将说谎者视为真诚,或者将真诚的人视为说谎者。即使可以大大提高可靠性,这也意味着每年要穿越欧盟边界的亿万旅行者中,有数百万人会被错误地怀疑撒谎!虽然许多可能构成安全风险的人将陷入困境...

这只是在这种情况下使用人工智能提出的许多道德问题之一。这种技术治理的后果是什么?如何与基本自由和对私人生活的尊重相协调?通过开发这样的工具,我们是否不为前所未有的大规模监视打开大门?

目前, iBorderCtrl 它只是在研究阶段,尚不清楚何时会实施-甚至实际上是否会实施。但是,在全球范围内加快建立监视系统的趋势正在出现根本趋势。中国已经拥有2亿个监控摄像头,并有望在一年内达到6亿大关。算法已经用于检测工厂工人或学校学生的动力下降。在法国,面部识别将在公共场所进行为期一年的测试,据推测将在研究人员和民间社会成员的控制下进行。

测谎仪测谎仪

自动测谎检测具有测谎仪的历史,测谎仪用于测量受访者的某些生理参数,例如他的心率,血压,皮肤电导率……这些设备在许多国家/地区都得到了使用,但是它们的可靠性是有争议的,法院通常不会考虑它们的指示。

©Serhii Bobyk / shutterstock.com

这种情况需要两个基本说明。首先,随着这些发展的进展,至关重要的是要尽可能地接近有关这些设备的科学数据,以了解它们可以做什么和不能做什么。本文通过明确指出今天没有这样的系统可以实现这一目标,从而实现了这一目标。第二,它将是在公共生活领域中具有远见的决定,在这些生活领域中,将借助于技术手段来颁布和惩罚禁止说谎的行为。人脑和心理的进化部分是由于能够沉默某些思想并陈述不同事实的能力-显然是说谎(这是所谓的“理论”的重要组成部分)精神”)。因此,这种情况对于我们的心理素质而言是全新的,因此不应低估其潜在的破坏性风险。如果人类已经忍受了数千年的精神义务,那就是在某些情况下必须说出真相(孩子被告知不要撒谎,事后再做自己想做的事……),那么我们没有错。保证他将知道如何做到这一点,并有身体上的义务来揭示他的思想的实质,而没有任何逃避。透明的男人还会是男人吗?关于这些问题的心理学研究不应落后于仅旨在发现谎言的研究。

杂志

订阅并访问超过20年的档案!

订阅优惠

12期+ 4期特刊
纸质+数字版

+无限访问超过20年的档案

我订阅

订阅并访问超过20年的档案!

订阅优惠

12期+ 4期特刊
纸质+数字版

+无限访问超过20年的档案

我订阅

我们的最新出版物

回到顶部

已经有帐号了?

身份证明

标识自己可以访问您的内容

看到

还没有帐户 ?

注册

注册以激活您的订阅或订单问题。

创建我的账户