计算机科学

社交网络:错误信息的泉水

在R.éseaux sociaux d’互联网,软件机器人正在为人类而发生。摩擦élisations aident à了解如何通过利用我们的认知偏见,而工具是如何操纵我们éveloppés pour dé制作这些假型材。

Filippo Menczer.和Thomas Hills 对于Science N°523
本文保留用于科学用户

take’安迪。担心收缩Covid-19和在’impossibilité咨询段落的一切î他依赖于主题à他的朋友们的建议。无论何处’它读到了Facebook那是对鼠的恐惧émie过度,他’它一开始不相信。但是什么时候’hôtel où他的工作结束了他的门,他的工作是梅卡克é, il commence à s’审问é réelle du virus. Après tout, il ne connaî谁死了。 L.’un de ses collègues a publié指责跨国药品的职位’用同谋创作这种恐惧é腐败的政治家。安迪感觉到某种défiance à l’é政府,这个身份证ée lui parle.

通过对互联网进行研究,它落在了物品上,确保Covid-19 n’并不比’感冒。然后他加入了一个社区é在网上,像他一样,害怕失去工作,并想知道这个伙伴吗?éMIE证明了尽可能多的裁员。无论何处’il apprend qu’他们将参加àr的表现形式é钓鱼结束了,它是écide d’去。人或几乎在皮层中èGE不做面具。 D.éSorm,Andy确信Covid-19是一个庞大的骗局。

这个例子说明了我们许多认知偏差。所以,我们的特权égions l’来自我们信任的人的信息。然后我们提供更多D’attention à相对于风险(失去工作的情况)’安迪)。最后,我们intéressons de préfé熟悉臣民。这些认知偏见是我们的果实é努力。在成千上万的情况下’années, ils ont été很有用。例如,如果是聪énère shible veromous snakesès d’un étang, ceux qui s’en tenaient éloignéS是生存的机会érieures aux autres.

但在Num Worldérique d’aujourd’惠,这些偏见为我们服务。生成和咨询帖子,推文,vids已变得如此简单éos, des blogs, des mèmes, etc., que l’information prolifère. SubmergéS,我们留下了我们的认知偏见来排序à我们的地方。他们充当心理捷径并影响’我们收到和分享的信息。在线平台软件强调这些偏差。例如,R软件é社交桶让安迪与分享M的人联系êmes idées, ce qui a attisé他的恐惧。更糟糕的是。个人或恶意团体使用« bots » –软件机器人假装对人类的用户–享受我们的奢华érabilités cognitives à政治目的或pécuniaires.

我们的équipes à l’université来自沃里克,英国,和à l’OSoMe, l’Observatoire des médias sociaux de l’université de l’Indiana à Bloomington, aux États-Unis, mè研究更好地了解我们的奢华érabilité我认知才能écrypter la faç算法利用它们。摩擦èles informatiques développés dans l’Indiana s’inspirent des é心理抚养男人ées à沃里克,反之亦然。星期三éveloppons é还可以在m上打击处理的工具édias sociaux.

太多了’informations nuit à l’information

当年éES 1970,Herbert Simon,诺贝尔奖’é经济和先锋的’« économie de l’attention », formulait : « Ce que l’信息消耗就足够了évident : c’est l’他的接收者注意力。丰富的’information crée une rareté de l’attention. » Avec, pour conséquence, une dé质量的时期é de l’信息,就像我们的équipes de l’OSoMe l’ont démontré. Le modèle utilisé是下一个。 R.规则é社交桶,如安迪,电话és des « agents », constituent les nœuds d’un réseau de relations. À chaque é胶带模拟,代理人可以é出版物(帖子或mè例如)或分享一个’il a repérée dans son fil d’informations reçues。考虑到能力é d’attention limitéE的用户,代理商只能看到’un certain nombre d’élé在他们的线程顶部’informations.

我们有mis en évidence dès 2012 qu’à mesure que l’注意力变得更加有限ée,出版物的传播遵循权力法 : la probabilité qu’un post soit partagé un nombre donné de fois varie à peu près作为这个数字的逆力量。例如,概率é qu’un post soit partagé三次约为9次inférieure à celle qu’il soit partagé一次。这意味着’少数出版物广泛传播é虽然大多数是à peine vues.

Pré在这个mod中聊天èle, les posts n’没有触发值èque. Ce résultat ne s’因此,不解释一些比其他人更加吸引人或更重要。他dé只能从分布统计数据流动’r的信息éseau social composé d’限制注意力ée. Mê当我们归于质量职位时éS变量和该代理共享PRéfé优质的帖子é, la qualité最漫游的帖子的平均值és est peu améliorée, comme cela a été montré在2017年。所以,当mê我想分享质量的信息é, nous sommes inévitablement amenés à通过中继不那么可靠,即使是假的。

过载信息

资料来源:“利益齐埃·彼得,”在自然界行为中,“有限的个人关注和低质量信息的关注和在线视神。” 2017年6月1日

我们的认知偏见é还有贡献à la dé渐进质量é de l’信息。在exp.érience menéE 1932年,英国研究员在认知心理学研究员Frederic Bartlett有Relaté une légende améRindian参与者。然后他问道é à每个人都告诉她à son tour, à越来越多的孤独的间隔ès la narration –几分钟à quelques années. Il a observé qu’à随着时间的推移,参与者省略了部分 ’最具异国情调的故事,或者他们转过身来让他们更熟悉ères。我们的精神经常以这种方式行事。 vs.’est ce que l’on appelle le « 确认偏见 » :我们正在寻找最能确认我们所信仰的信息éjà.

Ce 确认偏见 est puissant. Ainsi, des individus d’avis opposés, soumis à相同且公正的信息,有什么证据’ils croient déjà, d’autant plus lorsqu’il s’agit de sujets à forte charge é手册,就像气候变化问题一样。

搜索引擎和R平台éseaux sociaux fonctionnent selon des algorithmes qui exploitent le 确认偏见. Ils puisent dans les gigantesques bases de données sur les préfé什么用户é建立定制的建议ées并提出在儿子’actualité无论他们的质量如何,最有可能上诉的信息é.

在é在营地活动期间,Tude在Twitter上带来ésidentielle amé2016年的蓖麻油,Nir Grinberg及其Collègues de l’université Northeastern, aux États-Unis, ont montré在2019年,错误的信息已经存在ésenté près de 6 总信息的百分比。 D.’après notre étude menéE在656名参与者上发表ée en 2020, la vulnérabilité à la dé找到了表征,É美国,保守党和libéraux. En éloit提供可以更改它们的任何信息的用户’avis, les ré社交桶强调pHénomènes de polarisation.

虚假信息的漏洞

资料来源:Dimitar Nikolov和Filippo Menczer(数据)

Panurge羊

敖û2019年,在纽约的一条街道上,人们已经开始了é à通过相信听力镜头逃离。 D.’其他人跟着,一些大喊大叫:« Un tireur ! » En réalité, ce n’étaient que les pétarades d’一辆摩托车。在这种情况下,跑步更好’首先问下一个问题。和我们的大脑ré按照人群行事,坐在飞行中的长凳鱼和鸟类。

一致性é sociale est omniprésente。例如,大约2005年,Matthew Salganik,’université Columbia, aux É美国和两个科尔ègues ont mené une expérience auprèS14,341志愿者,邀请人és à télé加载歌曲é说。他们观察到é当参与者知道什么音乐été téléchargé他们曾经,他们倾向于à télécharger les mêmes. Quand ils étaient isolé分组,只知道télé他们的团体成员的装载,选择最多的碎片éléchargés diffé迅速嘲笑差异é团体组。另一方面,我们没有’没有观察到这种选择的差异’un groupe à l’其他,当没有人知道公关时éfé别人的。 CR社会团体é因此压力符合é si forte qu’它可以补充到PRéfé个别事件。通过放大差异érences initiales alé它可以从根本上散发出差异érents groupes.

一致性é sociale imprègne les mé社交因子。 2017年,D’après des expériences mené在Twitter上,Bjarke mønsted et ses collègues, de l’université丹麦和L.’université来自南加州,已经投入了é当我们暴露时és de façon répétée à une idée, provenant géné几个来源,我们更有可能做到这一点ô然后分享它。好像我们困惑的流行度é et qualité,我们最终就像其他人一样。这种社会偏见被放大é通过认知电话é « 简单曝光的影响 », dé由心理学家撰写的é瑞恩罗伯特Zajonc于1968年,这使得这是’on apprécie davantage ce à我们受到了什么çon réCUNTERE,例如一些面孔。

这些偏见导致我们à penser que « 如果每个人都说,c’est que cela doit être important » et expliquent l’irré请注意我们携带病毒信息。不仅是réFacebook,Twitter,YouTube和Instagram等社交桶向我们展示了我们IDS的方向é是,但他们的地方é也是儿子顶部最受欢迎的内容 ’信息,表明有多少人爱他们és et partagéS,虽然这些数字不保证质量é du contenu.

通过分析数据ées ré他们和匿名,我们已经显示出来é所有的平台– ré社交桶,搜索引擎和网站’information–突出显示不会来自的信息éalité que d’un trè少数来源,特别是èrement populaires.

我们有étudié la faç该平台对儿子的信息进行分类’actualité. Dans notre modè他们结合了质量指标é et de popularité ; les agents, dotés d’une attention limitée, sont enclins à点击类出版物é在最多的课程中élevés。每个帖子都有质量é intrinsèque ainsi qu’一种流行程度é déterminé按单击次数。另一个变量允许’é评估排名是基于普及的程度é plutôt que sur la qualité.

D’après模拟和在’缺乏任何人类认知偏差,算法偏差足够了à réduire la qualité帖子。所以,当mê我想分享最富有的信息,算法最终误导了我们。

房间之域’écho

我们’不知道’在Panurge的脚步。然而,确认认知偏见推动我们à l’同性恋,趋势à nous affilier à我们的同胞。在m上很容易édias sociaux de s’abonner à un compte, de s’en dé萨比茄,成为« ami »等等,简而言之,改变其r的结构é用户的关系,用户分为社区és appelées « chambres d’écho ».

我们有exploré l’é这些房间的力量’écho. Dans notre modèle, appeléEcho-Demo,代理商有政治意见代表ésenté通过一个数字范围– 1 (libéral, par exemple) à+ 1(防腐剂)。他们é把帖子回归étant leur sensibilité政治。而且,它们受到影响éS表示意见ées dans leur fil d’信息。他们能é还选择停止遵循展示差异意见的用户érents des leurs.

D.é模拟的目的,ré桶和意见分发és de façon aléatoire. À结束,社区és截然不同和北极星ées出现了。在实践中,房间’éCho Twitter政治是这样的’pr是可能的évoir la sensibilité politique d’具有伟大公关的用户écision : il a les mê我的意见而不是大家é de ses connexions.

这种结构在房间’éCHO促进了’信息在内’une communauté tout en l’绝缘他人。 2014年,一个广告系列ésinformation a accusé我们的实验室成为一部分’一个政治机制à supprimer la liberté d’表达。这一致égation s’est diffusée de faç病毒,大多数é dans la chambre d’é保守町,而文章rédigés par des vérificateurs d’信息主要在社区中传播é libérale. C’不幸的是,情况往往是:虚假信息是多处ées de leurs dé导致和在房间里流通’écho différentes.

2018年,我们有également montré que les mé社交因素增加négativité. Dans notre expé更富有,第一参与者读取包含尽可能多的文章’正信息比négatives et qui présentaient de faç我们公正的优缺点和不便énients de l’énergie nuclé例如,Aire或食品添加剂。那个参与者然后不得不暴露它’il avait retenu à un deuxiè我,谁谈到了第三个è我,等等。À衡量他们的传输« chaî没有社会传播 », nous avons constaté que la quantité d’informations né增加(pHénomène dit d’« 社会风险放大 »).

最后,我们提供了à所有参与者原始物品。但那n ..’没有办法贡献é à改变视图négatifs. Ainsi, à mesure qu’elle se transmet d’un individu à un autre, l’信息不仅变得越来越多é地球,但也越来越多的Prégnante, résistante à la remise en cause.

L’émotion joue un rô广播中的专业’信息。 2015年,分析数据é关于的推特« contagion émotionnelle »研究人员’OSoMe ont montré那些人的过度XPOées à des contenus négatifs tendent à分享帖子né而那些过度XPOés à积极的内容更积极的信息。但是,像我们一样’已经看过,内容néGATIFS比积极内容更容易传播。 D.ès lors, il est aisé de manipuler les émotions en lançant sur les réseaux sociaux des ré唤起恐惧或恐惧的城市’anxiété.

C’est loin d’être une vue de l’头脑。 Emilio Ferrara,的’université来自加利福尼亚州和他的CollèBruno-Kessler Foundation(意大利)的顾客已经表明了é que, durant le référendum sur l’indé2017年,西班牙,西班牙,西班牙,西班牙的婚险有été utilisés for extweet ré暴力和燃烧城市,因此加剧了社会冲突。

L’ascension des bots

机器人很简单à créer. Les mé社交DIA提供允许的编程接口(API)à quiconque d’安装很容易和控制ô成千上万的机器人。但这足以让几个机器人é在出版时发表有利的意见’这是一个影响的消息é关于其扩散及其流行é ultérieures.

À l’OSoMe, nous avons développéD的算法étecter ces bots. L’un d’它们是一个提取1,200个字符的公共工具érisites(简介,关系,语言等)d’一个推特帐号。他比较了它们à那些收集了数万条公关的人écédemment identifiés comme bots, afin d’分配给帐户Twitter表示其概率é d’ê是一个机器人假。

在实践中,我们觉得é en 2017 que près 15%的活动推特账户é是机器人,那’ils avaient joué un rôle clé在D的扩散中é营地活动期间的表情ésidentielle améRanaine于2016年。出版后的秒数’une fausse nouvelle – par exemple l’implication d’希拉里克林顿在神秘的仪式–, cette « information » était retweeté通过许多机器人,然后由人类,séduits par l’apparente popularité du tweet.

这是足够的à遵循帐户的机器人,单击按钮« J’aime »或者退出帖子渗透一个社区é在线并影响其成员。在一个mod.èle conçu à l’Osome,代理商是产生质量帖子的机器人é médiocre, de type « pièges à clics »,并且不彼此保持彼此。 mod.è它还考虑了真实的代理,可能遵循这些机器人。

我们有montré qu’只渗透到r的一小部分é桶,这些机器人可以réduire à néant la qualité de l’information du réseau entier. En suggé正宗的代理商遵循d’其他自动化帐户és(所谓的技术技术« follow trains »), ils accélèrent é还培训了房间的’écho.

一些操纵者在两个对手营地采取行动és, à政治极化目的或从中获得’银。因此我们有émasqué un réTwitter上的虚假配置文件,所有坐标és par une même entité。有些人得到他们的支持à有利于唐纳德特朗普的运动,而D’其他人降落在反特朗普。所有使用的捐款…

BRICTING网上处理

通过更好地理解我们的认知偏见和FAç机器人利用它们,我们可以保护我们é操纵。我们的实验室已经开发了这样做的工具,例如伪劣,申请’objectif est d’apprendre à repé虚假信息。他’agit d’一个模拟螺纹的游戏’actualité d’un ré社交桶,显示文章réels来自或多或少可靠的来源。用户必须écider lesquels véRify,Share等。我们对数据的分析é伪劣证实了GR行为é戈德 : peu importe la crédibilité信息,它们更容易分享那些’他们相信广泛传播ées.

另一个工具,恶作剧,é公开,显示了帖子的方式é在推特上的伙计。然后œuds repré感觉推特账户éels et les arê连接它们表明帐户推文的传播。每个N.œUD有颜色代表é百分点’il a obtenu àBoolometer,允许v用户é如果机器人在广播中介入,则会发出疯狂。记者有éjà utilisé这些工具搜索D的活动的起源ésinformation et repérer des opérations mené用机器人,就像那样的瞄准à dissuader des é读者在期间投票é2018年中期负债É美国。然而,操纵越来越困难à détect,因为算法成为trè有效地模仿人类行为。

对于代表érer的竞选活动ésinformation lancé例如,对于Détourner l’我们的注意力来自于公众,我们有éveloppé un outil appelé伯特林。它遵循推文,从hashtags中提取,évalue la probabilité des comptes d’ê假档案,以报告è我迅速传播的人嫌疑人és d’être amplifiés由机器人或协调账户és. L’目标是让记者,协会和政治候选人érer和遵循时间réel les campagnes d’阴险的影响力。

这些工具很有用,但仍然不足以限制脯氨酸é虚假新闻的配给。 L.’é当然是一个资产,但它无法解决人们可能的所有科目’être bernés。一些政府和Mé社交因子想要采取行动éprimer la dé在线表情。但是谁é建立错误,操纵和是什么’不是 ?我们可以伴随一些消息的消息’像Facebook和Twitter这样的警告已经开始é à做。但我们能相信人民吗?é放?此外,伤害的风险à la liberté d’表达存在。门é一些米的世界é社交迪斯及其与政府的联系进一步复杂化。

战斗é表情,解决方案是制作CRé和分享的’更多困难的信息。为此,有必要的是’accès à l’信息有一个coû例如,及时,在心理工作(制作难题)或银(通过计费最小费用)。有些平台使用déjàCAPTCHAS或确认Téléphonique comme sésames pour accé帐户。这些努力可能être é拉伸以取代分享激励措施àAll-go by v信息é有益地奖励。

L’information prétendue gratuite ne l’est jamais ré她撒谎了。通过减少其COût, nous avons diminué它的价值和打开门à他的伪造。恢复健康é de notre écosystème de l’信息,我们需要恢复aéconomie de l’保护我们的健康信息è操纵GE。

主题

杂志

订阅和ACC.édez à plus de 20 ans d'archives !

12号éros + 4 hors-série
在纸张版本+ numérique

+ ACC.ès illimité à plus de 20 ans d'archives

我是'abonne

订阅和ACC.édez à plus de 20 ans d'archives !

12号éros + 4 hors-série
在纸张版本+ numérique

+ ACC.ès illimité à plus de 20 ans d'archives

我是'abonne

我们的上一篇出版物

回到顶部