PI.étonne est décédéE,在昨天之前,在美国,APRès avoir été renversée par un vé优步自动车辆。  自治车的问题回到了sc的前面è出生。如何机器人r.é行为à一个情况下的人où你必须做出至关重要的选择 ? Gilles Dowek在这篇文章中接近了这个问题'archive.
科学与社会

自治车的道德困境

编程将面对复杂的决策的机器人迫使我们解释我们的道德选择。

对于Science N°466
本文保留用于科学用户
谷歌汽车

道德困境是我们必须做出我们的选择è没有,无论如何,à犯下糟糕的行动。例如,如果我们必须在窃取一个m之间é对待病人而不是帮助病人的奇怪,我们有两个不良行为 :飞行或让患者受苦。在这种情况下,问题ème qui se pose à nous n’更多是做出正确的选择,但要做出最不糟糕的选择。

r.é然而,每次屈曲最小的选择ç你喜欢一点人为,因为他们ènent à结论难以在实践中使用。

例如,想象一下’un groupe d’孩子们穿越,没有公关é来吧,一条汽车卷的山路。司机n’有更多的时间来遏制,他的选择是d’écraser les pié音调,扔掉他的汽车écipice. Face à un tel dilemme, s’有更多的pié在车上的道路上的音调,最不糟糕的选择可能会扔掉他的汽车écipice, afin d’é尽可能多的生活。

金小司机ré实际上也是如此。他是’est pas difficile d’解释这个inco ohé他们的价值之间–谁应该带领他们à限制了受害者的数量’accident – et leurs actions :意志的弱点é, prépondérance de l’生存本能,难度é d’appré掩盖他的全球局势é, brièveté du temps imparti à la décision, etc.

但是,这些ré屈曲当今可能不那么人工’惠,曾经。许多V.éhicules – ascenseurs, métros, drones, etc. – n’确实有更多的司机和’autres –火车,飞机,汽车– n’将更多地拥有更多或更少的紧密未来。结果,当我们设计这样的v时é自动车辆,尤其是当我们设计其Pilotage软件时,我们必须é苹果酒来自这个v的东西é祷告将识别一组piétons sur la route, s’il n’在遏制和s的时间’il n’a d’autres possibilités que d’éCrase人或扔进Précipice.

这个选择必须ésormais ê在转向软件中明确 :这里与其他地方一样,程序需要’expliciter l’implicite.

相对的à la situation précédente, la décision ne doit pas ê在现场采取,但在设计V的控制软件时éhicule, c’est-à-dire longtemps à l’先进的。我们都有一段时间’y réflé它宁静地,他’est plus possible d’压力é de dé苹果酒在火中’行动证明inco ohé在我们的价值观和行动之间。

D.é抓住了拯救汽车的乘客ôt que les pié音调,我们没有,在第一种情况下,做出了不好的行动。在第二,我们做得更多 : nous dé明确公开澄清我们的拟议意图。什么n’était qu’une incapacité de décider dans l’瞬间,意志的弱点é等等,毫无疑问地原谅了,成为愤世嫉俗的最寒冷。

这义务到了’解释我们在软件变化中的意图完成è思想的关系ée éthique à l’行动。有可能’après des siècles d’incohé我们美丽的价值观与我们的少行动之间’é禁止我们的技术à授予他们。这个解释我们ènera à改变我们的行动,但可能也是我们的价值观。现在这最后一次ères nous engagent ré我们可能需要éfinir avec plus d’honnêteté.

和这样的同轴é我们的价值观和我们的行为携带名称 : cela s’appelle un progrès moral.

主题

订阅和ACC.édez à plus de 20 ans d'archives !

12号éros + 4 hors-série
在纸张版本+ numérique

+ ACC.ès illimité à plus de 20 ans d'archives

我是'abonne

订阅和ACC.édez à plus de 20 ans d'archives !

12号éros + 4 hors-série
在纸张版本+ numérique

+ ACC.ès illimité à plus de 20 ans d'archives

我是'abonne

我们的上一篇出版物

回到顶部