Voitures autonomes et choix moraux : qu’en pensent les internautes ?
Sciences humaines et sociales
Des chercheurs du CNRS (membre de TSE – Université Toulouse Capitole), du MIT, des universités d’Harvard et de Colombie Britannique, ont lancé en 2016 la plateforme en ligne « Moral Machine » dans le but d’interroger les internautes sur les dilemmes moraux auxquels nous confronte le développement des véhicules autonomes. Les chercheurs ont ainsi récolté 40 millions de décisions auprès de millions d’internautes du monde entier. Les résultats montrent quelles sont les préférences morales globales qui pourraient guider les décideurs et industriels à l’avenir. L’analyse de ces données est publiée le 24 octobre dans la revue Nature.
Percuter une femme avec une poussette ou aller dans le mur au risque de tuer les quatre passagers ? Voilà le genre de dilemme auquel sont confrontées les voitures autonomes, et plus encore, ceux qui les programment. En 2016, une équipe de recherche a lancé la plateforme Moral Machine pour questionner les internautes sur l’option la « plus juste » selon eux. Pendant 18 mois, les chercheurs ont récolté leurs réponses afin de documenter les préférences morales des internautes en provenance de 233 pays ou territoires à travers le monde.
L’analyse de ces données a permis d’identifier trois critères moraux principaux : sauver des vies humaines plutôt que des animaux, sauver le plus grand nombre de vies et sauver les vies des plus jeunes plutôt que celles des personnes âgées. Ainsi, les profils les plus sauvés dans les situations proposées par Moral Machine sont les bébés en poussette, les enfants et les femmes enceintes.
Les résultats montrent également des préférences morales beaucoup plus controversées : les personnes en surpoids ont environ 20% de probabilité de plus de se faire tuer face à des personnes athlétiques ; les personnes pauvres 40% de probabilité de plus que des personnes riches, tout comme les personnes ne respectant pas les feux de signalisation par rapport à ceux qui les respectent. D’ailleurs, les chercheurs notent que dans les pays développés, avec des lois et institutions fortes, les utilisateurs sauvent moins souvent les piétons ne traversant pas sur un passage clouté que les internautes de pays moins développés.
Les données récoltées étant publiques et accessibles à tous, les auteurs espèrent qu’elles seront consultées par les gouvernements envisageant de légiférer sur les voitures autonomes ou les industriels travaillant sur la programmation de ces voitures. Le but n’est pas nécessairement de suivre la volonté des utilisateurs de Moral Machine, mais d’avoir une vision globale des préférences morales des citoyens. Les chercheurs restent cependant prudents sur la représentativité de l’étude, les participants ayant été volontaires pour répondre et non sélectionnées par des méthodes d’échantillonnage.
Les auteurs mettent à disposition du public un site web permettant d’explorer les résultats de Moral Machine pays par pays, et de comparer les pays entre eux.
Consulter le site web de Moral Machine : http://moralmachine.mit.edu/
Consulter le site web présentant les résultats de Moral Machine (mdp sous embargo : media) : http://moralmachineresults.scalablecoop.org
© Edmond Awad
Fig. b : Avantage ou désavantage relatif pour chaque catégorie de personnes par rapport à une personne adulte (homme ou femme). Par exemple, la probabilité qu’une petite fille soit épargnée est supérieure de 0,15 à la probabilité qu’une personne adulte soit épargnée.
© Edmond Awad et al. Nature.
Bibliographie
The Moral Machine Experiment. Edmond Awad, Sohan Dsouza, Richard Kim, Jonathan Schulz, Joseph Henrich, Azim Shariff, Jean-François Bonnefon, Iyad Rahwan. Nature, 2018.
