Réagir
Un test d'éthique pour les véhicules autonomes
Vaut-il mieux écraser un enfant ou trois vieilles dames ?
Une des grandes problématiques liées aux véhicules autonomes touche à la décision que devront prendre ces engins en cas d'accident inévitable. Le même type de décision et de choix auquel devrait faire face un conducteur humain. Faut-il protéger les occupants du véhicule en priorité ? Faut-il écraser la personne âgée ou l'enfant qui traverse ? ...
Il s'agit de questions d'ordre éthique auxquelles il est bien compliqué d'apporter une réponse universelle. Si Mercedes a déjà clairement exprimé son opinion sur le sujet, le MIT a mis en place depuis 2016 un questionnaire, la Moral Machine, pour évaluer ces décisions.
Ouvert à tous, la plateforme se présente ainsi comme une version modernisée du dilemme du tramway où il faut choisir le comportement que devra adopter une voiture autonome entre différents cas de figure mettant en péril la vie d'une ou plusieurs personnes. Il n'y a pas de bonne réponse, chaque cas de figure se soldant forcément par la mort de quelqu'un. L'objectif ici est de savoir ce qui est "le plus acceptable" pour les sondés.
En deux ans d'existence, la plateforme a ainsi fait l'objet d'une étude complète, il faut dire que plus de 40 millions de décisions ont déjà été enregistrées par des internautes du monde entier.
S'il en ressort que les sondés préfèrent globalement sauver les humains face aux animaux, les jeunes face aux personnes âgées et le plus grand nombre de vies possibles, les résultats sont bien différents selon les régions du monde avec des préférences parfois opposées en fonction des facteurs culturels.
Partant de ce constat, il parait compliquer de définir un cadre commun et universel, mais les grandes tendances permettront sans doute de servir de base à l'établissement de réglementations. Quoi qu'il en soit, il faudra bien trancher avant que les véhicules totalement autonomes ne soient autorisés à rouler librement.
Commentaires
plus simple que ces questions, pas de véhicules autonome, le bleme serait réglé.
18-12-2018 17:51Si l intelligence artificiel peut déterminer le devenir de l'enfant : futur Hitler ou futur Mozart ...je mise sur la perspicacité de l'intelligence artificielle ! lol
18-12-2018 18:31Sinon sans intelligence artificielle ...je me fie à mon instinct !
Donc pour répondre à la question initiale ...je ne sais pas ce que me dictera mon instinct à l instant T !!…….même si je privilégie raisonnablement la jeunesse !...et que de surcroit j'aperçois belle maman dans le groupe !
La vraie question va au delà de ça: l'humain est il prêt à mettre sa vie entre les mains d'une machine programmée pour le sacrifier si la situation semble l'exiger?
18-12-2018 18:48Je ne suis pas sur que la réponse soit oui. Et c'est ça qui embête les gens travaillant sur les véhicules autonomes. Alors on tourne autour du pot en s'inventant des exercices de pensée.
La conclusion est pourtant simple: oui, dans certains cas on sera obligé de sacrifier l'occupant. Mais ça va tellement a l'encontre du réflexe de survie humain qu'il ne faudra surtout pas le dire !
L "avantage" de se fier à l' IA ..c est de déculpabiliser le conducteur et de le dégager de toute responsabilité ...C pas moi, c la machine !
18-12-2018 18:56Et enlever la responsabilité à un être humain de ses actes ...c un peu le transformer en machine !!!
C'est top les IA... Ils vont peut-être aussi ajouter des configurations de ouf, genre en cas d'accident inévitable préférez vous sauvez votre bras
19-12-2018 16:03... où vos cojones
19-12-2018 16:04Ce n'est pas ca qui embete les developpeurs : bien sur que la reponse est oui.
Le probleme, c'est de placer le curseur : a partir de quel moment on privilegie l'occupant ou le pieton ? Critere de nombre (facile : c'est le plus nombreux qui gagne), d'age (plus dur deja), de potentielle gravite (vaut mieux quatre paraplegique ou deux tetraplegiques ? Et si le moins probable est aussi plus grave ?), etc. 19-12-2018 16:15
J'ai fait le test, selon les résultats, je suis un voyou gérontophile ... quand je pense qu'un jour on va nous sortir ces conneries pour nos bécanes ! je suis pas pressé
19-12-2018 20:15Salut,
20-12-2018 13:47On ne devrait pas avoir ce genre de questionnement. Les véhicules autonomes doivent anticiper tous les risques et donc, le cas échéant, ralentir avant l'accident. Par exemple, le fait de détecter des piétons sur le côté peut générer une alerte provoquant ce ralentissement...
Il y a eu une série télé "personne of interest" qui mettait bien en avant les soucis avec l'IA. A un moment elle échappait au contrôle de son concepteur et était prête à tuer ou à laisser mourir la population pour garantir... sa survie. C'est le risque avec l'IA, si elle devient trop "instruite", elle peut prendre des décisions qui auraient des conséquences inimaginables. Science-fiction ? peut être mais qui au début du XXème siècle aurait imaginé le monde que nous connaissons maintenant à part les auteurs de SF ?
Au final, on pourra se retourner contre le concepteur si papy et mamy sont écrasés puisque c'est lui qui a conçu le logiciel ayant fait le choix...