Établissement d’un cadre éthique pour les véhicules autonomes
Par Mark Patrick, Mouser Electronics.
boussole morale, d’après une enquête menée auprès de 2,3 millions de personnes à travers le monde
Quels seront les thèmes abordés par cette série d’articles de blog ?
- Dans quelle mesure la conduite autonome transforme-t-elle le paysage de l’industrie automobile ?
- Surmonter les perceptions et adopter les technologies de conduite autonome.
- Automatisation des véhicules : les étapes clés.
- Les technologies de capteurs pour véhicules autonomes.
- V2V et V2I : des données critiques pour les véhicules autonomes.
- Établissement d’un cadre éthique pour les véhicules autonomes.
Conduire peut être monotone. Il arrive parfois que nous prenions le volant avec seulement une vague idée de l’heure à laquelle nous arriverons à destination. Même si conduire est devenu une activité routinière, nous devons néanmoins rester vigilants et attentifs tout au long du trajet afin d’éviter les accidents, en particulier par mauvais temps et dans les zones urbaines où le trafic est dense. Nous nous fions à notre expérience pour identifier les risques d’accident et les situations qui réclament notre vigilance et pour décider rapidement des mesures à prendre.
Comme nous l’avons déjà évoqué dans cette série d’articles, les technologies de détection fournissent aux systèmes autonomes des véhicules les données essentielles pour créer une carte virtuelle de leur environnement en temps réel. La carte est ensuite enrichie avec les informations provenant des communications V2V et V2I. Grâce à ces sources d’informations vitales, les réseaux neuronaux autonomes d’apprentissage automatique peuvent conduire le véhicule en toute sécurité, à l’affût des dangers et prêts à réagir en conséquence.
Un véhicule autonome est foncièrement plus appliqué et fiable qu’un conducteur humain, qui peut à tout moment être distrait ou commettre une erreur de jugement. Malgré tout, on ne peut éliminer toutes les situations présentant un risque d’accident potentiellement fatal. Le fait d’autoriser un véhicule autonome à prendre des décisions sur la base de scénarios de vie ou de mort implique des questions morales et éthiques.
Alors que l’arrivée de véhicules entièrement automatisés sur nos routes n’est plus qu’une question de temps, ceux-ci posent des dilemmes éthiques et moraux à l’ensemble des acteurs du secteur automobile, y compris aux consommateurs, aux législateurs et aux assureurs des constructeurs automobiles. Certaines décisions seront difficiles à prendre et il n’y a nul doute qu’elles seront largement exposées dans la presse du monde entier, laquelle ne manque déjà pas d’épingler chaque accident impliquant un véhicule autonome.
Malheureusement, les véhicules entièrement automatisés sont déjà à l’origine de plusieurs accidents mortels, entre autres lorsque les algorithmes de détection n’ont pas été en mesure de déduire l’imminence d’un accident ou de détecter la présence d’un véhicule passant dangereusement devant eux. Malgré des techniques de simulation sophistiquées et des essais poussés de ces systèmes, on ne peut éliminer la probabilité qu’un événement aléatoire et imprévisible survienne.
conduite en ville
L’éthique de la vie ou de la mort
La prise de décisions dans des situations où l’accident mortel semble inévitable est un processus extrêmement complexe. Certaines décisions doivent être prises en une fraction de seconde et relèvent plus d’une réaction instinctive qu’elles ne résultent d’une analyse approfondie de la situation. Décider s’il convient, pour éviter de percuter un piéton, de mettre plusieurs autres vies en danger en déviant sur une terrasse de café est déjà un choix cornélien pour un être humain.
Imaginez donc pour un véhicule autonome… Est-il par exemple possible de programmer un système autonome pour qu’il compte le nombre de personnes se trouvant dans un bus ou sur la terrasse d’un café et en tienne compte ? De plus, comme l’a souligné un article sur le dilemme de la boussole morale paru dans le magazine Nature (voir figure 1), les attitudes par rapport aux actions que peuvent entreprendre les personnes varient aussi selon la région du monde où l’on se trouve.
Cette enquête, menée par une équipe d’experts à travers le monde, visait à rechercher et à développer un ensemble de principes universels et socialement acceptables à l’usage des véhicules autonomes dans des situations présentant un dilemme moral et éthique. Il serait possible de tenir compte de cette différence d’attitude selon les régions, si elle est convenue au niveau national, en ajustant les paramètres du réseau neuronal.
La Commission européenne s’emploie à autoriser les véhicules entièrement automatisés sur des segments définis du réseau routier européen. Depuis juillet 2022, le Règlement sur la sécurité générale des véhicules (RSG) introduit l’obligation légale de doter chaque véhicule routier d’un ensemble minimum de systèmes avancés d’aide à la conduite (ADAS). Cette obligation s’ajoute évidemment aux exigences techniques relatives aux niveaux 4 et 5 d’autonomie des véhicules (voir notre article 3 : « Automatisation des véhicules : les étapes clés »).
En Europe, la question épineuse de l’éthique progresse de manière fragmentée, chaque État membre de l’UE pouvant décider d’avancer à son propre rythme. L’Allemagne, par exemple, a établi un code de conduite éthique pour les véhicules autonomes en 2017. Dans une situation où un accident ne peut être évité, donner la priorité à la vie humaine et à l’intégrité physique des personnes par rapport à la vie des animaux et aux biens est une exigence essentielle dans l’apprentissage des algorithmes d’apprentissage automatique. Le gouvernement britannique n’a pas encore ouvert le débat sur l’éthique, mais il a déjà publié des directives concernant la conduite, sous certaines conditions, d’essais de véhicules autonomes sur la voie publique.
Qui est responsable ?
Un autre problème intéressant est de savoir à qui attribuer la responsabilité d’un accident. Dans le cas de conducteurs humains, les compagnies d’assurance s’appuient généralement sur les déclarations d’accident et les rapports des services d’urgence pour identifier les responsables. Avec les véhicules entièrement autonomes de niveau SAE 4 et 5, il n’y a pas de conducteur et les passagers ne peuvent pas intervenir pour reprendre le contrôle du véhicule. En pareil cas, le responsable désigné peut être le constructeur automobile, le développeur des algorithmes, les fabricants de capteurs ou, bien sûr, le conducteur d’un autre véhicule.
Seul le niveau 3 d’autonomie laisse place à une éventuelle « zone grise » de responsabilité, car il y est stipulé que le conducteur humain doit prendre le relais si les systèmes autonomes le jugent nécessaire. Le conducteur ainsi désigné pourrait dans certains cas manquer de temps pour réagir ou pour faire quoi que ce soit afin d’éviter un accident.
L’implication d’un véhicule autonome dans un accident de la route présente au moins l’avantage de pouvoir accéder à son journal des événements, en quelque sorte sa « boîte noire ». En Californie, la loi exige de produire l’ensemble des données système enregistrées durant les 30 secondes précédant l’accident lorsqu’un véhicule autonome d’essai est impliqué. Rien ne permet de dire cependant si cette obligation légale s’appliquera un jour à l’ensemble des véhicules autonomes en circulation dans le monde.
Il reste de nombreux défis à relever, tant sur le plan technique qu’éthique. Malgré cela, les véhicules autonomes sont avant tout un moyen de rendre nos routes plus sûres pour tous les usagers de la route, de trouver une solution aux embouteillages et de réduire la pollution. Ce n’est qu’une question de temps avant qu’un cadre moral socialement acceptable ne soit mis en place.
www.mouser.com
