Quelles règles pour les voitures autonomes ?

Les premières pistes sur les obligations des algorithmes automobiles commencent à émerger. Le sujet implique des choix moraux susceptibles de varier selon les cultures.

Il est temps de s’y mettre. Alors que les tests sur route ouverte de véhicules autonomes se multiplient dans le monde entier et que certains véhicules de série, chez Tesla ou Audi, sont désormais capables de rouler seuls ou presque dans les embouteillages et sur autoroute, le sujet des règles à fixer au « logiciel conducteur » devient incontournable.

En Allemagne, une commission d’éthique vient de rendre un rapport sur le sujet au ministère des Transports. Les experts ont dressé vingt grands principes. Le premier ? La voiture autonome doit éviter tout accident avec des hommes, a fortiori piétons, quitte à écraser des animaux ou provoquer des dégâts matériels. De même, l’algorithme ne devra pas faire de discrimination entre les êtres humains. Il faudra également savoir de manière claire et démontrable qui conduit à un moment M – l’humain ou l’intelligence artificielle-, afin de trouver le responsable en cas d’accident. Boîte noire obligatoire, donc.

Aux Etats-Unis, on se pose le même type de questions. Après une première ébauche l’an dernier, l’agence de régulation automobile doit publier un cadre de travail un peu plus précis dans le courant du mois de septembre. En juillet, un groupement de constructeurs avait écrit aux parlementaires américains pour leur demander de définir le plus vite possible des règles claires. Un préalable pour ces industriels à toute diffusion de masse de la technologie.

C’est plus compliqué que pour les avions

« Il y aura beaucoup de choix à faire. Ce seront des décisions morales. Qui établira les règles ? », s’interrogeait l’an dernier Barack Obama. Régir le sujet risque effectivement d’être une gageure. « C’est beaucoup plus compliqué que dans l’aéronautique », où les autorités contrôlent le fonctionnement de pilotes automatiques, juge Patrick Koller, le patron de l’équipementier Faurecia.

D’abord, le nombre de parties prenantes et la multiplicité des situations possibles devraient rapidement complexifier l’obtention d’un consensus sur les règles à modifier. Les références à l’être humain sont nombreuses dans les textes internationaux régissant la sécurité automobile. Pour les modifier, industriels, associations de consommateurs, pouvoirs publics, citoyens et assureurs, voire représentants religieux devront s’entendre.

Des problèmes moraux et très concrets se posent également. L’un des principaux sera le recours aux technologies d’apprentissage automatique (« machine learning » ou « deep learning »), dans lesquelles le système d’intelligence artificielle va évoluer en fonction de son expérience. Utilisés notamment pour la reconnaissance d’images, donc pour les outils de vision de la route et des obstacles, ces systèmes fonctionnent un peu mystérieusement : on connaît les données qui y entrent et qui en sortent, mais on ne sait pas concrètement comment la machine différencie un arbre d’un piéton ou d’un panneau d’affichage.

Réglages et profils éthiques

« Aujourd’hui, on estime que le machine learning peut convenir pour la perception, mais pas pour la prise de décision, car son fonctionnement n’est pas traçable », expliquait en septembre le directeur scientifique d’un constructeur automobile lors d’une réunion sur l’éthique de l’intelligence artificielle organisée à Bruxelles.

Plus choquante, la question du « profil éthique » de la voiture autonome se pose également : d’un point de vue technique, rien n’empêche que le niveau de prudence du véhicule (par exemple « conduite altruiste » ou « conduite égoïste ») soit modifiable par les occupants du véhicule. Mais dans la réalité, il est peu probable que l’on laisse l’utilisateur, ou même le constructeur, libre de régler lui-même ce paramètre. Il faudra donc aboutir à un consensus sur ce que doit être le « profil éthique » général du véhicule. Au vu des différences d’attitudes des conducteurs sur l’ensemble de la planète, le chantier promet d’être juste titanesque. Quel sera le comportement d’un véhicule en Inde, confronté à un risque d’accident avec une vache  ?

Les Echos 30/08/2017