Mobilité / Quelle éthique pour l’intelligence artificielle ?

L'avènement de la voiture autonome draine dans son sillage toute une série de questions, certaines relativement faciles, mais d’autres nettement plus pointues voire problématiques car elles touchent au comportement des machines au sein de l’environnement dans lequel elles évoluent. Quel est l’objectif de la voiture autonome ? Le premier est l'amélioration de la sécurité. En effet, il faut savoir que chaque année, 1,3 million de personnes trouvent la mort sur les routes, partout dans le monde. Le but est de réduire ce chiffre à zéro, ce qui semble un peu illusoire car aussi efficace puisse-t-elle être, la machine aura toujours des carences et des situations dans lesquelles elle ne pourra rien faire. Les autres avantages de la voiture autonome sont une utilisation plus efficace des infrastructures existantes (moins d'embouteillages) et la possibilité d'offrir plus de mobilité à tout un chacun, y compris les moins valides ou moins aptes à la conduite pour diverses raisons.

Pour développer ce moyen de transport de demain, Toyota a mis sur pied le Mobility Teammate Concept, dans lequel le conducteur occupe encore une place centrale – pour Toyota, c'est lui qui choisit en dernier ressort – et où l'interaction avec les autres usagers de la route joue un rôle crucial. La marque base plutôt l'évolution de la voiture autonome autour de deux axes parallèles, mais distincts: le premier est appelé « chauffeur » (que le système remplace totalement ou partiellement), l'autre « guardian » (quand le système ne fait qu'apporter une assistance dans des circonstances où la sécurité est mise en péril).

Chaque chose en son temps

Pour la mise en œuvre de ces systèmes de sécurité, Toyota emprunte également un double chemin: d'un côté, on veut aller aussi vite que possible, de l'autre on veut toucher le plus de gens possible, ce qui signifie que les systèmes de sécurité les plus onéreux qui peuvent actuellement être montés sur des Lexus (voir encadré) seront, au fil du temps, également utilisés par les Toyota Yaris et Aygo, même si ce sera sous une forme simplifiée. C'est ainsi que le Toyota Safety Sense est déjà de série sur quelque 92 % des Toyota vendues en Europe. Cela veut-il dire que Toyota ne continue pas la course à la voiture autonome? Bien sûr que non! Mais les Japonais sont conscients que les choses doivent se faire progressivement. C'est ainsi qu'ils prévoient pour 2020 l'introduction de ce qu'ils appellent le Highway Teammate (à situer à peu près au niveau 3 de la classification SAE), qui peut prendre le contrôle de la voiture dans certaines circonstances sur voie rapide. Un plus haut niveau d'autonomie sera apporté par l'Urban Teammate (comparable au niveau 4): il s'agit d'une forme de conduite automatisée sur route ordinaire, ce qui pose des difficultés supplémentaires à la voiture. Toyota, prudent, n'en prévoit le lancement que … nettement plus tard.

Toyota Research Institute

Ikeo Toyoda est pour l'heure le grand patron chez Toyota. Mais c'est aussi un vrai passionné d'automobile. Voici quelques années, il a assisté à une conférence d'un certain Gill Pratt, un Américain qui avait perdu son meilleur ami dans un accident de voiture et qui parlait des possibilités que pouvait offrir la voiture autonome, mais aussi des difficultés et des dangers qui y étaient liés, dans une optique de mobilité et de sécurité routière. Il l'a nommé Directeur du Toyota Research Institute, le réservoir d'idées, chargé de réfléchir au-delà de la technique et d'étudier aussi le revers de la médaille, idéalement avant qu'il ne devienne un problème. Gill Pratt explique: «18% des accidents mortels dans le monde ont lieu sur la route. Mais le plus grave, ce n'est pas ce pourcentage, en lui-même impressionnant, mais bien le caractère prématuré et inattendu de ces décès. Il est logique que le pourcentage de tués sur la route soit plus élevé dans les groupes plus jeunes de la population qu'au sein des groupes plus âgés: dans ces groupes jeunes, il y a encore peu de décès dus à d'autres causes.»

Pratt est par ailleurs convaincu que l'automatisation va grandement améliorer la sécurité, avec à la clé une conséquence bienvenue: celle de réduire le coût du transport d'environ 50%. Lorsque l'on utilise un taxi, par exemple, le prix de la course diminuera de moitié s'il n'y a plus de chauffeur à rémunérer. Reste qu'atteindre ce stade est une autre paire de manches. «Il y aura des hauts et des bas ainsi qu'une série d'échecs qui précèdent inévitablement le succès. L'intelligence artificielle (Artificial intelligence ou AI) va jouer ici un rôle-clé. C'est pour cette raison que nous soutenons de nombreuses start-ups partout sur la planète.»

Si l'objectif est clair, le chemin pour y parvenir ne sera pas simple. «Au fond, ce n'est pas tellement de l'autonomie de la voiture qu'il s'agit, mais plutôt de celle des êtres humains. C'est à eux qu'il appartient de déterminer ce qu'ils veulent et ce qu'ils ne veulent pas. Il faudra veiller à préserver non seulement la liberté, mais aussi le plaisir de se déplacer.»

Intelligence artificielle

Cela peut sembler paradoxal quand on voit ce que l'être humain est parfois capable de faire derrière un volant, mais le fait est que conduire une voiture est une tâche complexe. Il n'est déjà pas simple de collecter et de traiter toutes les informations, visuelles et autres que l'on recueille lorsque l'on conduit, mais il est encore beaucoup plus difficile d'évaluer le comportement des autres usagers de la route et de tenter d’anticiper leur réaction. C'est pourtant ce que nous faisons tous les jours sur la route intuitivement. Aussi est-il tout sauf évident de transférer cette tâche «d’anticipation» à des machines. Du coup, personne ne sait quand arrivera la voiture totalement autonome. Mais pour préparer cet avènement, nous avons besoin de véhicules suffisamment intelligents pour assumer sans erreur les tâches d'observation, d'analyse et de réaction intuitives. La clé du succès réside dans le fait que les machines qui vont reprendre les tâches jusqu'ici assurées par l'être humain (et qui devront donc être artificiellement intelligentes…) doivent être non seulement particulièrement performantes, mais aussi capables de corriger et d'apprendre en permanence.

Deep learning

Les machines auxquelles nous confierons notre liberté de mouvement devront donc s'adapter constamment: c'est ce que l’on appelle le deep learning. Chez Toyota, on travaille en collaboration avec d'autres sociétés, mais aussi avec des universités. C'est ainsi que le professeur Luc van Gool de la KUL travaille depuis longtemps avec la marque sur le programme Trace (Toyota Research on Automated Cars in Europe), étant donné qu'il est un spécialiste dans un domaine bien précis: ce que les ordinateurs sont capables de voir et d’apprendre. Il cherche à ce que ses caméras, grâce au deep learning fonctionnent comme le cerveau humain, qu'elles s'adaptent à ce qu'elles voient et qu'elles puissent en  apprendre quelque chose afin de sans cesse affiner leurs réactions. Autrement dit, l'ordinateur est lui aussi appelé à devenir multitâche, à l'instar du conducteur d'une voiture. «Lorsqu'on peut voir le monde comme un être humain normal le voit, c'est quasiment l'idéal. C'est de cela que je veux me rapprocher avec mes caméras: je veux qu'elles puisent enregistrer tous ce que les sens humains sont capables de percevoir et de retenir et que, via le deep learning, elles en tirent les conclusions qui s'imposent.»

Si les choses se passent mal sur la route, il faut que les secours arrivent sur place le plus rapidement possible. La moindre seconde est importante et ici la machine est vraisemblablement plus rapide que l'être humain. Les chances de survie en cas d'accident de la route sont placées sous le signe de la règle dite «des 60 minutes». Si les secours sont sur place directement, ces chances de survie sont de 90%. Si les secours n'arrivent qu'une heure plus tard, ces mêmes chances sont réduites à… 10%. Avec le deep learning, les machines du futur pourront donc tenter d'éviter les accidents autant que possible, ainsi que réduire au maximum leur conséquences.

Les dimensions éthiques et juridiques

Le développement technologique de la voiture autonome se double d’un dilemme éthique: de qui la machine va-t-elle privilégier la sécurité? Celle de ses occupants même si pour cela il faut tuer un enfant sur le trottoir ? Ou l’inverse ? A cette question, différentes réponses peuvent être apportées, les unes plus moralement responsables que les autres, et beaucoup de choses dépendront de qui pose la question. Mais il y a plus: en cas d'accident dû à une défaillance du système, qui sera responsable? Et la question ne concerne pas uniquement les systèmes qui équiperont les véhicules, mais aussi ceux qui assurent la communication entre véhicules ou encore les éventuels systèmes de guidage mis en place par les autorités. Il y là beaucoup de boulot pour les juristes et gros à parier que les choses iront moins vite que sur le plan technique.

Et qu'en est-il du robot pensant artificiel? Est-il à l'abri d'une défaillance «éthique»? Les questions qu'ils posent ont été magnifiquement illustrées, voici une quarantaine d'années déjà,  dans le film de Stanley Kubrick «2001, Odyssée de l'Espace» où, à un certain moment, le super ordinateur Hal n'autorise pas le retour à bord d'un des membres de l'équipage du vaisseau spatial, le condamnant ainsi à une mort certaine.

Outre de nombreux philosophes et scientifiques, des techniciens comme Elon Musk mettent en garde contre les dangers de la machine (trop) intelligente. Qui dit véhicule autonome dit, ipso facto, une énorme masse d'informations à gérer. Comment ces dernières seront-elles protégées? A quelles fins pourront-elles être utilisées? Qui va les gérer et comment? Et enfin, il y a la question de la période de transition. Qui pourra disposer en premier d'une voiture autonome et comment cette voiture évoluera-t-elle sur des routes où circuleront, pour longtemps encore, des véhicules classiques, c'est à dire conduits par un être humain? Assistera-ton à un clivage de plus entre pauvres et riches ou, ce qui revient en partie au même, entre le monde occidental et le reste de la planète? On le voit, tout cela suscite de nombreuses questions auxquelles les réponses sont loin d'être évidentes.