Opinions / Rédacteur sans filtre - Souvenons-nous des conseils d’Isaac

Au-delà de leur rigueur journalistique et de leur point de vue de professionnels de l’automobile, les membres de la rédaction sont avant tout des automobilistes et des citoyens lambda. Dans « Rédacteurs sans filtre », c’est le cœur qui s’exprime avant tout ! Aujourd’hui, Olivier Duquesne nous explique pourquoi il se méfie des robots à nos volants à cause d’Isaac Asimov...

LIRE AUSSI - Tous les sujets des Rédacteurs sans filtre

Dans ma bibliothèque, il y a un livre « Le Cycle des Robots – I. Les Robots » d’Isaac Asimov. Un recueil de nouvelles qui a un écho particulier à l’heure des voitures autonomes de niveaux 3, 4 ou 5. Vous connaissez sans doute les trois fameuses lois des robots* qu’il a écrites. Mais ce recueil de nouvelles va plus loin. Il démontre que l’auteur avait un esprit visionnaire et percevait parfaitement les différentes problématiques de l’automatisation et de l’attribution de tâches aux machines. Notamment, celui des ordres mal interprétés qui finissent par mettre en danger ceux que le robot est censé protéger. Typiquement le système d’aide à la conduite qui « force » le volant pour rester entre les lignes alors qu’il y a un obstacle à éviter, ou un marquage de chantier (de mauvaise qualité) à suivre.

Logique, ou pas ?

 Certes, Robbie a sauvé Gloria dans le livre. Mais tous les robots du recueil ne sont pas aussi efficaces, donnant du fil à retordre à une héroïne récurrente : Susan Calvin. Au point qu’il soit possible de les croire « méchants » et « cyniques ». Pourtant ce ne sont que des machines réagissant « selon les règles logiques implantées dans leurs "cerveaux" au moment de leur construction » tel que l’explique Isaac Asimov dans sa préface. C’est pareil avec nos voitures automatisées. Elles ne font que choisir un des innombrables scénarios implantés dans leurs puces. Et c’est là qu’est l’os hélas. Contrairement à un être humain d’intelligence moyenne (même très moyenne), elles ne peuvent faire preuve d’inventivité et d’improvisation quand la situation est hors du commun. Au point d’être en totale contradiction avec la voie choisie par le robot « au volant » ; d’où conflit avec l’humain qui doit se battre avec la machine pour avoir gain de cause. Même si, en principe, toute résistance incite le logiciel de la voiture (semi-)autonome à sortir le drapeau blanc.

La mort comme alliée

Non écrite explicitement, mais décrite dans ce livre (attention spoiler), les machines finissent par se créer une 4^e loi, aussi appelée « loi 0 ». Toujours aussi soucieuses de protéger l’humain, elles s’octroient toutefois le devoir de favoriser l’humanité à l’individu. En clair, elles peuvent manipuler des êtres humains « nocifs » pour les rendre inoffensifs. Et leur enlever toute responsabilité par le mirage du confort. D’où cette interrogation : à quel point faut-il donc faire confiance à l’intelligence artificielle ? En soi, les robots ne sont que des artifices capables de prouesses mathématiques à des vitesses inhumaines. Mais ils peuvent avoir des comportements totalement stupides, logiques certes, mais d’une bêtise confondante d’un point de vue émotionnel. Car ils n’ont pas la crainte qui nous pousse tous (en principe) à une certaine prudence : la peur de souffrir et de mourir.

Degré de confiance

C’est vrai, des voitures-robots actuelles m’ont déjà sauvé de quelques mauvais pas, ou du moins, elles ont réagi plus rapidement que moi. Mais je dois aussi mon intégrité physique à quelques prompts réflexes et à mon expérience, parfois en contradiction avec ce que voulait faire la machine. Son choix aurait-il été mauvais ? Je ne le sais pas, mais je me fiais suffisamment à mon instinct que pour (re)prendre les choses en main. La vigilance est mère de sûreté au volant d’une voiture, même dotée d’un pilotage dit automatique. En fin de compte, la vie est un bien précieux que seuls des êtres humains sont vraiment en mesure de percevoir. Pas besoin d’algorithmes ou de savants calculs pour la ressentir, elle est innée en nous. Nous avons juste besoin de balises et d’un minimum d’éducation (certains plus que d’autres apparemment) pour se protéger et protéger les autres. Loin de moi l’idée de douter de toutes les règles, du savoir-vivre et de l’utilité des garde-fous. Mais toutes les rampes électroniques de nos chères automobiles ne peuvent – ne doivent – dériver vers une complète mise sous tutelle de nos décisions par des impulsions électriques dénuées de sentiments et de destinée.

* Les lois d’Asimov

1.       Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.

2.       Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi.

3.       Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première et la deuxième loi.