[Édito] Quand la réalité dépasse la fiction

I, deadbot

Des choses qualifiées de pure fiction il y a quelques décennies (ou dans un passé proche), sont pourtant une réalité aujourd’hui. De la loi sur les robots à la gestion des réseaux sociaux et vos données après la mort, les sujets sont nombreux et inquiétants ; ils méritent que l’on s’y attarde dès à présent.

La réalité dépasse la fiction, rien de neuf me direz-vous ? C’est un fait depuis bien longtemps maintenant, bien que cela dépende de la réalité et de la fiction dont nous parlons. La fiction d’il y a 100 ans (dans les années 20, après la Première Guerre mondiale) n’a rien à voir avec celle d’aujourd’hui.

Les trois lois d’Asimov…

C’est à cette époque que de grands noms de la littérature de science-fiction sont nés. C’est notamment le cas d’Isaac Asimov (1920 - 1992), largement connu pour son Cycle des robots et ses fameuses « trois lois » qui ont tant inspiré d’autres auteurs/réalisateurs par la suite :

1. Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi ;
3. Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la Première ou la Deuxième Loi ;

Formulées dans les années 40, ces lois n’avaient aucune application pratique à l’époque. Avec l’arrivée des robots (sous toutes leurs formes) et le galop effréné ces dernières années de l’intelligence artificielle générative, on peut dire que la réalité est en passe de rattraper la fiction.

Mais nous sommes encore loin pour le moment d’une intelligence artificielle générale, c’est-à-dire capable de réaliser toutes sortes de tâches, y compris cognitives, à la place des humains. Une telle IA serait douée d’une forme de sensibilité ou de volonté… et c’est précisément ici que la réalité se heurte à la fiction, ou vice-versa.

Les intelligences artificielles qui animent les robots sont programmées par des humains pour effectuer des tâches précises. Si un drone doit larguer des bombes pour tuer des personnes, il le fera une fois la cible atteinte, sans « réfléchir » ou être bloqué par les lois de la robotique.

Partons du principe qu’une intelligence artificielle générale arrivera un jour. Quelles devraient alors être les « lois » à mettre en place ? Et, comment s’assurer de leur fiabilité ? Le film I, Robot montre comment des règles en apparences simples (celles d’Azimov) peuvent être détournées.

De Terminator à Matrix en passant par Tron, les réalisateurs s’en donnent à cœur joie sur les « dérives » des intelligences artificielles. Parfois pour assurer leur survie, parfois pour répondre de manière trop stricte aux règles en prenant le contrôle sur la vie des humains, incapables de la gérer correctement avec leur environnement. Dominer et asservir pour assurer la survie de l’espèce.