Science artificielle
Transhumanisme, altruisme effectif et long-termisme ne seraient-ils que diverses facettes d’une même pièce ? C’est la thèse de l’éthicienne de l’intelligence artificielle Timnit Gebru et du philosophe Emile Torres, qui réunissent ces idées sous l’acronyme TESCREAL et les lient au courant eugéniste.
L’intelligence artificielle générale (AGI) est-elle un réel idéal ? Est-ce un idéal bénéfique pour la majorité ? Faut-il continuer de financer la recherche pour la création d’une telle entité supposée dépasser les capacités humaines quand, dans le même temps, ceux qui y œuvrent alertent sur les dangers d’une AGI « non-alignées » avec les valeurs de l’humanité ?
Lorsqu’on creuse ce paradoxe, on tombe rapidement sur différents courants de pensée qui animent depuis plusieurs années la Silicon Valley. Transhumanisme, altruisme effectif, long-termisme… Le monde technologique baigne dans ces mouvements qui irriguent, en particulier, la recherche en intelligence artificielle la plus en vue.
Si ces mouvements sont débattus depuis longtemps, la critique s’accentue depuis plusieurs mois. Elle est notamment portée par les alertes de l’ingénieure Timnit Gebru et le philosophe Emile Torres, qui alertent sur les liens idéologiques que ces courants entretiennent avec un mouvement plus ancien : l’eugénisme. Dans un article tout juste paru dans la revue First Monday, les deux scientifiques relient les idées au fondement des TESCREAL (un acronyme qui réunit transhumanisme, Extropianisme, singularitarisme, cosmism, Rationalisme, Altruisme Effectif et long-termisme) à celles de ce courant dont les idées ont irrigué les démocraties européennes au tournant du XXe siècle, et qui en a motivé les heures les plus sombres.
« De nombreuses personnes travaillant sur l’intelligence artificielle générale ne sont peut-être pas conscientes de leur proximité avec les points de vue et les communautés TESCREAL », préviennent d’emblée Gebru et Torres.
Les principaux promoteurs des courants TESCREAL « ont été très efficaces en termes de stratégie, explique Émile Torres à Next. Ils ont été super bons pour trouver les meilleures manières d’atteindre leurs buts », en se positionnant dans des universités influentes (comme Oxford, au Royaume-Uni, qui vient tout juste de fermer le Future of Humanity Institute dirigé par le philosophe Nick Bostrom depuis vingt ans), en attirant des financements et en détournant l’attention trop précise des régulateurs.
Résultat, écrit-il avec Timnit Gebru : « Les idéologies TESCREAListes sont le moteur de la course à l’AGI, même si toutes les personnes associées à l’objectif de construction de l’AGI ne souscrivent pas à ces visions du monde. » Contestant la scientificité de la course à une « intelligence » artificielle « générale », les deux universitaires appellent à la promotion de modèles d’intelligence artificielle précisément définis, testables et construits d’une manière qui les rend réellement sécurisables.