Éthique et tech
Dans le petit monde de l’intelligence artificielle, l’éthique de l’IA est parfois promue, parfois critiquée. Dans la pratique, plusieurs études montrent qu’elle n’est pas si simple à mettre en place dans les entreprises.
Début décembre, quatre chercheurs et chercheuses affiliés à l’Université états-unienne de Stanford, dont la française Angèle Christin, publiaient une note issue de leur travail sur la manière dont l’éthique de l’intelligence artificielle se déploie sur le terrain, dans des entreprises technologiques.
Parmi leurs résultats, les scientifiques constatent que dans beaucoup de sociétés, s’il existe des discours bien formulés sur l’éthique de l’IA, ceux-ci ne se traduisent pas nécessairement en modifications réelles des pratiques de travail. L’équipe rapporte aussi que les sujets éthiques sont souvent poussés par des individus solitaires, qui reçoivent relativement peu de soutien des institutions dans lesquelles ils travaillent.
Cela signifie que les considérations éthiques sont rarement transformées en priorités dans le développement des produits, quand les indicateurs adoptés et les modifications fréquentes de l’organisation du travail ne découragent pas carrément les tentatives.
En cela, leur travail rejoint certaines des conclusions tirées par l’équipe française du projet international et multidisciplinaire Shaping AI. Ce dernier vise à comprendre l’évolution des discours autour de l’intelligence artificielle en France, en Allemagne, au Royaume-Uni et au Canada sur une décennie. En France, l’équipe du médialab de Sciences Po a mené son analyse en interrogeant une trentaine de « praticiens de l’IA ».
Parmi ses auteurs, la chercheuse Pauline Gourlet et la doctorante Maud Barret expliquent que « l’éthique de l’IA » n’est, pour commencer, pas abordée en ces termes par tous les membres de la chaîne de fabrication – déploiement – maintien des systèmes. Mais aussi que des thématiques chères à ce domaine, comme celui des biais, peuvent servir à empêcher toute autre forme de dialogue sur les évolutions en cours au sein d’un cadre de travail.
Dans leur restitution (voir aussi cette présentation), les expertes argumentent en faveur d’une « désexceptionalisation » de l’IA, au profit de logiques critiques plus traditionnelles, comme l’analyse (et notamment de la sociologie) des organisations.