L’association #Jesuislà est très critique du rapport rendu le 13 mars dernier au président de la République par la Commission de l’intelligence artificielle.
Le rapport en question formule 25 recommandations à destination des pouvoirs publics, dont sept prioritaires :
- créer un plan de sensibilisation et de formation de la nation ;
- investir massivement dans les entreprises du numérique et soutenir l’écosystème français de l’IA ;
- faire de la France et l’Europe un pôle majeur de la puissance de calcul ;
- transformer l’approche des données personnelles pour « continuer de protéger tout en facilitant l’innovation » ;
- permettre l’accès aux contenus culturels français dans le respect de la propriété intellectuelle ;
- œuvrer en faveur de l’expérimentation dans la recherche publique en IA ;
- structurer une initiative diplomatique pour faciliter l’émergence d’une gouvernance mondiale de l’IA.
Pour #Jesuislà, le document n’adresse pas suffisamment les risques de ces technologies, quand bien même la lettre de mission du Premier ministre l’invitait à traiter de « l’éthique » et des « impacts sociétaux » de l’IA.
L’association relève que les suggestions de déploiement de l’IA dans les services publics, l’éducation ou la santé ne mentionnent à aucun moment les risques de discriminations que laissent présager des enquêtes comme celles sur le fonctionnement de l’algorithme de la CAF. De même, le document ne s’intéresse aucunement aux risques accrus de cyberviolence que pose l’accès facilité aux outils de production de deepfakes.
#Jesuislà interroge par ailleurs l’indépendance de la commission, portant le grand nombre de membres liés à de grands acteurs de l’IA (Joëlle Barral chez Google, Arthur Mensch et Cédric O pour Mistral AI, Yann LeCun pour Meta).
Si elle salue la mise en place de filigranes pour identifier les contenus générés par IA, elle appelle à renforcer les garanties de sécurité pour les Françaises et Français, et notamment la protection des filles et des femmes face aux deepfakes non consentis à caractère pornographique.
En cela, elle rejoint les recommandations formulées dans le rapport sur les violences de genre facilitées par la technologie à l’ère de l’IA générative de l’UNESCO.
Créée en 2020 dans sa version française, l’association #Jesuislà, qui fait partie du réseau international #IamHere, « vise à faire d’Internet un endroit meilleur ».