La semaine dernière, certains utilisateurs d’iPhone ont pu voir une notification annonçant la fausse information du suicide de Luigi Mangione, suspecté d’avoir tué le PDG de l’assureur UnitedHealthcare, Brian Thompson. Reporters Sans frontières appelle Apple à retirer sa nouvelle fonctionnalité.
L’ONG internationale Reporters sans frontières exige, dans un communiqué, le retrait de la fonctionnalité lancée récemment sur les iPhone permettant de recevoir des résumés d’actualité générés par Apple Intelligence.
Le faux suicide de Luigi Mangione et la fausse arrestation de Benyamin Nétanyahou
Cette demande est arrivée après que plusieurs utilisateurs des smartphones d’Apple ont reçu, la semaine dernière, une notification annonçant le suicide de Luigi Mangione en affichant la BBC comme source. Pourtant, le principal suspect dans le meurtre du PDG de l’assurance américaine UnitedHealthcare, Brian Thompson, est toujours vivant. Il vient d’ailleurs d’être incarcéré à New York ce jeudi 19 décembre.
Ces notifications ont été mises en place avec l’introduction d’Apple Intelligence dans iOS d’abord sur le marché états-unien avant de débarquer via la nouvelle version 18.2 sur ceux du Canada, de Royaume-Uni, de l’Australie, de l’Irlande et de la Nouvelle-Zélande.
La BBC s’est plaint à Apple et a rapidement publié un article expliquant d’où venait le problème. Le média britannique y explique notamment qu’Apple n’a pas voulu commenter l’information.
Le journaliste de ProPublica, Ken Schwencke avait déjà relevé sur Bluesky une autre erreur dans un résumé envoyé par notification par Apple Intelligence annonçant notamment l’arrestation de Benyamin Nétanyahou.
Cette notification est apparue le 21 novembre, le jour où la Cour pénale internationale a publié un mandat d’arrêt à l’encontre du Premier ministre israélien. Ce jour-là, le New York Times a publié un article titré « Netanyahu’s Arrest Sought by International Criminal Court » (qu’on peut traduire par « L’arrestation de Nétanyahu requise par la Cour pénale internationale »).
RSF appelle Apple à prendre ses responsabilités
Pour Reporters sans Frontières, « cet accident souligne l’incapacité des systèmes d’IA à systématiquement publier des informations de qualité, même quand elles sont basées sur des sources journalistiques ».
Pour Vincent Berthier, responsable du bureau technologies et journalisme de RSF, « les IA sont des machines à probabilités, or la véracité d’une information ne se joue pas sur un coup de dés. RSF appelle Apple à prendre ses responsabilités en retirant cette fonctionnalité. La production automatisée de fausses informations portant le sigle de médias est une atteinte à leur crédibilité, et un danger pour le droit du public à disposer d’informations fiables sur l’actualité ».
Le responsable de l’ONG ajoute, s’agissant de l’encadrement légal des outils d’IA générative que « l’AI Act européen, pourtant la législation la plus avancée au monde en la matière, n’a pas classé les IA générant de l’information comme systèmes à haut risque, laissant un vide juridique critique. Cette lacune doit être comblée rapidement ».
Pour la BBC, « il est essentiel pour nous que notre public puisse se fier aux informations ou au journalisme publiés en notre nom, ce qui inclut les notifications ».
L’entreprise à la pomme a pourtant introduit, comme ses concurrents, des instructions qui visent à empêcher l’intelligence artificielle de générer de fausses informations. Mais il semble que les instructions intégrées au système ne soit pas suffisantes pour éviter toutes les erreurs.
Une fonctionnalité qui concerne toutes les notifications
La fonction concernée est en fait un condensé des notifications reçues effectué par Apple Intelligence.
L’entreprise explique que, « grâce à sa compréhension approfondie du langage, Apple Intelligence peut vous aider à condenser les informations les plus importantes pour vous ». Elle ajoute que « les notifications sont résumées pour que vous puissiez les parcourir à la recherche de détails clés, par exemple lorsqu’une discussion de groupe est particulièrement active ». Ce sont donc toutes les notifications qui sont concernées et pas seulement celles provenant des applications d’actualité.
Une option permet d’afficher les notifications « qui requièrent une attention immédiate, comme un message vous informant que vous devez aller chercher votre enfant à la crèche ». Une autre permet de désactiver la fonctionnalité.