Alors que la publication d’images pornographiques générées par IA de l’artiste Taylor Swift alerte la toile, le média 404 démontre qu’elles ont été créées à l’aide de Microsoft Designer. Depuis, l’entreprise déclare avoir ajouté des mécanismes de protection spécifiques.
Au média, la société indique que son code de conduite interdit d’utiliser ses outils pour créer des contenus « pour adulte » ou des contenus intimes non consensuels, et que « les tentatives répétées de créer des contenus contraire à nos règlements peuvent se solder par la perte de l’accès à nos services ».
Microsoft indique par ailleurs que de « grandes équipes » travaillent à créer des outils cohérents avec ses principes d’IA éthiques, notamment pour développer des outils de filtrage, du monitoring en temps réel et de la détection de mésusage de ses outils.
Rappelons tout de même que, si elle a gardé un « Bureau de l’IA responsable », l’entreprise a licencié l’équipe spécifiquement dédiée à l’éthique de l’IA en mars 2023.