Et ton modèle, il fait du combien au 1 000 ?
Chaque sollicitation d’une application d’IA générative à un coût caché pour la planète. Selon une récente étude signée par Sasha Luccioni et Yacine Jernite, chercheurs chez Hugging Face, et Emma Strubell de la Carnegie Mellon University, créer une image par ce biais consommerait autant d’énergie que la recharge complète d’un smartphone – en comparant un modèle moyen, dont la recharge complète demanderait 0.012 kWh.
Utiliser ce type de technologie pour produire du texte semble moins dépensier en énergie : pour un texte de 1 000 mots, les scientifiques estiment que seulement l’équivalent de 16 % de recharge d’une batterie de smartphone est nécessaire. Autre comparatif proposé : produire 1 000 images avec un modèle puissant comme Stable Diffusion XL émettrait autant CO₂ que la conduite d’une voiture américaine moyenne sur 6,5 km.
Comme toujours, l’estimation du coût énergétique d’une pratique numérique est complexe. Les scientifiques notent par exemple qu’il existe de grandes variations de consommation selon les modèles. Il en existe, aussi, selon l’endroit où les opérations sont menées, et le mix énergétique local.
En l’occurrence, l’équipe a réalisé ses expérimentations sur un GPU NVIDIA A100-SXM4-80GB hébergé par Amazon Web Services, c’est-à-dire dans des data centers installés dans l’Oregon, aux États-Unis. Pour suivre les émissions carbones et les dépenses énergétiques de son travail, elle a utilisé CodeCarbon.
- Mesurer l’empreinte environnementale du numérique, un vrai casse-tête
- Difficile évaluation du coût environnemental et financier de l’utilisation des grands modèles de langage
- Usages et frugalité : quelle place pour les IA dans la société de demain ?