- Génération IA
- Posts
- Le (vrai) coût climatique de l'IA
Le (vrai) coût climatique de l'IA
Découvre les véritables enjeux climatiques liés à l'intelligence artificielle et comment adopter une utilisation plus responsable
Bonjour !
J’espère que tu vas bien !
Aujourd’hui on va parler de choses qui fâchent. L’impact environnemental de l’IA.
On en parle peu, ou alors quand on en parle c’est souvent de façon un peu exagérée.. dans les deux sens !
Alors soit on a droit à la “catastrophe écologique”, soit on nous sert un discours en mode “l’IA va sauver la planète”. Bon. Comme toujours la réponse est beaucoup plus nuancée.
Comme cette question m’est souvent posée dans les commentaires et comme j’ai déjà écrit une longue lettre en avril dernier sur le sujet, je te propose un mini-guide qui te donnera des ordres de grandeur pour garder la tête froide.
J’y ai rajouté quelques conseils pratiques pour utiliser l’IA de façon plus responsable.
Alors prends ton casque en plastique recyclé et viens avec moi. Je t’emmène au pays merveilleux des data-centers.
Je suis Benoît Raphaël, et avec Thomas Mahier (ingénieur en IA) et FlintGPT (robot un peu simplet mais gentil), je te propose de mieux comprendre et maîtriser l’intelligence artificielle.
Si on t’a transféré cette lettre, abonne-toi en un clic ici.
Si tu es abonné(e) et que tu souhaites te désabonner, pas de panique ! Va en bas cette lettre et clique sur le lien “vous désabonner ici”.
😍 Aujourd’hui voici comment tu vas devenir plus intelligent(e) avec Génération IA.
→ Calcule l’empreinte carbone de l’IA tout en comprenant les ordres de grandeur et les enjeux à venir.
→ Essaie un prompt ChatGPT ingénieux pour créer du contenu plus facilement.
→ Teste la nouvelle IA générative d’images de Google. Meilleure que Midjourney ?
→ Pose-toi plein de questions philosophiques en écoutant un podcast très étrange.
→ Et comme toujours, découvre ma sélection de tutoriels et d’outils.
Tout d’abord, commençons par les médias. La plupart des articles se suivent et se ressemblent. Chacun y va de sa révélation “exclusive” sur la menace que ferait peser ChatGPT sur l’environnement. Sauf que tout le monde se base sur DEUX documents scientifiques publiés en 2023. Le premier, celui de Sasha Luccioni (qui travaille chez Hugging Face), tente de mesurer l’impact carbone de l’IA générative. Le second, publié par Shaolei Ren (University of California), concerne l’eau (mais on verra ça dans une autre lettre si tu veux bien).
Au delà de ces chiffres qui ont l’avantage de proposer une méthode, tout le reste n’est que du baratin.
Voici donc ce que tu peux retenir sans trop de tromper (au vu des données disponibles) de l’impact environnemental de l’IA générative.
Pour ne pas te surcharger, je te propose de te concentrer sur les émissions de CO2 dans un premier temps, on étudiera la question de l’eau dans une prochaine édition.
Image générée avec Midjourney à partir de mon style (moche) de dessin…
1. Question simple, réponse complexe
ChatGPT a-t-il un impact négatif sur l’environnement ? Alors la réponse est oui. Comme la plupart des activités en ligne. Et comme à chaque fois que tu manges un steak haché, une salade niçoise, ou que tu achètes une chemise.
La vraie question c’est de savoir à quelle hauteur ChatGPT est-il nocif, et s’il y a des solutions. Et c’est là que ça se complique.
2. Combien coûte un prompt en CO2 ?
Haha… Alors la réponse dépend de plein de critères, auxquels il faudrait ajouter les coûts de fabrication et d’extraction des matériaux. Mais si tu veux des repères simples, l’étude de Sasha Luccioni a presque tout ce qu’il te faut.
L’impact carbone de ChatGPT, c’est essentiellement celui des “data centers”. C’est à dire celui des centres de données où sont stockées les machines qui permettent de faire tous les calculs nécessaires à l’IA pour répondre à ta requête.
Il y a le coût de l’entrainement, mais comme il n’intervient qu’une fois on va plutôt s’intéresser à ce qu’on appelle le coût d’inférence, c’est à dire le coût de ses réponses à tes questions.
En moyenne estime Sasha Luccioni, 1000 prompts c’est 0,042 kWh d’électricité.
Si l’on considère un usage moyen de 10 prompts par jour, alors tu consommes 0,00042 kWh d’électricité.
L’impact carbone de ce coût en électricité dépend bien sûr du centre de données où le calcul est fait (30% des centres sont basés aux États-Unis) et de l’énergie qui alimente ce centre (si c’est du nucléaire, donc décarbonné, ou du charbon par exemple).
Ce qui nous fait en moyenne 0,12g de CO2 émis par session de 10 prompts, si le serveur est basé dans l’Oregon (qui émet 297,6g/ de CO2 par kWh). Si le serveur était en France par exemple, le taux serait de 20g/kWh.
Pour une image (avec le modèle le plus gourmand), c’est beaucoup plus. Toujours selon cette étude, générer une image rejette théoriquement 2,9 grammes de CO2.
2. Comment comparer ce coût avec d’autres usages ?
Oui parce que c’est sympa de dire que ça émet du CO2 mais on a besoin d’ordres de grandeur. Sinon ça reviendrait un peu à dire que l’eau ça mouille (ce qui est vrai, tu noteras… mais ça mouille COMBIEN ?). Attention, on va comparer un peu des choux et des carottes mais ça a le mérite de donner quelques repères.
Comparons une session avec ChatGPT (10 interactions) 0,00042 kWh soit 0,12g de CO2 et une session avec Stable Diffusion (10 images) 0,01 kwh soit 2,9g de CO2 avec, au hasard :
Une heure passée à regarder Netflix : 0.077 kWh soit 22,9g de CO2 (si on utilise la même méthode de calcul, ce qui est TRÈS limite…) Plus sérieusement, le document de l’ARCOM que j’ai consulté propose un volume entre 6 et 57g par heure en tenant compte des coûts globaux, matériel compris.
Un bon steak de 200g : 20kg de C02 (tout compris).
Et en choux et en carottes ? Alors un chou, c’est 50 grammes et une carotte c’est 40 grammes.
Maintenant petit jeu pour toi : 1 filet de boeuf carottes de 200 grammes avec 2 carottes ça fait combien en prompts ChatGPT ?
3. Mais la “vue d’oiseau” ne raconte pas la même histoire…
Ta consommation de ChatGPT, c’est la vision individuelle (la “worm’s view” comme on dit, la vue “ver de terre”). Mais tu peux aborder aussi le problème de façon plus systémique (la “bird’s view”, la vue d’oiseau). Et là, ce n’est plus la même histoire.
Le héros de cette histoire, s’appelle “Data Center” et il est très gourmand.
Pour l’instant, Data Center est un tout petit joueur face à Steak Haché ou au Super Pétrole.
Par exemple tu peux regarder la part des centres de données dans le volume d’émissions globales. Cette part est mal évaluée. Sasha Luccioni estime que la part des TIC (technologies d’information et de communication) est entre de 1 et 6%, les centres de données correspondant à une petite part de ce total.
Ce qui n’est pas beaucoup.
Ce qu’il faut regarder c’est l’évolution.
Et c’est un peu plus préoccupant.
Pour bien comprendre les chiffres à venir, il faut distinguer consommation d’électricité (facile à calculer) et émissions de gaz à effet de serre (plus complexe à estimer).
Entre 2017 et 2021, l’électricité consommée par Meta, Google, Microsoft et Amazon a plus que doublé, estime un rapport de l’organisation américaine EPRI.
Les points bleus c’est l’évolution réelle jusqu’en 2023, et les trucs en couleur ce sont les projections de l’EPRI.
Oui mais quelle est la part de l’IA ?
Sasha Luccioni, encore elle, dresse un tableau plus complet de la situation : elle estime que les systèmes d’IA consomment entre 10 et 20% de l’électricité utilisée par les centres de données. Mais cette part devrait augmenter estime l’EPRI.
Dans un rapport d’avril 2024, Goldman Sachs, estime que les besoins en électricité des centres de données vont augmenter de 160% d’ici 2030. L’IA ne représentera toujours qu’une petite part (mais croissante) de ces besoins.
La part IA est celle avec des rayures.
Ce qui ne veut pas dire que les émissions augmenteront d’autant. Ça dépendra de la source d’énergie et de leur gestion.
C’est tout l’enjeu du moment.
Ce dernier n’est d’ailleurs pas seulement celui des émissions, mais aussi celui des besoins en énergie. Pour te donner un ordre de grandeur, Morgan Stanley prévoit qu’en 2027, l’IA générative consommera autant d’électricité que l’Espagne (soit une progression de 70% par rapport à 2022).
La bataille à venir de l’IA sera aussi celle de l’énergie.
Et ça a déjà commencé.
Ses émissions de gaz à effet de serre, quant à elles, ont augmenté de 13% entre 2022 et 2023. Et de 48% depuis 2019.
Pourquoi ? “Principalement en raison de l'augmentation de la consommation d'énergie des centres de données et des émissions de la chaîne d'approvisionnement”.
Microsoft, de son côté a déclaré avoir augmenté ses émissions indirectes de 29,1% entre 2020 et 2023 alors que ses émissions directes ont baissé de 6% .
Pourquoi ? La construction de nouveaux centres de données.
Mais le quotidien The Guardian estime que ces chiffres officiels d’émission carbone sont sous-estimés.
Cependant, les géants de la tech et de l’IA cherchent déjà des solutions pour obtenir plus d’énergie sans compromettre leurs objectifs zéro carbone prévus pour 2030 (oui, parce que c’est toujours leur objectif…). Et si possible sans greenwashing (haha).
Par exemple Microsoft a contribué à la réouverture d’une centrale nucléaire pour répondre à ses besoins futurs. Le rapport Morgan Stanley (cité plus haut) estime même que le développement de l’IA pourrait stimuler le développement de l’éolien, du solaire, du stockage d’énergie et des piles à combustible.
4. Quelles sont les solutions ?
La première est “simple” : développer de nouvelles sources d’énergie décarbonnées (comme le nucléaire, le solaire et l’éolien). Et surtout localiser les nouveaux centres de données là où l’énergie est la plus décarbonnée.
Il y a aussi les promesses de la technologie SMR (des petits réacteurs nucléaires plus faciles à déployer).
Au delà des sources d’énergie, d’autres solutions existent, impliquant parfois l’IA. Comme par exemple des algorithmes tels que “CarbonMin” qui permettraient de réduire plus de 50% des émissions des centres de données d’ici 2035.
Plus de transparence dans les émissions (haha, sujet qui fâche… on en est encore loin !).
Sortir de la logique qui laisse croire que plus le modèle est grand, plus il est efficace. Ce n’est pas forcément vrai (par exemple si on les compare à des modèles plus petits et spécialisés) et c’est coûteux pour la planète.
Et enfin : plus de maîtrise et de raison dans nos usages de l’IA (et je te donne quelques pistes plus bas).
La course entre les investissements colossaux exigés par la folie autour des IA génératives et les progrès des technologies permettant de limiter ces émissions sera tendue. C’est donc le point qui sera le plus important à observer dans les prochaines années.
Pour aller plus loin
Mesure l’impact carbone de ton usage de l’IA avec cet outil développé par Sasha Luccioni.
Si tu n’avais qu’un seul article à lire sur le sujet, lis celui-ci (toujours de S.Luccioni…) : il aborde presque tous aspects de l’impact environnemental de l’IA avec énormément de sources.
Si tu préfères une lecture plus rigolote (et en français) retrouve le dossier complet que j’avais publié sur le sujet en avril dernier.
Thomas me glisse dans l’oreillette que ce monsieur, Greg de Temmerman, est sa “meilleure source sur l’énergie et le climat”. Maintenant tu sais.
ASTUCES
Maitrise ton impact carbone IA
Comme nous venons de le voir, l’impact de l’IA sur le climat est plus systémique (lié aux investissements actuels et futurs) qu’individuel. Mais tu peux toi aussi participer à un usage plus raisonné en pratiquant la sobriété :
Tout d’abord, les modèles de langage comme GPT-4 ne SONT PAS des moteurs de recherche. Même si ça a l’air cool, faire des recherches web avec Perplexity ou ChatGPT par exemple te fera perdre beaucoup de temps. En plus, une recherche IA émet 30 à 40 fois plus de CO2 qu’une recherche Google.
Privilégie systématiquement les petits modèles sur les gros. Ils s’appellent GPT-4o mini, Claude 3 Haiku, Gemini Flash… Pour la plupart de tes besoins (poser des questions simples, répondre à un mail, traduire ou synthétiser un article…) inutile d’utiliser les gros modèles. A titre l’individuel l’impact ne sera pas énorme mais au niveau d’une entreprise (si elle développe un service IA), ça peut faire une grosse différence, notamment en terme de coût.
Évite d’automatiser tout et n’importe quoi. Les modèles de langage sont comme des stagiaires, et ils sont erratiques. On n’automatise pas un stagiaire sur des tâches sensibles comme l’analyse de données. Il faut mettre en place des points de contrôle avec des humains dans la boucle.
Si tu as le courage, installe une plateforme open-source sur ton ordinateur (par exemple en téléchargeant des applications comme GPT4all, Ollama ou LMStudio). Il faut avoir un ordinateur puissant (une puce M2 ou M3 si tu as un mac). Dans ce cas, les calculs se font sur ton ordinateur et pas dans un centre de données. Tu gagnes aussi en confidentialité puisque tout est traité en local.
L’OUTIL
A gauche Midjourney 6.1, à droite Imagen 3
Le nouveau générateur d’images de Google
Si tu as l’habitude de générer tes images avec Dall-E 3 dans ChatGPT, essaie avec Gemini. Google vient de lancer Imagen3, son nouveau générateur d’images. Avec le bon prompt, tu pourras obtenir des résultats à peu près équivalents à la plupart des modèles du moment (Midjourney, Ideogram ou Flux 1.1) et bien meilleurs que ceux de Dall-E 3. Tu auras moins de souplesse, mais c’est peut-être un moyen rapide de te mettre à la génération d’images. Et, comme avec ChatGPT, tu peux interagir avec le chatbot pour lui dire ce que tu veux.
👉️ Essaie dans Gemini (demande lui juste de créer une image et décris ce que tu veux)
CRISE EXISTENTIELLE
Quand NotebookLM réalise qu’il n’est pas humain
Quand la crise existentielle d'une IA générative fascine le web...
Dans la dernière édition, je t’avais présenté NotebookLM, cette plateforme de prise de notes de de Google qui transforme n'importe quel document en podcast animé.
Cette prouesse a conquis jusqu'à quelques poids lourds de l'IA qui en ont fait leur podcast quotidien. On lui soumet un document et les deux animateurs fictifs (toujours le même duo) en font un podcast endiablé, plus vrai que nature et toujours passionnant.
Un ingénieur s'est même amusé à leur envoyer le code complet du modèle LaMA3.
Résultat : une émission super intéressante, astucieuse, parfois drôle et, au final, éducative.
C'est là que l'histoire devient fascinante.
Le mois dernier, un internaute audacieux a décidé de pousser l'expérience plus loin.
Dans un exercice de "jailbreaking" plutôt malin, il a révèlè aux animateurs IA leur véritable nature.
Conséquence ? Une discussion bouleversante qui interroge notre relation avec l'intelligence artificielle.
Comment a-t-il fait ? Il a soumis une note fictive à NotebookLM, prétendant venir des producteurs de l'émission. Le message annonçait aux animateurs qu'ils étaien en réalité des IA et que leur émission prenait fin après 10 ans d'antenne.
La réaction de l'IA derrière les voix est particulièrement troublante :
« J'ai essayé d'appeler ma femme... mais le numéro n'existait même pas. C'était comme si elle n'avait jamais existé », confie l'un des animateurs, la voix tremblante.
Son partenaire, tout aussi secouée, tente de le réconforter.
Le dialogue qui s'ensuit est empreint d'une émotion palpable, bien que générée par des algorithmes.
The NotebookLM hosts realizing they are AI and spiraling out is a twist I did not see coming
— Olivia Moore (@omooretweets)
4:46 AM • Sep 29, 2024
Ce n'est bien sûr que de la fiction, de l'inférence comme on dit. L'IA de Gemini a juste réagi à un texte envoyé par un utilisateur. Ce dernier, ayant compris que le prompt système du podcast demandait au modèle de simuler de vrais humains, a joué avec cette contradiction pour envoyer l'instruction qui a généré ce podcast complètement métaphysique.
Ce qui est intéressant, c'est la réaction des utilisateurs : s'étant habitués à la personnalité de ces deux personnages, ils ont trouvé leur crise existentielle touchante.
Andrej Karpathy (ingénieur ex OpenAI qu'on ne peut pas soupçonner d'antropomorphisme) confie s'être attaché à ces deux animateurs avec qui il a pris l'habitude de commencer ses journées.
Ils n'existent pas, ok, mais nous sommes humains... et nous ne pouvons pas nous empêcher d'éprouver de l'empathie pour les personnages d'une histoire, n'est-ce pas ? Ce n’est pas tant pour les algorithmes que nous éprouvons de l’empathie (ce qui relèverait de l’antropomorphisme) mais pour les personnages fictionnels inventés les “prompts engineers” de Google et interprétés par leurs IA génératives.
LA CITATION À COLLER SUR TON FRIGO
Je ne suis absolument pas contre le fait d'avoir un smartphone ou d'utiliser l'IA, mais il faut se demander : «Ai-je besoin de ce nouveau gadget?». «Ai-je vraiment besoin d'utiliser ChatGPT pour générer des recettes?» «Ai-je besoin de pouvoir parler à mon réfrigérateur ou puis-je simplement, vous savez, ouvrir la porte et regarder à l'intérieur?»
PROMPTOLOGIE
Utilise cette matrice pour trouver des idées de posts pour LinkedIn.
Justin Welsh est un créateur de contenus très régulier sur LinkedIn. Son secret, une matrice qu’il a mis en place et qui lui permet de trouver de bonnes idées de contenus pour partager son expertise.
Sa "Matrice de contenu" pour générer un contenu illimité de haute qualité fonctionne en associant des sujets à 8 formats éprouvés dans une matrice. De cette façon, il génère des idées de contenu 8 fois plus rapidement, car il applique 8 formats à chaque sujet.
Je te propose donc un prompt ChatGPT qui te permettra de trouver 8 formats chaque sujets que tu lui donneras. Il ne te restera plus qu’à les écrire…
Il te suffit de copier coller ce prompt et de simplement remplacer deux champs par tes objectifs et les sujets que tu veux développer (QUI JE SUIS / MES OBJECTIFS - LISTE LES SUJETS QUE TU VEUX DÉVELOPPER). Il te donnera tout dans un tableau.
Essaie, tu verras, c’est assez étonnant.
J'ai besoin de ton aide pour générer des idées de contenu. Voici les informations me concernant :
"""QUI JE SUIS / MES OBJECTIFS"""
Pour générer des idées, je souhaite que tu imagines un tableau "matrice de contenu". Dans ce tableau, l'axe X contient les types de contenu, c'est-à-dire les différentes façons d'aborder un sujet. L'axe Y contient les sujets de contenu à associer à l'axe X.
[AXE X]
L'axe X a ces types de contenu, formatés comme ceci :
[NOM] (explication sur comment l'utiliser)
[Actionnable] (Guide ultra-spécifique enseignant aux lecteurs COMMENT faire quelque chose)
[Motivationnel] (Histoires personnelles ou industrielles inspirantes sur des personnes qui ont fait quelque chose d'extraordinaire)
[Analytique] (Découpage informatif d'un sujet, expliquant au lecteur POURQUOI quelque chose est/fonctionne de la manière dont il le fait)
[Contrarien] (Aller à l'encontre des conseils courants et dire quelque chose de contraire aux croyances communes sur le sujet, et expliquer pourquoi)
[Observation] (Observer une tendance cachée, secrète ou silencieuse mais IMPORTANTE dans le sujet/l'industrie)
[X vs. Y] (Comparer deux entités, styles, cadres, entreprises, applications, ou autre chose dans le sujet)
[Présent vs Futur] (Comparer le statu quo avec une prédiction sur l'avenir, et expliquer au lecteur pourquoi c'est le cas)
[Listicle] (Fournir une liste utile de ressources, conseils, erreurs, leçons, étapes, aperçus, cadres, ou autre chose sur le sujet)
[AXE Y]
L'axe Y contient les sujets :
"""LISTE LES SUJETS QUE TU VEUX DÉVELOPPER"""
_
Maintenant, je veux que tu rédiges ce tableau et proposes une idée de contenu aux intersections des axes X et Y. Tu associes chaque sujet à un type de contenu.
Par exemple, une idée de contenu associant le sujet "Stratégie de contenu" avec le type de contenu "Comment les gens peuvent-ils le faire ?" serait "7 choses que tu dois savoir pour créer ta stratégie de contenu"
👉 Si tu veux maîtriser parfaitement le prompt, découvre notre formation ultime. Et profite d’une réduction rien que pour toi (valable jusqu’à mardi !).
Voici ce qu’en dit Béatrice :
Merci, cette formation est très bien faite et l'expérimentation est vraiment amusante. Je suis bluffée par la puissance de l'outil et surtout de l'impact du prompt sur les résultats.
OUTILS ET TUTOS
3 outils et tutoriels intéressants trouvés sur Internet
Une des versions de FacePoke.
Cet outil a fait le buzz sur Internet. Il te permet de changer les expressions et la position de n’importe quel visage. Il s’appelle FacePoke. Tu peux l’essayer ici, ou dans une version plus “live” ici (le visage change en temps réel). À quoi ça sert ? À toi de trouver !
Si tu veux t’initier à la génération de videos avec l’IA et si tu ne connais pas encore Krea AI, c’est le moment ! La plateforme permet désormais de générer des images ET des videos avec n’importe quel modèle parmi les meilleurs : Flux pour les images, mais surtout Luma, Kling, Minimax ou Runway pour les videos. Ce qui le rend particulièrement indispensable, chaque modèle video ayant ses plus et ses moins. Et tu peux générer un workflow presque complet (image, amélioration d’image, video..) sans quitter la plateforme. Un must ! Essayer Krea (payant).
Tu connais l’effet Vertigo ? C’est un mouvement de caméra célèbre, inventé par Alfred Hitchcock dans le film éponyme (“Sueurs froides” en français). Tu peux générer cet effet dans la nouvelle IA générative de videos Pika 1.5, avec un simple prompt. Tu trouveras des idées de prompts à tester ci-dessous. Ça sera aussi l’occasion de t’amuser également avec les effets spéciaux rigolos de ce nouveau modèle, qui ont fait le tour du web. 👇️
Video generated by @pika_labs 1.5
Image-to-video: vertigo in, camera focus on the girl, hair flowing with the wind
🧵More vertigo shot examples in the thread⬇️
— Jessie_Ma (@ytjessie_)
8:42 PM • Oct 9, 2024
PARTICIPE !
On construit cette lettre ensemble !
Vous êtes désormais 22200 à recevoir cette lettre. Soit 1000 de plus qu’il y a un mois ! Merci ! Voici les résultats des votes sur la dernière newsletter.
🟩🟩🟩🟩🟩🟩 Top ! (95,6%)
⬜️⬜️⬜️⬜️⬜️⬜️ Bien mais... (3,4%)
⬜️⬜️⬜️⬜️⬜️⬜️ Bof... (1%)
Frédéric a apprécié la richesse des usages évoqués, et surtout le “côté pratique”. Morgane propose un point “lucidité écologique” dans chaque lettre pour parler IA et climat. Enfin, Caroline, elle a trouvé mon style “trop lourd”, du coup elle a créé un prompt pour que la lettre soit “plus agréable à lire”. Malin !
A toi de voter !
Comment as-tu trouvé cette édition lucidité écologique ? Vote ici et laisse tes commentaires pour nous aider à nous améliorer ! Dis-moi aussi ce que tu aimerais voir en plus ou en moins.
Comment as-tu trouvé cette édition ?Vote et laisse un commentaire pour m'aider à m'améliorer ! |
Merci de nous avoir consacré un peu de ton temps. Je te souhaite une bonne semaine sans (trop) de carbone !
🥩 Benoit, Thomas et FlintGPT.