Désolé, mais la surconsommation/pollution liée aux besoins materiels, c’est peut-être abusée, difficile de raisonner les gens, mais ça reste à la base une nécessité. Ne pas parvenir a faire baisser le gâchis textile ou assimilé ne peut pas justifier qu’on fasse pire ailleurs.
Ce qui se passe aujourd’hui va peut-être permettre à terme de faire de gros progrès sur l’IA, en attendant, ca reste peu concret et la dépense énergétique s’apparente plus à celle du mining de cryptomonnaies qu’à de la recherche efficiente.
On crame de plus en plus vite nos ressources, sans respecter aucun des accords qui visent à ralentir l’inévitable, alors non, ce n’est vraiment pas ni éthique ni pardonnable de laisser ces grosses boîtes se jeter à milliards perdus dans cette hérésie. Surtout pour ce résultat.
Tu lui as demandé de te le sortir en json avec 2 fields comme tu veux?
Je parie qu’il y arrivera.
Mais ça tombe bien: y’a pas besoin de choisir puisque l’un n’exclut pas l’autre.
Les deux sont des aberrations écologiques et économiques qui vont à l’encontre de nos engagements.
Ils devraient donc tous les deux être drastiquement diminués plutot que de faire l’objet d’investissement spéculatif massif comme c’est le cas actuellement.
Si vous voulez tuer des ours polaires pour faire des sites web au look des années 2000 : https://websim.ai/
Bon je vais résumer un peu ma pensée. Je n’ai jamais nié que la consommation énergétique pour l’entrainement ou l’inférence des gros llm était un problème. Je n’ai jamais non plus soutenu que chatgpt était un miracle divin avec des débouchés incalculables. J’ai par contre voulu nuancer certain point de vue qui disait que « l’ia » dans son ensemble était de la merde et une aberration totale. J’ai essayé de donner des exemples et de faire des comparaisons avec d’autres secteurs (avec bien sur les limites qu’ont toujours ce type de comparaisons) pour montrer que tout n’était pas noir ou blanc.
Visiblement je m’y prend toujours mal, je repasserai peut être de temps en temps poster un lien vers un article confirmant que l’ia est de la merde.
Et merci pour l’explication que pour tenir les engagements sur le climat il faut réduire à la fois la fast fashion mais aussi la tech dans son ensemble…je suis au courant (je disais juste que SI je devais choisir, l’impact de la fast fashion me parait moins justifiable que celui de la tech de part mon coté geek). Mais si on prend tous les sujets à travers cet angle, les discussions risquent de ne pas être très riches puisque la « bonne réponse » sera toujours : « non il faut pas le faire ca consomme trop d’énergie et de ressources ». (pour info il y a plus de gpu qui tournent dans les pc ou console des gamers à travers le monde que dans les datacenter. et tout ca juste pour jouer…n’oubliez pas de le rappeler sur le thread des jeux du moment, sur celui de changement de config, ah et aussi sur celui sur les voitures qui embarquent aussi des gros gpu pour avoir un joli gps en 3d )
En nombre c’est fort probable.
En énergie consommé, je veux bien des chiffres.
Et je disais juste que cette hypothèse n’avait aucun sens puisque il n’y a pas à choisir. (J’en peux plus d’entendre chaque particulier, chaque groupe social, chaque Industrie, et chaque pays expliquer que selon ses critères personnels, sa pollution est d’avantage justifiable que celle des autres et que c’est donc aux autres de faire des efforts)
Ben, dans la situation actuelle, oui, ça me paraît pas totalement con d’admettre que peut-être nous faudrait-il basculer une part plus importante de nos compétences et nos ressources vers la transition énergétique…
Voilà, tout pareil que le panda 
Beaucoup de « whataboutism » dans ton propos, pas sûr que ça aide à faire avancer le débat (c’est généralement un signe qu’on est à court d’arguments).
n’oubliez pas de le rappeler sur le thread des jeux du moment, sur celui de changement de config, ah et aussi sur celui sur les voitures qui embarquent aussi des gros gpu pour avoir un joli gps en 3d )
Ben ce qu’il y a, c’est que le sujet n’est pas juste sur l’IA mais sur l’IA et ses enjeux éthiques. Après ça serait pas inintéressant de faire un sujet sur les enjeux éthiques du jeu vidéo et des voitures, voire du numérique en général, mais on ne peut pas reprocher à ce sujet de se focaliser sur les enjeux éthiques quand c’est dans le titre.
Les consoles, ça tourne en moyenne 21h par mois chez les jeunes qui jouent à des jeux d’aventure, un des types de jeux qui accroche le plus les joueurs. Les jeunes sont le groupe qui joue le plus. Si on prend que les PS5, c’est 50 millions. Ça consomme 200W en pic, mais on peut prendre ça comme référence.
On est donc à 210 GWh par mois, soit 2,5 TWh par an. C’est probablement au dessus de la réalité, mais pas plus qu’un facteur 10 ou 20.
L’entraînement de ChatGPT 3, c’était 1.3 GWh. On peut imaginer facilement que la conso de ChatGPT 4 est plus élevée, mais pas 1000 fois plus élevée
Power use in training LLMs 2022 | Statista.
J’ai pas trouvé d’info sur la conso quotidienne pour faire tourner les requêtes, hors entraînement.
C’est pas un calcul parfait, mais ça donne des ordres de grandeur. Les LLM sont quand même largement plus bas, surtout que tout le monde n’a pas les ressources pour entraîner un ChatGPT ou équivalent.
Toutes ces ressources pour seulement 21h / mois ??
/s
Vu ce que demande llama en local, c’est vraiment pas énorme. Face a l’entrainement c’est surement meme négligeable.
Cet article ci parle de 85 à 134 TWh/an pour l’IA (vu qu’on ne peut pas prendre uniquement en compte l’énergie pour entrainer les llm). C’est largement plus que l’estimation pour les consoles du coup.
Merci d’éviter de poster des one-liner sans intérêt (j’ai supprimé), le thread est déjà difficile à maintenir hors de la zone de baston, pas la peine d’en rajouter. 
Merci pour ces stats intéressantes, qui permettent de relativiser.
Mais je pense que le calcul reste trop grossier pour donner même une idee de l’ordre de grandeur.
Par exemple, un autre calcul de coin de table (qui ne vaut pas tellement mieux que les précédents):
NVIDIA prévoit la livraison de 1,5 millions de ses plateformes « AI » DGX A100 et H100 d’ici 2027. Avec une conso de respectivement 6,2 et 10,5kW, ça signifie, pour ces seuls composants, une consommation globale de 12GW.
Pour des setups conçus pour tourner 24/7, c’est donc 105TWh annuel.
Mais là encore, le calcul reste très grossier et pourrai être erroné dans une très large mesure.
While we are usually interested in technology and try to remain optimistic about this field, we feel it’s necessary to speak out about the unbearable hype-cycle that generative AI has brought with it. A hype-cycle that has originated by stealing creative work, and now wishes to further damage creative energy by funnelling it into an automated content-creation nightmare.
Et aussi :
Frankly, storytelling “without the need for personal content creation” sounds horrible. Storytelling is personal. It is a connection between the writer and the reader. Without this personal connection, storytelling loses its purpose.
Ouai enfin si on va par la ces GPU tourneront en super majoritaire dans des data centers de cloud providers qui ont un mix énergétique en general beaucoup plus propre que la ou tournent les consoles qui tournent au charbon chez plein de la population… Si tu compares par exemples dans ce que je connais (pour pas parler dans le vide plus que pour faire un quelconque pub, c’est dans le meme ton chez les concurrents), ben AWS ils sont a 100% d’énergie de source renouvelables pour leur data-centers sur 19 regions de leur regions (toutes l’année prochaine) et le premier investisseur mondial d’énergies renouvelables. L’équation change si on matte l’actuelle empreinte carbone et les investissements d’une industrie qui fait plus d’effort pour réduire son empreinte CO2 que quasi n’importe laquelle, ou on fait juste feu de tout bois pour faire anti-truc?
Comparaisons en bois.
À cause de ça les GAFAM sont en train de revenir en arrière sur leurs avancées en termes de décarbonation justement.
Google’s carbon footprint balloons in its Gemini AI era - The Verge
Microsoft’s AI obsession is jeopardizing its climate ambitions - The Verge
On est bien d’accord sur cette conclusion.
Dis-ça à celui qui a amener cette comparaison dans la discussion…
Je précise juste que l’abruti qui a fait cette comparaison ne l’a pas faite pour le plaisir de faire du whataboutisme mais juste pour souligner le fait que si on ramène tout à « ca consomme trop » on peut le faire sur tous les sujets (tout comme dire que certaines valorisation d’entreprise de la tech n’ont aucun sens par rapport aux réalités des débouchés des technos. ca a toujours existé je vois pas pourquoi ca serait diffèrent avec « l"ia ») . On est je pense tous d’accord ici et très conscient du drame écologique dont on est témoin donc ca ne sert pas à grand chose d’en reparler en permanence quelque soit le sujet, ignorant à coté d’autres enjeux (0 clic sur mon lien de l’expérimentation de vidéo intelligente). Mais pas d’inquiétudes je ne pourrirai plus votre thread.