J'ai l'impression qu'on entend ce discours à chaque grande évolution technologique. On l'a eu avec les machines à coudre face à la couture manuelle, les langages de haut niveau face au code bas niveau avec le dessin numérique face au dessin sur papier et dans bien d'autres domaines.
En général, lorsqu'un nouvel outil apporte un gain réel, on ne revient jamais vraiment en arrière. il ne disparaitra jamais complétement il s'adaptera pour rester accessible. sauf crise majeur mais là ce sera un autre problème qui touchera l'ensemble de la population.
À mes yeux, la vraie question n'est donc pas de savoir si nous allons devenir dépendants de l'IA. Nous sommes déjà dépendants de nombreux outils et technologies. La question est plutôt : quel est le bon usage de cet outil, quelles compétences devons-nous conserver, et comment éviter qu'il remplace totalement notre compréhension des problèmes qu'il nous aide à résoudre ?
S'il y avait des chances que les outils IA actuels soient pérennes, dans la situation telle qu'elle est actuellement, je serais 100% d'accord. Ce serait insensé d'utiliser des chevaux pour porter des charges lourdes alors qu'on a inventé le train et la machine à vapeur. Ce sont des inventions qui n'ont aucune chance de disparaitre. L'IA telle qu'elle est actuellement, ça repose sur un équilibre mondial extrêmement fragile. Les modèles qui tournent en local ne sont pas comparables à des clusters d'énormes serveurs avec des centaines de Go de mémoire.
Les modèles open weights vont continuer à exister, ou en tous cas au moins ceux qui tournent sur du matos raisonnable, avec des perfs acceptables. Cependant, ces petits modèles efficaces, ça revient à essayer de faire des livraisons avec une Twingo, plutôt qu'un semi remorque. Tu pourras peut-être y arriver, mais c'est tellement inefficace que le gain n'est pas forcément évident.
Pour les usages je ne parlais pas directement du dev. Je travaille sur un logiciel qui permet de designer des maisons. Avant pour avoir des visuels finaux de qualité, les utilisateurs passaient pas mal de temps à aménager le jardin et l'intérieur de la maison. Cela prenait du temps ; là du coup on arrive à leu réduire leur temps de création de projet d'environ 30mn, ce qui correspond à environ de 25% du temps de création.
Est ce que ça résistera à l'inflation du cout du token ? Pour l'instant le coup est très éloigné du gain, il y a de la possibilité pour encaisser. Et on a des scénarios de mitigations pour toute cette histoire.
Sur la partie dev, cela marche plutôt pas trop mal, mais je prompte que quand je sais exactement ce qui doit être fait. La relecture après me permet de rectifier à la main, voir de rollbacker pour obtenir le résultat souhaité.
Après je connais un gars qui dirige une scale up, il m'explique qu'il est passé à de 150 dev à 65 (globalement en ne gardant que des seniors) et qu'ils développent 2 à 3x plus vite qu'avant. J'avoue que là j'ai un sourcil qui se relève.
Moi quand je parle avec pas mal de dev, je sens qu'on a quand même une grosse vague de risques psycho sociaux qui se pointent. J'ai même entendu des boites où tu as genre un commissaire politique qui est là pour être sur d'appliquer "la nouvelle politique".
Ce sont des conversations compliquées, et difficile à avoir tant les avis sont polarisés.
Ha ben la on va rigoler quand le prix des tokens va faire x10
Perso, je rigole deja quand au taff ils nous disent que bon, opus 4.7 c'est plus possible. C'est trop cher. Et combien ca aime pas qu'on leur dise "ha ben nan, je peux plus coder aussi vite avec les autres". Bref, merci a tous pour les retours!
Vu la vitesse à laquelle le domaine évolue, je pense que les modèles locaux spécialisés vont continuer à s'améliorer. Les nouvelles générations de processeurs, que ce soit chez Apple, NVIDIA ou d'autres acteurs, vont probablement se démarquer par leur capacité à faire tourner ces modèles efficacement sur des machines personnelles.
Même s'il y a un ralentissement dans la progression des performances brutes, je ne pense pas que nous reviendrons en arrière ni que nous perdrons le niveau actuel. L'industrie trouvera sans doute des moyens d'améliorer l'efficacité, en optimisant les architectures, les méthodes d'entraînement et les coûts de calcul.
On voit déjà cette tendance avec des modèles comme DeepSeek, qui cherchent à obtenir des résultats comparables aux plus gros modèles tout en réduisant les ressources nécessaires à leur entraînement et à leur utilisation. La course ne porte plus seulement sur la puissance, mais aussi sur l'efficience.
l'histoire montre que lorsqu'une technologie s'impose et apporte une valeur économique ou sociale importante, qu'elles soient réel ou pas, beaucoup d'efforts sont déployés pour la maintenir viable.
L'optimisation est souvent l'un des derniers grands leviers exploités. Tant qu'il est possible d'augmenter les ressources ou les investissements, les acteurs du secteur privilégient généralement cette voie. Mais lorsque les limites économiques ou techniques se rapprochent, l'efficacité devient soudain une priorité.
L'aviation, l'informatique, Internet, l'énergie solaire, la voiture électrique et bien d'autres technologies ont nécessité des investissements colossaux à leurs débuts, sans aucune garantie qu'elles seraient un jour adoptées massivement. Pourtant, une fois que des sommes énormes ont été engagées, industriels, investisseurs et États ont tout mis en œuvre pour favoriser leur développement, réduire leurs coûts et accélérer leur adoption. Lorsqu'un secteur mobilise autant de capitaux, l'objectif est évidemment d'obtenir un retour sur investissement et imposer la technologie coûte que coûte.
Rien qui se chiffrait en milliers de milliards de dollars.
Ca commence bien comme argument.
L'aviation => Mouais, je penses que les premiers gus avec leurs avions bricolés, c'etait pas des investissement colossaux.
L'informatique => des trucs faits par des passionnés dans le garage de leurs parents, alors ok, ya eu des "investissements" de la part de leurs parents, mais on est loin d'etre colossal.
Internet => Le truc developé par l'armée US ? Qui au final a mené a la bulle internet des années 2000 ?
L'énergie solaire => bon, la OK, le big bang et creer des etoiles, c'etait du lourd.
La voiture electrique => la premiere voiture etait electrique. Pareil, pas de l'investissement colossal.
Aucun des exemples que tu cites n'a jamais été un investissement aussi colossal que l'IA.
Aucun des exemples n'a jamais été aussi impactant environnementalement parlant a ses debuts. (On peux arguer a terme pour la voiture (ICE) et l'aviation, mais c'est plus la mise a l'echelle qui fout le zbeul)
Aucun des exemples n'a jamais eu recours a l'optimisation "en dernier recours", ca a toujours été des precurseurs, et l'optimisation a toujours fait partie du processus.
Alors, ca ca s'appelle Sunk Cost Fallacy, et bon, c'est encore une fois pas forcement reluisant comme biais psychologique, en plus de ne pas etre un argument vraiment utile.
Pour la fin, on y arrive, c'est la panique a bord tellement le ROI est minuscule. Ca va aller gratter la thune partout ou ca peut, ca va pas s'arreter de scale et ca va devenir de plus en plus problematique et couteux. On va bien rigololer (non).
Euh non. Sans investissement dans les processeurs jamais tes gars auraient monté des ordis dans leur garage.
La premiere voiture électrique (le fardier de cugnot tournait à la vapeur) n'est jamais passée à l'échelle industrielle. Il n'y a qu'à voir les montants aujourd'hui nécessaires pour les constructeurs.
Pareil l'aéronautique c'etait pas un loisir d'ouvrier (deja trouve ton moteur hein)
Totalement Ok sur les montants débiles sur l'IA mais ne pas non plus comparer des choux avec des carottes et faire des raccourcis ou alors mieux sélectionner les exemples.
L'IA aussi a commencé modestement, avec des chercheurs qui expérimentaient dans des laboratoires. Ce dont je parle c'est des changement d'échelle : des investissements gigantesques sont réalisés pour transformer une technologie utilisée par quelques spécialistes en un outil déployé à grande échelle.
Mes exemples ne sont peut-être pas parfaits, mais l'idée de fond est qu'une fois que des capitaux massifs ont été investis dans une technologie, il est rare que nos systèmes économiques fassent marche arrière du jour au lendemain. Cela ne signifie pas que tous les acteurs survivront. La bulle actuelle éclatera probablement sous une forme ou une autre, comme cela s'est produit pour Internet au début des années 2000. Mais certains acteurs survivront, s'adapteront et trouveront des modèles économiques viables, notamment parce que la pression financière est énorme.
Comme je l'ai déjà dis,je pense que l'IA évoluera progressivement vers des modèles différent plus petits, plus spécialisés et plus efficaces que ceux que l'on voit aujourd'hui. Cela pourrait réduire une partie des coûts matériels et énergétiques. Mais on risque clairement l'effet rebond : si l'usage devient moins cher, il risque aussi de devenir encore plus massif.
J'ai donc du mal à imaginer une disparition brutale de l'IA. Je vois plutôt une réorganisation du secteur, avec des gagnants, des perdants et des conséquences environnementales et sociétales qui seront plus que probablement énorme, mais il le feront car les intérêts économiques en jeu sont tels qu'il est difficile d'imaginer un abandon rapide de cette technologie. Sauf si des contestations sociales ou politique de grande ampleur vient remettre en cause cette trajectoire.
J'avoue que je préférerais un monde sans IA. Mais maintenant qu'elle est là, je ne crois pas qu'elle va disparaître. Comme pour beaucoup d'autres technologies, elle va surtout s'imposer, et nous devrons apprendre à vivre avec, qu'on l'ait souhaité ou non.
L'IA ne disparaîtra pas, on ne peut pas la dé-inventer, mais les coûts monumentaux de son utilisation feront qu'il y aura certainement un reflux, et davantage si un accident majeur se produit (laisser les clés à une IA sans contrôle de son action ou sans contrôle du code).
Sans parler des conséquences déjà visibles dans le monde de l'éducation et de l'entreprise où l'IA n'est censé être qu'un outil complémentaire, ce que je peux comprendre en partie (mais que je n'accepte pas dans l'éducation), mais qu'on pousse à utiliser à fond par idéologie. Cf les sortes de commissaires politiques d'il y a quelques messages.
Presque n'importe qui peut construire un ULM dans son jardin, mais un modèle d'apprentissage généraliste demande beaucoup plus d'énergie.
La grosse différence avec les vagues technologiques précédentes, c'est qu'elle touche particulièrement Geekzone. Je ne pense pas pas me tromper en disant que la majorité d'entre nous ont des métiers très théoriques, justement ceux que l'IA va impacter le plus. Il y a 20 ans, on se sentait invincibles en tapotant avec nos petits doigts sur un clavier. Cette fois, c'est nous la couturière et le gérant de vidéo-club.
Alors non pas au début de l'histoire de l'aviation. Et aujourd'hui, si quelqu'un peut tout a fait instancier un modèle ia chez soi. Certes à plus petite échelle mais en même temps n'importe qui ne peut pas construire un a380 dans son jardin non plus (les deux sont des aéronefs). Enfin n'oublions pas que si on peut construire un ulm en kit c'est grâce aux montants consentis à une époque pour faire avancer la connaissance et l'ingénierie nécessaires permettant par la suite sa "démocratisation".
Ce qe voulais signaler par rapport au message auquel je repondais c'est qu'il est facile d'oublier les investissements qui ont été nécessaires à un moment pour avancer sur certains sujets ( on en parle de la course à l'espace ?). Ca ne veut pas dire que ca justifie les sommes débiles utilisées pour l'IA mais ce n'est pas non plus un argument de comparaison.
Tu parles de quoi? Utiliser un modèle ouvert ou construire from scratch un llm ?
C’est deux choses complètement différentes et obtenir un llm fonctionnel from scratch c’est juste impossible avec le matériel « domestique ».
Utiliser un modèle ouvert, c’est pas utiliser un modèle open source. Tu es soumis au choix du providfinetuning n’est pas magique pour « dé-editorialiser » le modèle.
