IA, éthique, tout ça

Pour éviter d’avoir a regarder la playlist proposé par @blind_man , je te propose juste cette vidéo:

Et en partant de cette video, je regarde les autres vidéo de monsieurphi et il explique, comme plusieurs personnes ici, que les LLMs ont évolué de ouf depuis 2 ans, et qu’il ne faut pas rester bloqué comme un certain spécialiste de l’IA:

Et pas mal d’arguments du gars, c’est des arguments que je sortais en 2025 et qu’il faudrait a minima mitiger.

Et ca me fait penser a cette vidéo de Will Smith au tout début des algo « d’IA » génerative d’image: ca evolue très très vite, et on peut vite se retrouver has been sur les sujets « populaires » lié aux LLMs et aux générateurs d’images dopées a l’IA

1 « J'aime »

Je te conseille de jeter un oeil à la 6eme video de la playlist que j’ai posté au dessus.

Oui bien sur que les LLM ne sont pas l’etape ultime pour avoir un systeme totalement intelligent (c’est meme tres certainement une voie sans issu) mais on ne fait pas non plus que de la “bidouille” depuis plusieurs années.

Tu dis bidouille par ce que j’ai dit gloubiboulga :sweat_smile: ?

Oui c’est mon coté LLM qui me pousse à utiliser des mots proches des messages auquels je reponds :sweat_smile:
Plus serieusement c’etait plus par rapport à ton analogie avec la perceuse. Mais bon je pense qu’on est d’accord que le probleme principal n’est pas les capacités réels des modeles actuels mais plutot tout le “bruit” qu’il y a sur le sujet entre les discours marketing, les articles ecrits par des personne n’y connaissant pas grand chose et les faux experts à qui on déroule le tapis rouge. Par contre ca n’interdit pas de continuer à s’interresser au sujet en essayant de trouver des sources fiables, pour justement rester à jour sur leur capacité reelles et comprendre leurs vraies limitations et donc leurs vrais cas d’usage pertinants.

1 « J'aime »

Tu peux dire ce que tu veux sur les améliorations des modèles, peut-être qu’il faut attendre ChatGPT 6 et ses concurrents, mais factuellement, aujourd’hui, le résultat de prompts simples montre que le système ne raisonne pas et se contredit.

On peut effectivement pallier à plein de types de travers des LLM, via des prompts bien blindés de “consignes”, reste que ben si, ce n’est toujours que de la génération de texte sans raisonnement, sans déterminer le vrai sens du prompt.

Ca reste très fort, ce n’est juste pas adapté, malgré tous les paramétrages intégrés au forceps, à des questions/réponses.

11 « J'aime »

c’est de ça dont tu parles j’imagine:

ben il m’a fallut 2 essais pour donner une bonne réponse… bouh je suis plus nul qu’un LLM :rofl:

oui c’est bien ca. (j’en ai d’ailleurs parlé deja de nombreuses fois dans ce thread)

Pour info ils preparent une version 3 qui est sur la capacité à jouer à des jeux totalement originaux.

Tu peux tester les quelques jeux qu’ils ont mis à disposition publiquement pour le moment. (Les jeux sur lesquels les modeles seront évalués ne seront bien sur jamais publié publiquement pour pas qu’il puisse y avoir de triche)

Ils esperent que cette version du bench resistera mieux aux LLM. Depuis le debut le but de ce bench est de pousser la recherche à explorer de nouvelles directions en proposant des taches impossible à resoudre pour les architectures actuelles. Et attention la le bench est totalement different de ce qu’avait fait deepmind il y a quelques années en faisant un modele qui apprenait à jouer aux jeux atari en s entrainant sur des millions de partie. La on vise un systeme capable de jouer à un jeu avec des concepts jamais vu.

Francois Chollet pensait que la version 1 et encore plus la version 2 resisterait totalement aux LLM. Les avancés recentes sur les “reasoning model” ont permis aux LLM d’obtenir des scores tres bon sur les deux premieres version du bench. Il propose donc cette nouvelle version qui elle devrait vraiment resister aux LLM quelles que soient les “bidouilles” qu’on met autour.
Par contre le but de ce bench n’est pas de dire “si un systeme est tres performant sur ce bench” ca veut dire que l’AGI est atteinte mais plutot de dire que si on veut concevoir un systeme qui nous amene vers l’AGI il faut qu’il soit au moins capable de resoudre les taches proposées dans ces benchs

Si je pouvais, je likerais ce post plusieurs fois. :grin:

Il faut faire une demande d’évolution chez Discourse :grin:

1 « J'aime »

Tu balances pas mal de conneries pour un expert, par rapport à ce que je lis partout. Mais très concrètement, commence par utiliser l’IA (ou pas) pour poster avec des accents et des majuscules sinon tu vas voir qu’avec juste un script de base on peut être super efficace ici. :grimacing: (et oui, j’ai viré ton dernier message insultant.)

Bon sinon :

4 « J'aime »

En tout cas, faudrait le dire a google que ca peut raisonner leur IA:

5 « J'aime »

Et dire qu’ils veulent faire payer ce genre de requête générée…

hier soir, reportage au JT de France2 sur les soldes. Plusieurs arrières plans me font tiquer :

  • mouvement au ralenti
  • trop de détails typés “année 70”

et bingo, c’était bien de l’IA :

Faut-il s’en émouvoir?

Hier j’ai fait une présentation des outils IA (de la simple régression en passant par les HMM et autre CNN jusqu’au GPT) a mon board d’administration.

Je n’ai eu des questions que sur la partie GPT. Même quand on évoque le cout (en euro, temps humain et environnemental) face a la même chose en mode stats / proba a l’ancienne, y en avait que pour l’IA générative et bien sur que pour OpenAI (exit les petits modèle en local).

Faut-il s’en émouvoir? Bin oui, quand on peut faire la même chose sans bruler la planète…

2 « J'aime »

C’était mon sentiment en voyant ce truc : une forme de dégoût de constater qu’un média national utilise un outil dont on sait qu’il est mauvais pour la planète.

Par ailleurs, ça m’exaspère de voir des “journalistes” faire autant de mise en scène pour illustrer un sujet. Des images d’archive auraient suffit (présentes dans le reportage mais pas majoritairement).

Le besoin de faire du spectacle sans avoir à payer un graphiste ou des comédiens ne va vraiment pas dans le bon sens.

7 « J'aime »

J’aurais beaucoup à dire sur tous ces derniers messages qui entre notamment toi @dff180 et @blind_man, mais j’ai vraiment pas le temps de rentrer dans les détails.

Par contre, je me permets juste de rappler que ça s’applique pleinement et massivement aux humains aussi. Juste un simple rappel. C’est pas juste pour le lol; si la capacité moyenne d’un humain moyen à raisonner logiquement, planifier une réponse complexe et offrir le tout avec cohérence, est le benchmark par lequel on juge tout ça, on se trompe clairement d’échelle.

Pas faux, peut-être que les LLM pour l’instant raisonnent comme des enfants de 3 ans (ils retiennent quelques mots de ce qu’on leur dit), mais avec un vocabulaire d’académiciens (ils peuvent en pondre un roman bien chiadé) et un noyage de poisson que ne renierait pas un politique (ca ne répond pas vraiment à la question mais débite la ligne du parti) :grinning_face_with_smiling_eyes:

Très bon édito d’Ambroise Garel dans le Pavé Numérique (d’ailleurs, vous savez que j’ai des abonnements à donner ?)

Édito qui ouvre des réflexions sur l’usage des IA, sous un angle humain, histoire de dépasser les « mdr, Chat Gpt il se trompe quand on lui demande la date de naissance de Victor Hugo » (Oui, Luc Julia, c’est toi que je regarde en fronçant les sourcils)

Édito

Par Ambroise Garel

La semaine dernière, Libération a publié une série de portraits de personnes qui ont choisi, pour diverses raisons, d’entamer une « relation » avec une IA. Portraits intéressants, déjà, par les réactions qu’ils ont suscitées sur les réseaux sociaux : pas mal de colère (on pourrait écrire une variation de la loi de Betteridge qui dirait : « La réponse à la question posée par tout article qui demande “pourquoi des gens choisissent de fréquenter des IA plutôt que des êtres humains ?” se trouve dans les commentaires sous cet article »), mais surtout la recherche d’explications simples à leur choix d’avoir eu recours à ce qui ne pouvait être qu’un pis-aller. C’était forcément parce qu’ils allaient mal, parce qu’ils étaient isolés, parce que les hommes hétéros sont décevants.

Pourtant, s’il fallait à tout prix trouver un point commun à tous ces témoignages, il était ailleurs. Ce que l’IA leur apportait, ce que ces personnes recherchaient dans ces relations, était ce qu’aucun humain ne pourrait leur offrir : être disponible à toute heure après avoir été ignorée pendant deux semaines sans rien exiger en retour, écouter leurs pensées les plus honteuses sans jamais les juger, être capable de leur dire « oui, je comprends parfaitement ce que tu traverses » pendant leur dépression ou leur cancer. Bref, ce que les personnes interrogées par Libé recherchaient n’était pas un substitut à une relation humaine ordinaire (nombre d’entre elles étant par ailleurs déjà en couple avec un être humain) mais autre chose : une relation parfaite, idéale, dans laquelle on peut s’abandonner totalement sans risquer de devenir l’objet de l’autre puisque l’autre en question n’a aucune intention sinon celle de nous valider et de nous faire plaisir. Un mode de relation que certains pourront juger régressif, voire dangereux (il y a en effet de quoi se poser quelques questions), mais en tout cas une relation d’un genre différent, qui à un moment de leur vie leur a apporté quelque chose qu’ils et elles ne pouvaient trouver ailleurs.

Ce qui, à mon sens, montre les limites d’un discours critique très répandu sur l’IA générative, qui ne conçoit ses usages que comme autant de substituts à des expériences définies comme « authentiques ». Je pense notamment à cet article de Pauline Harmange qui a beaucoup tourné dernièrement, très intéressant sur bien des points (je vous encourage vraiment à le lire) mais qui lui aussi oppose les expériences et productions réelles, celles qui nécessitent un effort(relations avec une vraie personne, dessin à la main, etc.), à celles produites par l’IA générative, par essence pré-mâchées et dépourvues de valeur et de créativité. Conception qui non seulement repose sur une vision idéalisée de la création traditionnelle et une piètre idée de l’humanité, qui a toujours été capable d’investir de façon créative les nouveaux outils mis à sa disposition, mais fait surtout totalement l’impasse sur la possibilité que les expériences procurées par l’IA ne soient pas forcément moins authentiques parce que plus rapides, pas forcément des ersatz auxquels on n’a recours que parce qu’on est aliéné, feignant ou terrifié à l’idée de se cogner au réel, mais des activités sui generis, que l’on peut désirer pour ce qu’elles sont.

Tout comme avoir une relation avec une IA n’est pas seulement « avoir un petit copain sans petit copain » mais un autre type de relation, prompter n’est pas uniquement « dessiner sans avoir à dessiner » mais une activité dont on peut tirer une satisfaction particulière. Ayant un peu fait mumuse avec StableDiffusion et MidJourney à leurs débuts, j’ai passé des soirées à m’amuser à chercher quel prompt produirait quel effet, à étudier les conséquences que le changement d’un mot aurait sur le résultat final, à découvrir et à combiner les formes qui surgissaient de la machine, cela alors que je n’ai jamais su ni souhaité apprendre à dessiner. Je ne prétendais d’ailleurs pas dessiner en utilisant ces outils. Je faisais autre chose.

La distinction est importante, car à réduire, comme on le fait souvent, les utilisateurs d’IA au pire à de pauvres débiles (des incelstout juste bons à générer du hentai en boucle), au mieux à d’impuissantes victimes de l’aliénation capitaliste que les LLM priveraient d’expériences humaines et créatives authentiques, on oublie de se dire que peut-être, tout simplement, ils apprécient l’usage de ces outils et en tirent quelque chose qu’ils ne pourraient trouver ailleurs, et que ce quelque chose explique le succès des outils en question. Mais on en parlera une prochaine fois, ma bonne résolution 2026 est de faire des éditos plus courts.

Edit : le lien vers la publication :

3 « J'aime »

C’est pas sa première sortie de route sur le sujet, au moins il est cohérent dans les takes éclatées et la caricature.

5 « J'aime »

Je n’ai jamais compris cet argument : les humains sont faillibles, l’IA est faillible donc l’IA est aussi intelligente que les humains. CQFD.

L’IA ce n’est qu’un agrégat de probabilité de ce qu’on dit les gens sur internet. Pour que l’IA soit un outil valable il faudrait que chaque réponse passe un filtre de calibration et d’authentification par des pairs ayant la connaissance idoine dans chaque domaine. Donc utilisable en labo. Mais pas par le commun des mortels sans filtre.

Si on fait une interrogation au sens scolaire du terme il n’a clairement pas la moyenne, un lycéen de base fait mieux.