IA, éthique, tout ça

Un peu dommage qu'une responsable politique ne se pose pas ces questions en rédigeant l'article et en publiant le post :confused:
La stratégie du "peu importe que je dise des choses un peu fausses tant que ca me permet de défendre mes idées" aide rarement à améliorer la qualité du débat publique. Et c'est d'autant plus ironique quand c'est ce qu'elle reproche à Mensch.

3 « J'aime »

D'autant plus dommage qu'elle aurait pu lui poser ces questions en direct, étant la rapporteuse de la commission présente durant l'audition.

Autant vérifier les chiffres en direct c'est compliqué, donc je ne lui jette pas la pierre là-dessus, mais demander à Mensch de préciser ce qu'il entendait par "trilliard" dès le début pour tous se mettre sur la même longueur d'onde, ça aurait été un peu plus élégant et utile que de venir dunker là-dessus plus tard sur son blog.

2 « J'aime »

Même politique la concernant: pour qu'elle pose la question, encore faut-il qu'elle ait:

  • La capacité de penser que Mensch travaille, code et pense en termes américains dans son industrie
  • Une connaissance suffisante de la langue anglaise pour être informée que le shéma linguistique des grands chiffres est complètement différent du français, et confusant.

Après, je suis d'accord que si t'as pas les points ci-dessus, et que t'entends un chiffre extravagant dans ta langue, le premier truc c'est de demander confirmation parce que ça paraît incohérent avec la réalité.

Il ne faut pas oublier non plus qu’on est dans une période de bullsitting absolu de tout mené notamment par les techbro. Entendre des chiffres comme ça lève forcément des redflag « par association ». Le lien entre On nous baratine à longueur de temps avec cette réthorique <-> j’entends cette réthorique donc on nous baratine n’est pas non plus mauvais.

1 « J'aime »

Que sa mémoire soit perpétuée (il fait chaud, j'écris n'imp')

11 « J'aime »

Ah, ah :smiley:

Amazon va produire trois séries pour enfants générées par IA

C'est juste parfait. En même temps, ils auraient tort de pas le faire, vu que des gens vont le regarder/mettre leur gamins devant.

3 « J'aime »

Le nouveau créneau de nos capitalist overlords : faire des trucs tellement cons et non-éthiques que la réglementation européenne (IA Act ici) n'a même pas vu le coup venir.

Tester ta nouvelle techno addictogène directement sur des enfants en bas age, plutôt que sur tes clients adultes qui pourraient avoir un reliquat d'esprit critique, ça a du panache.

"Justement c'est pour les gosses ! Ca devrait demander 2 fois plus de soin !" - Karim Debbache

2 « J'aime »

TIL qu'addictogène désigne le pouvoir intinsèque de quelque chose à créer une dépendance, et est le terme correct pour ça, tandis qu'addictif est un anglicisme récent souvent utilisé pour décrire la dépendance plutôt que le caractère addictogène.

Merci :slight_smile:

3 « J'aime »

"VC-funded plagiarism machines" :ok_hand:

:grin:

Le cœur du problème relevé par un des commentateurs, Rouge:

C’est pas obligatoire de proposer quelque chose, en fait. Apparemment, il existe des outils de traduction automatique qui signalent quand le texte source n’est pas reconnaissable.

Mais je continue à regretter fortement la posture de reconnaître l’incertitude, ou l’impossibilité de trouver une langue correspondante dans le cas du charabia.

Je suppose qu'on peut effectivement ajouter des règles pour empêcher de générer une traduction quand l'entrée ne correspond à rien, mais reste que le core design des LLM n'est pas de reconnaître et de répondre, mais de compléter avec le résultat le plus plausible.

Il faut mixer les technos et ne pas considérer que les LLM sont utilisables partout par défaut.

Plausible statistiquement ou plausible avec la réalité ?
Moi je ne veux aucun résultat si la 2ème condition n'est pas remplie de façon suffisamment satisfaisante.

Statistiquement, bien sûr.

A propos, Claude 4.8 essaye de minimiser cet aspect. Un article de Next mentionne le retour de testeurs de cette nouvelle version "il signale plus facilement ses incertitudes, évite les affirmations qui ne sont pas vérifiées et laisse moins passer de bugs sans les mentionner."

Plus facilement.

Évite.

Moins.

On n'y est pas encore mais ils essayent :grin:

2 « J'aime »