Obligé de me taper les formations Claude pour ma boite ...et de me faire troller par Anthropic avec ce genre d'exemples dans les formations :
Donc là, Anthropic prend comme exemple pour l'utilisation de Claude Projet, d'un projet de création de produit comme ..... une bouteille d'eau écolo.
Si c'était pas aussi dramatique ça me ferait presque marrer.
Quel enfer. 
Ca ne m'étonne, les gens s'en foutent de la qualité de l'information.
Le pire, c'est quand tu demandes les sources d'une info à des personnes lambda: de plus en plus on me répond que ça vient de chatGpt ou gemini, et donc ils prennent ca pour argent comptant.
Et même au boulot pour des documents à valeur legale (comme des appels d'offres)
Une version toute spéciale d'Idiocracy, soutenue par un illusoire déplacement de "l'intelligence" et du savoir vers des machines qui sont a présent devenues suffisamment "magiques" pour ne plus être remises en cause autant que leur ancêtres.
Quelle déprime...
Je ne me souviens plus où ça avait été posté et par qui sur geekzone. Mais c'est bien le même délire avec un blog en IA générative se plaignant du block out résultant d'une demande de mise à jour de code refusée.
Liens à la suite de l'e-mail que je viens de recevoir de Doctolib.
Ah oui: par défaut ils estiment qu'on est d'accord pour que nos données audio et autres abreuvent les données d'apprentissage de l'IA.
On a beau envoyer le formulaire mais on se demande si c'est bien pris en compte. Ah si on le voit dans les préférences de confidentialité.
Pour le coup, les MR-004 (études sur les données de santé sans consentement préalable), c’est une partie de mon métier.
Les plus:
- la méthodologie est assez stricte et claire. Pas de CGU volontairement floues, tout est sur le site de la CNIL.
- ce n’est pas fait en loucedé sous prétexte d’analyse technique, le projet apparaît sur le radar de la CNIL et du Health Data Hub français.
Les moins :
- le dispositif est purement déclaratif et permet d’éviter les autorisations d’une étude clinique classique ( ANSM, CPP…)
Je ne peux pas m’exprimer sur le projet de Doctolib en particulier, j’ai des conflits d’intérêt.
Quand tout ton business repose dit du pillage systématique, rien d’étonnant…
. Visiblement se retient de dire, pour une raison tout à fait honorable, ce qui semble ne pas aller du tout dans cette affaire.
En réutilisant autant de technologies volées ils auraient aussi pu vanter les mérites de leur technologie et continuer leur scam.
Ils n'ont rien compris. Rien, rien, rien.
Ni Doctolib, ni le gars qui a fait le post LinkedIn pour expliquer pourquoi l'initiative de Doctolib est malfaisante.
Je le cite, lui :
Bon, soyons directs, l'assistant de consultation Doctolib répond à un vrai besoin :
les médecins sont épuisés, la charge administrative est documentée, et on a une vraie augmentation des téléconsultations depuis le COVID. L’IA peut devenir un vrai levier d’efficacité tout en déchargeant la charge de travail des médecins et éviter les erreurs humaines. Transcrire une consultation, générer un compte-rendu structuré, bref gagner une heure par jour pour un médecin c’est bénéfique pour lui et pour nous patients.
Non, non, non, et non.
Oui on est épuisés. Oui on voudrait alléger les tâches parasites. Oui on voudrait se recentrer sur notre cœur de métier.
Et c'est là qu'ils n'ont pas compris, ni lui, ni Doctolib.
J'ai assisté à une démo de l'outil de consultation Doctolib par un de leurs commerciaux, assisté à une consultation simulée avec deux médecins, et réalisé moi-même une simulation de consultation avec un vrai patient qui était complice. J'ai donc bien vu ce que ça sait faire. C'est très bien.
Mais ce n'est pas ce dont on a besoin. Ils n'ont pas compris ce qu'est être médecin, ils n'ont pas compris le besoin et, si l'IA peut nous être utile, ils n'ont pas compris en quoi. Ils tapent à côté.
Une consultation, c'est un individu sans bagage scientifique qui vient expliquer avec ses mots un problème à un scientifique qui va interpréter son discours pour déjà comprendre quel symptôme le patient essaie d'exprimer, rassembler ces symptômes en un tout cohérent en écartant les éléments du discours qui sont apportés par le patient qu'on le veuille ou non et qui sont parasites dans l'histoire. Le médecin va orienter son interrogatoire. Et après, il va examiner le patient et faire un diagnostic.
Une consultation médicale, c'est une enquête. Un médecin, c'est un enquêteur doublé d'un scientifique. C'est ça qui fait le plaisir du métier, son intérêt.
Est-ce que j'ai parlé de prescriptions, de médicament dans tout ça ? Que dalle. Ce qui est tripant, c'est de faire le diagnostic d'angine, de chercher si c'est un phlegmon, d'évaluer si ça peut être une mononucléose, faire un prélèvement pour chercher si c'est viral ou bactérien, se demander si ça révèle ou pas une leucémie (oui oui, c'est à tout ça que pense votre toubib quand vous lui amenez le petit dernier pour "angine").
Une fois que c'est fait, prescrire de l'amoxicilline, ça n'a aucun intérêt intellectuel. Il n'y a aucune réflexion dans la prescription ; je caricature un peu, il y a des exceptions, mais bien souvent, la prescription c'est l'application d'un protocole. C'est souvent facile, simple, voire tout con. Même vous, sans aucune formation dans le domaine, vous savez qu'une angine bactérienne se traite par des antibiotiques.
L'intérêt du métier, c'est l'enquête.
Maintenant, que me propose Doctolib ? Je vais vous retranscrire un début de consultation typique chez moi.
- Dites-moi ce que je peux faire pour vous ?
- J'ai mal aux jambes.
- À quel endroit des jambes ?
- Bah, là, par là (il montre ses mollets).
- Dans quelles circonstances ?
- Quand je marche.
- C'est occasionnel, ou à chaque fois ?
- Presque à chaque fois. Mais pas tout le temps, et quand ça monte j'ai plus mal.
- Ça vous force à vous arrêter ?
- Ah oui, je peux pas continuer !
- Et quand vous arrêtez, ça passe en combien de temps ?
- Oh, j'ai pas regardé, je dirais 4-5 minutes peut-être.
- Vous arrivez à faire quelle distance avant d'être bloqué ?
- Alors pour aller au bout de l'allée ça va, mais quand je vais chez le buraliste qui est à 300 mètres, c'est limite.
Voilà. Tout ça, ça prend 2 minutes. Incompressibles. Et même si l'assistant de consultation est activé, ça prend 2 minutes incompressibles, car jusqu'à preuve du contraire, il ne peut pas accélérer le patient. L'assistant va retranscrire tout ça en virant mes questions et en le synthétisant un peu :
"Le patient présente des douleurs des jambes à la marche, plus importantes en montée, imposant l'arrêt pendant 4 à 5 minutes, après une distance de 300 mètres".
L'information de localisation a sauté (c'était un geste), l'information concernant la montée, je m'en fous.
Moi, dans mes notes du dossier médical, tout ça, ça devient exclusivement :
"Claudication > 200 mètres."
Mon job est fait. J'ai le syndrome, il me reste à confirmer le diagnostic par l'examen clinique et l'examen complémentaire, mais en fait l'enquête est terminée, je sais ce qu'il a, mission accomplie, j'ai kiffé, j'ai mon petit shoot de sérotonine comme à la fin de n'importe quel niveau de jeu vidéo. Je n'ai pas besoin d'une synthèse. Je n'ai pas besoin d'une retranscription. Je suis formé pendant 10 ans pour faire précisément ça, et j'aime ça.
Si Doctolib veut m'enlever ça, ça me fait chier. C'est la partie sympa de mon travail et c'est pour ça que je l'exerce.
Pire : ce qui est décrit là est qualifié de charge mentale. Le travail intellectuel est qualifié de charge mentale.
Je vous la refais parce qu'on est à 150 sur l'autoroute de la débilitation et parfois on a besoin d'un bon crash zoom pour saisir les choses :
Le travail intellectuel est confondu avec de la charge mentale.
Vous saisissez les implications de ce postulat ? Il faudrait évincer ce qui nous différencie du poireau parce que ce serait une contrainte épuisante ! Ils sont fous !
Mais ce n'est pas tout. Ça c'était la partie sympa de mon boulot, que Doctolib veut supprimer. Il y a une autre partie.
Après ma consultation, ou pendant ses temps morts (comme le déshabillage/rhabillage du patient), je vais taper un courrier. Je vais y reprendre les éléments syndromiques dans un style plus développé, "Le patient présente une claudication bilatérale des membres inférieurs avec une distance de marche supérieure à 200 mètres". Je vais taper ou dicter ça dans Word. Je vais y indiquer le prénom et le nom du patient, sa date de naissance, taper un raccourci clavier qui va figer la date, lancer une macro qui va me demander trois valeurs de tensions et en ressortir un calcul, macro qui n'est pas réalisable dans le traitement de texte intégré au logiciel métier ce qui m'impose d'utiliser Word, copier le "prénom + nom" du patient, enregistrer sous, nommer le fichier en collant le "prénom + nom" puis couper le prénom pour le coller après le nom et permettre ainsi le tri alphabétique dans la bibliothèque des courriers, ajouter la date et le type d'examen, valider, faire CTRL+a puis CTRL+c, fermer, aller dans le logiciel métier, ouvrir une page de compte rendu, faire CTRL+v, enregistrer, cliquer sur l'icône d'expédition, choisir les adresses mails sécurisées parmi les différentes adresses mail des correspondants, valider, valider encore.
Intérêt médical : aucun.
Intérêt intellectuel : aucun.
Temps perdu : 2 minutes, le même que celui de l'interrogatoire que Doctolib et le gars de LinkedIn pensent souhaitable de me faire gagner.
Charge mentale : au plafond.
C'est là que j'ai besoin de l'IA. JE NE VEUX PAS D'UNE PUTAIN D'IA GÉNÉRATIVE QUI PRÉTEND FAIRE CE QUE J'AIME FAIRE, JE VEUX UNE IA AGENTIQUE QUI FAIT CE QUE JE HAIS DANS MON BOULOT (ou plutôt dans les contraintes que le monde moderne lui a imposées, à tort ou à raison).
Je ne vois pas comment j'aurais pu expliquer tout ça sans faire ce pavé, mais je suis désolé quand même pour ce pavé. Mais si vous avez lu tout ça et que vous avez un contact dans cette industrie, mais putain faites-leur passer ; @Hoaxymore vas-y, je t'en prie. Parce qu'ils font fausse route. Parce qu'ils gaspillent leurs ressources pour un outil qui ne sera pas adopté parce qu'il ne répond pas au besoin. Le rapport bénéfice-risque, c'est une autre part de mon boulot, et quand le bénéfice est nul parce que l'outil ne répond à aucun besoin, alors le rapport est forcément infiniment défavorable. L'outil ne sera pas adopté. Pire, il prétend faire ce qui est notre essence : quelle corporation serait assez conne pour déployer un outil qui a l'intention de remplacer ce qui fait sa spécificité, même s'il le fait mal ? Et rendez-nous ce qui fait notre plaisir : du temps pour du travail intellectuel.