Oui et non
Sans réfléchir, comme tu dis, on risque toujours des erreurs. On ne peut jamais prendre les réponses que nous donne Google comme ça. Mais on s’y est habitué, on a appris à s’en servir. Comme pour tout. Je me souviens même d’un temps où j’ai du apprendre à me servir d’un stylo
4 « J'aime »
Si tu parles du moteur de recherche de Google, il nous donne une liste de site, pas une réponse directe comme les prompts IA.
L’écart entre la capacité de l’utilisateur à déterminer si les sites répondent à son besoin dans le premier cas et celle à discerner qu’une affirmation brute est crédible ou pas dans le second est pour moi conséquente.
A un moment il faut arrêter de rejeter la responsabilité sur l’utilisateur qui ne saurait pas bien utiliser les outils quand on en vient à ce niveau de non contrôle. L’IA n’est pas encore faite pour le grand public (et AMHA dans la plupart des cas d’utilisation interne, dispensable considérant les dangers, les erreurs et le pendant non écologique de la chose).
1 « J'aime »
La solution pour vérifier la réponse d’une IA est donc de faire… une recherche Google 
Donc rajouter des étapes ultra gourmandes pour revenir à la solution numéro 1.
Ce monde est fantastique.
5 « J'aime »
Ou alors ce monde est plus complexe que tu ne le penses et vous etes plusieurs à tirer des conclusions fausses sur un sujet que vous ne maitrisez absolument pas.
Déçu de voir ca sur geekzone…
1 « J'aime »
Je pense qu’on a fait le tour et qu’on peut lock le topic.
Soit on a tous compris qu’un llm n’est pas un moteur de recherche soit on le comprendra jamais… ça tourne un peu en boucle.
7 « J'aime »
Ben non, tout le monde ne le sais pas vu que la vitrine de l’IA, celle qu’on assène au grand public, c’est « regardez, vous pouvez demander presque n’importe quoi à l’IA, elle est trop forte », alors que cette partie publique, elle n’est pas fiable et dit parfois de la merde (voir la question de Faskil sur un sujet pourtant simple) avec aplomb.
Et donc là, tu ne peux pas empêcher les béotiens de penser que dans ce cas, autant chercher soi-même de manière conventionnelle. ChatGPT n’est pas un moteur de recherche, bien, mais pourquoi ok le vend si souvent comme tel au grand piblic ?
1 « J'aime »
Tu veux dire comme sur le site de chatgpt ?
En passant, j’aimerais bien qu’on me pointe un article qui brand un GPT comme moteur de recherche. A par les technobro LinkedIn qui disent de la merde quelque soit le sujet…
Et ici. On a déjà eu cette discussion y a une centaine de messages. Si tu veux un moteur de recherche à la sauce llm, tu fais un RAG (comme ce que propose Notion). Ou tu donnes tes résultats de moteur de recherche à un GPT pour en faire un résumé (ce que fait Google, Arc & co).
Bref. Taper sur l’outil par ce qu’on l’utilise mal ou pas pour la bonne tâche ne fait que détourner la discussion du fond. Si tu utilises une scie sauteuse pour planter un clou. T’en prend pas à la scie ni au clou si ça marche pas.
8 « J'aime »
1 « J'aime »
[…] OpenAI is also worried that using watermarking could turn off surveyed ChatGPT users, almost 30 percent of whom evidently told the company that they’d use the software less if watermarking was implemented.
Shocker. 
Bêta, mais n’empêche… 
1 « J'aime »
https://x.com/karpathy/status/1821277264996352246
Désolé pour le lien vers x mais j ai trouvé ce post intéressant sur les limitations du RLHF face au vrai RL. Et je pense que ca montre qu’on pourrait avoir des modeles spécialisé sur du code beaucoup plus efficace que ce qu’on a maintenant si on les entrainait avec du pur RL vu que dans le cas du code on peut vérifier automatiquement « facilement » si la réponse produite par le modèle est valide ou pas.
Oh ben ça alors… 
1 « J'aime »
Alors j’y connais rien, mais apparemment c’est HUGE
2 « J'aime »