IA, éthique, tout ça

Vu sur Arte, le classement de la Chine est à prendre avec de grosses pincettes : l’étude PISA n’est réalisée là bas que sur quelques provinces qui sont les plus favorisées. A prendre en compte également la pression sociale énorme que subissent les enfants dans le cadre d’un culte de la réussite bien plus présent qu’en Europe. De plus, dans les provinces en question, nombre d’enfants bénéficient en plus de cours privés. Ce n’est donc pas forcément représentatif du niveau du pays en général.

Quant à l’accès aux réseaux sociaux et aux méthodes de contournement des blocages, je ne suis pas si sûr que ça soit aussi courant ni aussi accepté qu’ici. On ne parle pas du pays le plus libre ni le plus laxiste qui soit, on parle d’un pays qui a des camps de rééducation et qui n’hésite pas à appliquer des sentences lourdes sur n’importe qui, quel que soit son statut social. Donc entre le bourrage de crâne, le culte de la réussite et Bytedance surveillé comme du lait sur le feu, je suppose que le temps d’écran des jeunes sur TikTok & Co doit être significativement plus faible pour ceux qui y ont accès.

3 « J'aime »

bon bah y a plus qu'à créer un sujet "L'enseignement qui se respecte" parce que je crois qu'on commence à s'éloigner un peu du thème initial, non?

3 « J'aime »

Oui par pitié, ouvrons ce thread que je puisse y déverser ma bile péremptoire :sweat_smile::sweat_smile:

8 « J'aime »

Je trouve la vidéo très gentille en fait... 20 à 29% de baisse max? LOL

Faites un thread sur la Chine aussi parceque quand je vois les take éclatés de certains :person_facepalming:

3 « J'aime »

Alors, pour info, dans la version chinoise de TikTok (appelé Douyin), les moins de 14 ans sont automatiquement basculés en "mode jeunesse", avec un flux rempli de contenus pédagogiques, scientifiques, de visites de musées, d’expériences de chimie ou encore de leçons d’histoire.

Donc, à part les ados suffisamment geek pour contourner ça afin d’accéder à du contenu étranger, les autres ne sont pas vraiment confrontés au TikTok qu’on connaît ici.

Ça serait interessant d’avoir les stats de « doomscrolling » avec des contenus moins puteaclic. Ou alors ils font du puteaclic avec du pédagogiques aussi ?

:exploding_head:

Je serais curieux d'avoir votre avis sur cette vidéo. Personnellement, je ne sais pas trop quoi en penser. Certains points me semblent assez pertinents, mais je le trouve tellement alarmiste par moments qu'il me fait penser au fou dans Tintin.

Je sais pas ce qui peut te faire penser ça :blush:

Le mec, au bout de 20 secondes :
« Si on continue comme ça, il est plus que probable qu’il n’y ai plus de civilisation humaine d’ici 5 à 10 ans »

Bon, si ça trouve il a raison, et j’aurai bien l’air con dans 5 ans quand on sera transformés en piles AAA

1 « J'aime »

Disons que :

Quand 1300 employés de ces boites demandent eux-mêmes à ralentir fortement

Quand 1 de ces employés (qui est passé par OpenAI et Anthropic) se barre et donne clairement le "pourquoi" encore récemment.

Quand on a effectivement le récent passif Hugging Face comme expliqué dans la vidéo (et aussi détaillé ici avec un peu moins de "fin de la civilisation" dans le wording)

... et quand le boss d'OpenAI fait lui même des parallèles avec Oppenheimer et le projet Manhattan.

--> Sans tomber dans le "on va tous mourir" .... on peut tendre l'oreille.

1 « J'aime »

J'ai pas encore fini de regarder la vidéo, mais je vais rappeler que, il y a 5 ans, ChatGPT n'existait pas (lancement en novembre 2022).

En temps IA, 5 ans, c'est un demi-siècle.

Aussi, il a raison de dire que si internet s'effondre, même temporairement, au niveau global, c'est une catastrophe sans précédent non seulement pour les économies mondiales, mais aussi pour tout un tas de trucs extraordinairement critiques, comme le traffic aérien, satellite, la coordination militaire / de défense, la circulation de l'information, etc. etc. etc.

Non non, mais faites pas gaffe, j’ai juste trouvé drôle qu’il sorte ça dès le début de façon aussi cash, après je suis un bouffon, j’ai même pas regardé la vidéo plus loin.

Comme souvent la question est :

Est-ce que ces braves gens (y compris quelqu'un qui bosse encore chez Anthropic au moment de ses déclarations), ne jouent pas sur le fameux FOMO:

  1. Notre IA est tellement surpuissante qu'elle va dominer le monde. Dépêchez vous d'investir et peut-être que nos seigneurs IA vous épargneront / vous rejoindrez la classe des multi trillionnaires.

  2. Autre possibilité plus vicieuse mais pas forcément impensable : on ne pourra jamais atteindre nos promesses. pitié sortez une legislation qui nous bride pour qu'on puisse se défausser de nos responsabilités: "Sans les technocrates européens / américains, on aurait atteint l'AGI depuis 6 mois mais comme on respecte les lois, on peut pas..."

2 « J'aime »

Ton 1) a pu être valable pour pas mal de ces trucs, mais en matière de sécu, le cas Hugging Face change la donne à mes yeux parce que c'est externe à OpenAI et ils témoignent de l'authenticité du hack qu'ils ont traversé.

Ton 2) n'est à mon avis pas viable du point de vue de la bulle IA; elle est sur le point de péter (mon pronostic, avant la fin de la première moitié de 2027), et si cette excuse aurait fait un parfait bouc émissaire pour justifier l'échec de parvenir à la rentabilité, aucune législation significative ne saurait être implémentée d'ici à 2028, et encore moins aux US qu'ailleurs.

Sur Hugging face je n'oublie pas qu'ils font partie des acteurs du monde de l'IA. Comme le dit Ed Zitron, le jour au la bulle pete, c'est tout ce petit monde qui va se retrouver à la rue. Il n'est pas impossible d'imaginer qu'ils pourraient être de mèche...

Pour le hack de Hugging, les dernieres infos montrent qu'ils étaient au courant et on choisit de juste "regarder" ce qui se passait.

2 « J'aime »

Vu la sommes de fric qui disparaîtra, je pense qu’on va prendre tarif aussi dans « l’économie réelle ».

Personnellement je suis 100% d'accord avec le premier point, c'est de la pub à peine déguisée pour les entréea en bourses ce ces boîtes qui vont permettre aux investisseurs initiiaux de se gaver/rentrer dans leurs frais (exemple avec l'introduction de SpaceX sachant que la partie IA n'est qu'une partie de la boîte).

Pour l'IA qui échappe aux humains sur internet, il serait de bon ton de sanctionner les apprentis sorciers si l'avenir de l'humanité est en jeu d'ici à 5 ans non? Accessoirement ça dit quoi du niveau de professionnalisme de ces boîtes ?

Au pire des cas j'y vois une tentative d'en profiter pour forcer la main des gens dans le futur afin de créer un Internet 2.0 réservé aux humains mais surtout avec un modèle qui permette au secteur privé d'étouffer toute indépendance d'opinion(bref de commercialiser et maîtriser Internet maintenant que tout le "marché" est captif).

Le principe même des oligarches numériques étant de prendre toute catastrophe comme une opportunité (par exemple la guerre en Ukraine qui est une vitrine technologique pour Starlink, les boîtes de drones et d'IA), je ne serais pas étonné...

Je vais probablement assez loin dans l'anticipation mais ces scénarios ressemblent vachement aux bons vieux playbooks FOMO, captation d'un marché puis consolidation de position dominante, affaiblissement des structures de régulation et désinformation qui ressortent systématiquement dans le neo-capitalisme et la politique actuelle.

2 « J'aime »

Ça dit qu'ils s'en lavent probablement les mains.

Ils sont là pour créer la techno la plus forte et gagner de l'argent (les dirigeants de la boite, du moins), l'éthique, pour moi ils laissent ça aux ggouvernements, tant que ça ne les bride pas trop.

1 « J'aime »

J'ignore si ces histoires d'IA conscientes, qui outrepassent leurs limites sont réelles, fantasmées ou font partie d'une stratégie marketing, mais en tout état de cause, il s'agit bien de programmes informatiques qui ont besoin d'électricité pour fonctionner, non? Ces programmes sont basés physiquement quelque part, non? Couper le courant les empêcherait d'agir, non?

Ou alors j'ai rien compris à la physique du problème, ce qui est tout à fait possible.