Présentation large de ce qu'est l'IA (pas que les LLM), puis les raisons de ne pas aimer l'IA (à 00:52) et une explication de ses liens économiques et matériels avec les oligopoles du numérique (Google, Amazon, Microsoft, Meta). Résumé à 1h24, suivi de l'analyse politique de l'orateur sur l'IA (avis + stratégies de lutte). Note qu'il pense que le monde avec IA est inévitable, ce qui est contesté par d'autres.
PDF la présentation : https://asso.framasoft.org/nextcloud/public.php/dav/files/Cfob6MMcmxsZkGt/2025/2025-05-30-JDLL/IA%20et%20capitalisme_v4.pdf p. 11-31 = présentation de l'IA ; p. 32-61 = risques associés ; p. 62-105 = liens avec le système économique (résumés p. 103-104) ; p. 106-fin = analyse politique. La p. 70 sur "qui possède l'IA" et la p. 98 sur les biais liés à l'américano-centrisme des données sont marquantes.
La qualité des réponses des LLM commence à décliner, car les données synthétiques polluent leurs données d’entraînement (cf. autres marque-pages).
Pour mitiger le problème, on peut récupérer des données depuis des bases de données externes... Mais ça augmente les risques de fuite de données privées et produit des analyses encore plus biaisées.
Refaire fabriquer du nouveau contenu de qualité par des humains pour alimenter l'IA aiderait, mais ça n'arrivera pas. Personne ne veut le faire, ni payer pour.
15 slides pour faire le tour de l'IA générative, sous forme d'affirmations courtes, suivie d'un paragraphe, et de sections Aller plus loin et Références. Fournit un glossaire de définitions (modèle de diffusion, réseau de neurones, etc.).
Exemple avec la slide "Charlatanisme" : l'IA a un passif de pseudo-science, de promesses non-tenues, de recherche de mauvaise qualité, et de fraude. Son respect des lois et discutable, et elle pose des problèmes de vie privée. C'est un happeau à procès.
Aborde beaucoup les risques juridiques liés à l'IA gen : plagiat, droit d'auteur, vie privée, fraude, etc.
Les IA génératives citent régulièrement des bibliothèques de code qui n'existent pas vraiment. Des pirates en profitent pour créer des malwares qui portent le nom de ces bibliothèques fictives.
C'est généralisable : l'IA hallucine une fausse information, et quelqu'un génère du contenu qui correspond à cette hallucination pour la légitimer a posteriori et donner l'impression qu'elle était vraie au départ
Enseignante-chercheuse en informatique, elle refuse d'utiliser ChatGPT car les impacts sociaux-environnementaux du numérique sont déjà préoccupants sans l'IA, et que l'IA vient d'acteurs économiques très concentrés, avec un projet politique qu'elle rejette.
Une IA alternative, éthique, souveraine, etc. ne l'intéresse pas plus : elle normaliserait les autres IAs, ne serait pas forcément privilégiée sur elle, et ne règle pas le fait qu'on a peut-être juste pas besoin des LLM dans l'absolu.
À supposer qu'il y ait des usages utiles, ils ne valent pas le coup. 1) Il n'y aura pas de gain de temps, juste une réallocation du temps à autre chose, pas forcément mieux : le numérique actuel nous le montre déjà. 2) L'usage comme démarreur de texte revient à plagier sans le vouloir, tout en donnant ses idées créatives (financées par le public) à ChatGPT.
Enfin 3) automatiser les tâches répétitives "peu intéressantes" change la structure des métiers. En remplaçant les juniors par des robots, on empêche l'apparition de professionnels seniors. L'évolution du métier de traducteur (où c'est déjà le cas) montre que ça rend le métier pénible, sans réel gain de temps.
Longue enquête en plusieurs épisodes sur la pollution du web par des sites genAI, qui peuvent plagier et publier en 20 minutes un contenu produit par un vrai journaliste. Ces sites produisent à la chaîne des dizaines de plagiats par jour.
Ils sont très bien repris par Google News, Discover et les moteurs de recherche (https://next.ink/154914/google-actualites-est-truffe-darticles-plagies-par-des-ia/) et plagient aussi la PQR (https://next.ink/158809/la-presse-regionale-est-elle-aussi-cannibalisee-par-des-sites-dinfos-generes-par-ia/)
L'utilisation de GenAI est prisée à l'extrême droite, où l'on a même le directeur pédagogique d'une école de journalisme qui assume (https://next.ink/162296/le-directeur-pedagogique-dune-ecole-de-journalisme-genere-ses-articles-par-ia/)
Next propose un guide pratique pour détecter ces sites (https://next.ink/165310/comment-reconnaitre-les-sites-dinfos-generes-par-des-ia/), une extension navigateur pour être alerté quand on arrive sur l'un deux, et un guide pour identifier les faux-positifs (https://next.ink/172262/faux-positifs-comment-reconnaitre-les-contenus-identifies-a-tort-comme-generes-par-ia/)
MÀJ : À l'opposé de tout ça, Google restreint sévèrement l'usage de l'AI pour faire des publicités en ligne... sa source principale de revenus (https://next.ink/171952/google-penalise-les-publicites-generees-par-ia-mais-pas-les-medias-generes-par-ia/).
Extension Firefox qui détecte les sites générés tout en en partie par des genAI. Existe aussi sous Chrome https://chromewebstore.google.com/detail/alerte-sur-les-sites-gena/bcmpghnhminmlljeomngepamejbopffc
Annonce du lancement et infos techniques (https://next.ink/172956/arnaques-et-genai-notre-extension-integre-les-listes-red-flag-domains-et-amf/)
Mise à disposition du code (https://next.ink/175954/alertes-genai-domaines-tiers-contactes-le-code-source-de-nos-extensions-est-sur-github/)
Détails sur la détection et les faux-positifs (https://next.ink/179523/alertes-sur-les-sites-genai-pourquoi-notre-extension-affiche-t-elle-des-faux-positifs/)
L'IA générative coûte plus cher à produire qu'elle ne rapporte. Elle n'a aucune des caractéristiques des produits qui ont du succès en économie. L'industrie de l'IA perd de l'argent et brûle du cash pour survivre. Même les utilisateurices payants d'OpenAI (ChatGPT) lui font perdre de l'argent.
En fait, il n'y pas vraiment d'industrie du LLM, qui vivrait de son produit. Les acteurs en place dépendent tous d'un financement extérieur (capital risque). Il n'y a pas de demande pour leur produit : tout cumulé, les différents LLM ont moins d'utilisateurs que Pokemon Go à son pic d'intérêt. Le marché est ridiculement petit.
L'omniprésence l'IA ne prouve pas que les gens l'utilisent. Ça prouve qu'il y a des intérêts économiques qui tiennent à en mettre partout. Alors que l'IA générative est censée être une révolution, Google et Amazon ne communiquent pas sur les revenus (et profits) associés. Pour l'auteur, la genAI est une bulle spéculative : il n'y a pas de chiffres, parce que l'IA ne produit pas vraiment d'argent.
Un état des lieux complet des problèmes écologiques, sociaux, politiques et éthiques liées à l'industrie de la tech avant l'émergence de l'IA, en 50 min de vidéo.
Hors-sujet par rapport à la collection, mais pose le contexte initial avant 2022 et l'explosion de l'IA dans les préoccupations médiatiques.
Les interfaces veulent nous forcer à utiliser l'IA, qu'on le veuille ou non : mise en avant permanente, interruption du processus pour suggérer d'utiliser l'IA, désactivation complexe...
L'objectif est de justifier les investissements fait par les promoteurs de l'IA... et de lui trouver des usages, qui manquent cruellement.
![[Enquête] Plus de 1 000 médias en français, générés par IA, polluent le web (et Google)](https://rdl.ink/render/https%3A%2F%2Fnext.ink%2Fwp-content%2Fuploads%2F2024%2F09%2FIa-desinfo.webp?width=92&height=&ar=&mode=&format=avif&dpr=2)
