Comprendre l'IA

Un cours de 4 séances sur À quoi servent les IA génératives, à destination d'étudiants et d’étudiantes. Les séances abordent comment ça marche en théorie, en pratique, à quoi ça peut servir et à quoi ça ne peut pas servir. Réalisé par un traducteur, journaliste et prof.

Anecdote : j'avais partagé la présente de base de liens à l'été 2025 sur Masto et l'auteur des slides avait littéralement dit que ça allait lui servir pour ses cours... que je remets dans la base. L'économie circulaire de l'information 🥲

Les arguments écologiques et déontologiques autour de l'IA générative relèvent de la morale et sont inefficaces. Si l'IA séduit aussi vite et autant, c'est qu'elle répond à quelque chose, qu'il y a un terrain propice. Après tout, on faisait tous sans y'a à peine deux ans.

Pour l'autrice, le problème est une perte de confiance totale en nous et en l'idée de réalité. On croit que le talent et la créativité sont innés (vs produit par du travail ou largement disponibles). L'IA permet alors de faire des choses qu'on pense définitivement hors de notre portée.

Elle permet aussi d'éviter l'échec, y compris dans les relations interpersonnelles. Alors que la solitude fait souffrir énormément de monde, on constate que les gens veulent du soutien... mais sans les efforts et les risques inhérents à une relation humaine.

L'IA fournit une solution, mais au détriment de notre capacité à nous connaître nous-mêmes (introspection, émotions). ChatGPT n'est pas là pour nous faire grandir, nous confronter et nous dire "non" : il est là pour nous faire rester en ligne et enrichir OpenAI.

Il y a un enjeu politique. Il est facile de dominer des individus désespérés, qui ne se connaissent pas eux-mêmes, ni entre-eux, qui n'ont plus confiance en rien (les autres, la science, les infos) et sont devenus fatalistes. Mais en vrai, ces personnes sont créatives, ont de l'imagination, sont capables d'imaginer et réaliser des alternatives.

Le monde de l'IA est un monde triste. Il y aura toujours des gens pour aimer créer, faire des choses (y compris des efforts, y compris et apprendre de ses échecs). Ce sont eux qui sont joyeux, qui font des choses cools, en particulier quand ils et elles agissent ensemble, collectivement.

Note que ce résumé est très partiel, car l'article est riche et fait des apartés. J'ai littéralement ignoré des sections entières dans ce résumé.

La littératie IA consiste à savoir comment l'IA fonctionne, savoir l'utiliser efficacement, et être critique des résultats produits. Quatre profils émergent : les novices qui n'utilisent presque pas la IAgen, les utilisateurs intensifs (power users) naïfs — qui savent moyennement comme ça marche, les abstinent sceptiques — qui savent ce que fait l'IA, mais pas l'utiliser concrètement, et les experts, qui savent prompter, faire preuve d'esprit critique et choisir les outils adaptés selon la tâche.

Note que cette vidéo a une vibe TINA insupportable.

Début 2026, un fil Reddit d'un prétendu lanceur d'alerte dans une boite de livraison type UberEats devient viral, mais est accusé d'être un hoax généré par IA.

Un journaliste contacte l'auteur du thread pour vérifier : les "preuves" fournies par "l'auteur" sont générée par IA. Faire de journalisme demande encore plus de méthode, de compétences et de vigilance, alors que publier du faux est trivial.

D'autant que l'attention portée à un sujet pour découvrir que c'est un hoax est perdue pour traiter d'autre chose. L'IA peut servir d'outil de distraction, pour manipuler l'opinion et l'attention (ex : les Russes).

Reconnaissance faciale, automatisation des discriminations, LLM : il n'y a pas d'IA éthique. Non seulement les fondements techno-scientifiques de l'IA sont ethnocentrés, mais l'idée même d'éthique est ethnocentrée. Fournir d'autres données, améliorer les traitements, mettre "de l'éthique" ou de la "diversité" ne peut pas corriger ça.

Il n'y pas de "biais" (terme dépolitisant), mais une oppression structurelle inscrite dans les données "blanchisées", qui ignorent la couleur et masquent les dysfonctionnement raciaux. Les LLM sont des produits racistes de sociétés racistes : leurs réponses reflètent ces sociétés et amplifient leur vision. La fonction de l'IA est de produire de l'incertitude et de l'angoisse, pour gouverner par la peur.

La promesse d'une bonne IA est centrale pour promouvoir l'IA, car elle n'aide pas à limiter concrètement les technos de surveillance et la violence systémique. En réalité, la "bonne IA" maintient les fondations et les constructions sociales du monde actuel. Alors qu'on a besoin de justice et d'émancipation, l'IA propose l'ignorance, l'évitement et la passivité.

George Clooney is an actor.

Put him in the role of a surgeon in front of a camera, and he will do and say things the average non-surgeon viewer will agree are surgeonish. After an hour of that, we are, as average non-surgeon viewers, satisfied and entertained.

Put him in an operating theatre, and the patient will fucking die because he's not a surgeon and knows nothing about really doing surgery.

This is a post about LLMs.

Au Kenya, le système éducatif (colonial et post-colonial) a transmis un anglais très formel, structuré et parfois archaïque. Un style qui conduit l'auteur a être pris pour une IA, au nom de critères simplistes et biaisés, qui pénalisent celleux dont l'anglais n'est pas la langue natale.

Ce qu'on accuse d'être un style IA n'est peut-être que du style kenyan : le produit d'une autre histoire et d'une autre culture, marquée par la colonisation.

22% des sites de presse français bloquent au moins un crawler ou un user-agent IA (celui de Common Crawl en particulièrement visé). Le "deal" historique avec Google était qu'il aspirait les titres des articles de presse, mais qu'il envoyait le trafic vers le journal ensuite.

Avec l'IA, Google prend tout le contenu, le réécrit, le donne à l'utilisateur, et ne renvoie plus aucun trafic vers le journal qui a produit l'info. Déjà peu avantageux à la base, ce deal n'apporte plus rien aux journalistes. Le blocage pourrait servir de levier de négociation à l'avenir.

Attention, exceptionnellement j'ai pas lu cet article.

L'impact écologique de l'IA est complexe à évaluer, et des études diverses percent dans les médias régulièrement, d'autant que le champ de l'IA étant tout le temps mouvant, pourquoi ne pas refaire une étude tous les 6 mois. En 2025, cet article doit bien en valoir un autre.

BonPote a aussi réalisé un article sur l'impact du numérique en général https://bonpote.com/ia-generatives-5g-satellites-quelle-est-la-vraie-empreinte-environnementale-du-numerique/ et un autre sur la pertinence du numérique pour combattre le changement climatique https://bonpote.com/le-numerique-est-il-vraiment-une-solution-pour-la-transition-ecologique/#

L'économie de l'IA s'appuie sur une fraude comptable, type Enron, avec des flux d'argent circulaires. Les derniers résultats de Nvidia la rende visible, car il y a des incohérences entre les discours enthousiastes et les résultats : augmentation des stocks alors que la demande est censée être forte, revenus en hausse mais cash disponible en baisse, etc.

Une Big Tech (ex. Microsoft) investit dans une start-up IA (OpenAI). En échange, la start-up achète ses serveurs cloud à la Big Tech. Pour fabriquer ses serveurs, la Big Tech achète des puces à Nvidia. Et Nvidia utilise l'argent pour investir dans la start-up IA d'origine.

On peut relancer la boucle. La start-up demande des serveurs cloud en plus à Big Tech, qui achète à Nvidia, qui alimente la start-up. Sauf que si la start-up IA ne génère jamais de revenus ou pas assez (ce qui se passe), tout ça s'écroule à un moment.

Stopper ce financement circulaire n'arrêtera pas la demande pour une infrastructure IA, mais amènera à une infra plus décentralisée. Une enquête sur les pratiques de Nvidia pourrait aboutir fin 2026-printemps 2027.

Cette fraude a été détectée quelques heures seulement après les résultats de Nvidia... Par détection algorithmique. Auparavant, ça prenait des mois.

Les investissements dans l'IA (datacenters) et la valeur des actions associées à l'IA sont stratosphériques, mais les revenus réels sont très faibles en proportion. Les opportunités d'emploi dans le secteur n'explosent pas, des États fédéraux qui accueillent des centres de données ne sortent pas de la récession, et les compagnies d'IA perdent de l'argent.

Aujourd'hui, elles brûlent leur cash le plus vite possible pour construire des datacenters, via des proxies qui leur évitent de s'endetter en leur nom. Les montages économiques sont intentionnellement complexes, à la The Big Short. Les datacenters sont de l'immobilier, mais dont la valeur se dégrade rapidement dans le temps.

Si l'afflux d'argent s'arrête et que l'industrie de l'IA ne génère pas d'argent, tout s'écroule. Le lien avec des fonds d'immobilier pourrait alors contaminer d'autres secteurs, façon crise de 2008. Alors que l'immobilier est un secteur où on investit pour limiter les risques, les liens avec l'IA les accroissent.

Les connaissances produites par les cultures non-blanches sont structurellement ignorées dans le savoir contemporain, surtout si elles sont orales, pas en anglais, ou exprime des approches épistémologiques différentes. Les savoirs locaux sont aussi dévalorisés.

Le web a reflété et accentué cette déformation de l'espace informationnel depuis des décennies (Wikipédia par ex.). L'IA s'appuie donc sur une version déformée d'un espace déjà profondément déformé. La configuration des IA par des humains avec des valeurs et des objectifs (Musk...) aggrave la situation.

L'IA produit une version résumée, orientée et caricaturale de sources de données qui sont déjà partielles et partiales. 97% des langues sont en "ressources faibles" dans les jeux de données. La 3e langue au monde en locuteurs (7,5% de la population), l'Hindi, represente 0,2% des données de Common Crawl.

Most people who actually have technical roles within the tech industry and are fluent with LLM-like techs agree on the following :

Technologies like LLMs have utility, but the absurd way they've been over-hyped, the fact they're being forced on everyone, and the insistence on ignoring the many valid critiques about them make it very difficult to focus on legitimate uses where they might add value.

This is the majority view of experts on AI. But it's silenced by fear of retaliation. And it blocks any normalized view, where AI is just another tech, that could be controlled, bettered, made greener or decentralized.

L'IA est un outil de baisse des salaires venu d'en haut, pas un outil d’augmentation de la productivité. Elle permet de créer une immense quantité d'offre "médiocre-mais-pas-inutile" en concurrence de l'existant. Les services chers vont devenir encore plus chers, les autres vont devenir moins chers, mais avec moins de garanties de qualité.

Le but d'un système est ce qu'il fait réellement. L'IA sert à produire de la désinformation et de la propagande, au service d'un fascisme qui "inonde la zone de merde" et détruit les conditions d'un débat de bonne foi.

Elle organise une terreur politique : ses limites techniques font son imprévisibilité et son efficacité idéologique. L'ICE et la surveillance faciale sont d'autant plus efficaces qu'elles embarquent des gens "par erreur".