Auto-défense contre l’IA générative
Questions/réponses sur l'IA générative, par Pigeon Gratuit, qui lutte contre l'exploitation gratuite des artistes et créateurices.
Comprendre l'IA
How AI Succeeds (and Fails) to Help People Find Information
Les chatbots IA permettent de mieux s'en sortir quand on en connait pas les mots pour désigner ce qu'on cherche. Mais ils échouent à poser les bonnes questions pour orienter l'utilisateurice. À la place, ils génèrent un texte trop long et mal ciblé.
La nature opaque et nébuleuse de l'IA empêche les gens de découvrir tout ce qu'iels pourraient faire avec. Mais l'IA ne résout pas toutes les difficultés liées à la recherche d'information, surtout quand ses résultats sont faux.
How AI Is Changing Search Behaviors
L'IA n'a pas fait disparaitre le besoin de recherche classique, et des usages mixtes coexistent. L'IA permet d'aller plus vite pour définir l'info dont on a besoin, pour évaluer et choisir des sources, pour scanner une info très dense, comparer des points de vue et synthétiser des infos.
Mais les utilisateurices ne savent pas tous qu'ils peuvent utiliser les chatbots pour chercher de l'info, même quand iels les utilisent déjà par ailleurs. In fine, l'usage de l'IA ou pas (et de quelle IA) s'explique beaucoup par la familiarité et l'habitude : on ne change pas ce qui nous convient.
Initial Impressions of ChatGPT’s Agent: Successful, Shaky, and Slow
L'article parle de l'agent ChatGPT, mais c'est le reste qui compte. La mention du coût d'interaction : personne ne prompte un "bon prompt", parce que personne ne veut faire l'effort. ChatGPT pourrait aider à préciser, mais il ne le fait pas si on lui demande pas. Etc.
AWS CEO says using AI to replace junior staff is ‘Dumbest thing I’ve ever heard’
Remplacer les jeunes par des IA empêche d'avoir des seniors compétents, c'est une connerie. Et mesurer le pourcentage de code écrit avec l'IA dans une organisation est aussi complètement con. Une ligne de bon code reste meilleure qu'une infinité de code pourri.
Every question you ask, every comment you make, I'll be recording you
When you're asking AI chatbots for answers, they're data-mining you. Whatever you type, it's recorded and kept, even what you deleted. And AI chat contain really sensitive data.
The UAE is giving away its advanced AI
The Gulf nation offers advanced software without fees or restrictions, positioning itself as a neutral tech power between the U.S. and China.
Toolmen
L'IA est une idéologie, pas une technologie. Une idéologie qui pense que l'intelligence est quantifiable, mesurable, et qu'elle fonde les inégalités sociales. Son objectif est de renforcer les inégalités. C'est une idéologie capitaliste, eugéniste et suprémaciste blanche dans une esthétique techbro. Effacer la distinction savoir / ignorance lui permet de faire de la vérité à la simple conséquence du pouvoir. Déqualifier les gens lui permet de mieux les dominer.
L’IA, un nouvel internet… sans condition
L'IA générative pourrait provoquer la fin du web ouvert, avec une concentration de l'attention dans les chatbots, des contenus soumis aux IA mais non publiés ailleurs, des pubs générées à la volées. La génération de contenu à la volée deviendrait la norme.
"L’idée finalement très partagée par tous les géants de l’IA, c’est bien d’annoncer le remplacement du web que l’on connaît par un autre. Une sous-couche générative qu’il maîtriseraient, capable de produire un web à leur profit, qu’ils auraient avalé et digéré."
In the Future All Food Will Be Cooked in a Microwave, and if You Can’t Deal With That Then You Need to Get Out of the Kitchen
Parody of AI marketing pitches, but with microwaves
Juliet E McKenna (@JulietEMcKenna@wandering.shop)
"If generative AI could REALLY make the next GTA in 6 months with 10 staff, or write the next bestseller, or produce 10 blockbusters a day? They wouldn't be trying to sell it to YOU. They would keep it for themselves and guard it from you ferociously."
I’m Tired of Talking About AI
Paddy est fatigué d'entendre parler d'IA et des arguments de ceux qui la défende. On lui promet la destruction de son job au profit d'un projet qui ne tient pas debout. Il est épuisé, triste et ne veut plus parler d'ordinateurs avec les gens. Un texte sincère qui fait du bien à lire, parce que pareil.
The Media's Pivot to AI Is Not Real and Not Going to Work
Mettre de l'IA partout n'est pas un business model pour un média. L'IA détruit le trafic des sites, plagie le travail, crée du slop, affecte la découvrabilité, et mine la confiance de public. Elle crée des objets qui ressemblent à de l'info et que les algorithmes confondent (voire préfèrent) avec des vraies infos.
L'IA est mal utilisée par les gens déjà mauvais, et à peine utilisée par ceux qui y sont bons. L'avenir des médias est de trouver un public qui s'intéresse à leurs contenus, et d'engager une relation sincère avec lui, et de faire de la qualité. Il n'y a pas de taches chronophages pour lesquelles l'IA va aider : les opérationnels savent déjà optimiser leur temps et leurs effort, y compris via des IA.
Mais pas produire du contenu.
Never hearing No
Les LLMs permettent de vivre l'expérience des ultrariches, à qui plus personne ne dit non.
AI Slop: Last Week Tonight with John Oliver (HBO)
John Oliver parle du slop, et montre des vidéos de vrais gens qui ne réalisent pas que le slop c'est de l'IA et pas la réalité. Il évoque le pillage des artistes, et le fait que les gens qui font du slop viennent de pays pauvres
Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity
Contrairement aux benchmarks en condition contrôlées, une étude en conditions réelles auprès de développeurs confirmés montrent qu'utiliser l'IA les ralentit de 20%... Mais subjectivement, ils pensent que ça leur a fait gagner 20% de temps.
“Powered By AI” Is Not a Value Proposition
Achieving product-market fit and practicing user-centered design become difficult when AI is presented as a product’s main value. Good value propositions are about the what, not the how, and AI is not a value proposition on its own.
Avoiding generative models is the rational and responsible thing to do – follow-up to “Trusting your own judgement on ‘AI...’”
Sums up https://www.baldurbjarnason.com/2025/trusting-your-own-judgement-on-ai/
1) It’s next to impossible for individuals to assess the benefit or harm of chatbots and agents through self-experimentation. 2) Tech, software, and productivity research is extremely poor and is mostly just marketing. 3) The sheer magnitude of the “AI” Bubble and the near totality of the institutional buy-in – universities, governments, institutions – means that everybody is biased.
4) When we only half-understand something, we close the loop from observation to belief by relying on the judgement of our peers and authority figures, but these groups in tech are currently almost certain to be wrong or substantially biased about generative models.
Generative AI is not replacing jobs or hurting wages at all, economists claim
Instead of depressing wages or taking jobs, generative AI chatbots like ChatGPT, Claude, and Gemini have had almost no significant wage or labor impact so far. [...] They've not made a difference for economic outcomes.
CC signals : Creative Commons propose un cadre pour l’utilisation des contenus par les IA
CC ajoute une couche d'info destinée aux machines. CC pense que l'IA actuelle menace les communs et risque de dissuader les gens de partager publiquement. Ces nouveaux signaux servent à ceux qui veulent continuer de le faire, y compris avec les machines.
My class required AI. Here's what I've learned so far.
Un prof a forcé ses classes à utiliser l'IA de différentes façons pendant un semestre. Il a trouvé ça trop bien. Et de toute façon, l'IA est partout à l'école qu'on le veuille ou non (dit-il). Mais son expérience n'a pas de groupe de contrôle, ce qui mine toute la crédibilité de sa démarche. Au-delà du fait qu'il enseigne l'entreprenariat et innovation.
IA et éducation (1/2) : plongée dans l’IApocalypse éducative
Les profs ont tort d'avoir peur de l'IA, mais elle doit changer leurs pratiques (pas de devoir maison, de l'accompagnement personnalisé). Les élèves ont tort de ne pas comprendre que le sujet est leur acquisition de compétence, pas le résultat noté. >>> Mais l'auteur oublie complètement les problèmes de financement quand il parle des difficultés des profs, qui semblent être naturelles et inévitables... Mais l'IA va les aider. Pffff
The AI Hangover Era (The Everything App Part 3)
Some leaders are starting to realize the extent to which AI has broken their ability to prioritize and ship value. Others are still doubling down.
AI chatbots tell users what they want to hear, and that’s problematic
Les gens chatbots genAI disent aux gens ce qu'ils veulent entendre et leur fournissent un miroir déformant d'eux-mêmes. Cet aspect "sycophantique" tente d'être mitigé, pour limiter les réponses mettant en danger les personnes (suicide, radicalisation, etc.).
LHDG28. L'IA ne s'en ira pas
Déjà extrêmement populaire chez les jeunes pour leurs études, l'IA séduit en particulier les plus pauvres, à qui elle permet de passer des barrières sociales. Elle deviendra un service payant incontournable en raison de la dépendance créée pour certain⋅es. Si les plus éduqué⋅es et les plus privilégié⋅es peuvent s'en passer, l'IA cristallise surtout des inégalités sociales.
IA, Philosophie du Libre et Féminisme - Khrys - JdLL2025
L'IA n'est pas un ensemble de techniques, même très diverses. Des technos qu'on considérait avant comme de l'IA ne sont plus classées comme telles aujourd'hui. L'IA est un projet idéologique de domination qui n'est pas résumable au capitalisme.
Il a une dimension patriarcale. Les représentations féminisme de l'IA prolongent des imaginaires de science-fiction sexistes. Il y a un fantasme est de créer des esclaves numériques conscients, mais dont paradoxalement on voudrait garder le contrôle. Ce projet est incompatible avec le libre.
La base technique qu'on appelle "IA" de façon courante, les SRAS (Système résultant d’apprentissage stochastique) ne peut pas non plus être libre. Le code public n'est rien sans les données d'entraînement publiques. Or ces données sont des boites noires qui ne sont pas partagées, ou pas partageables (car issues du vol et de la domination).
Diapo : https://khrys.eu.org/conferences/ia-libre-f%C3%A9minisme/
AI Chatbots Discourage Error Checking
Vérifier la fiabilité d'une réponse de chatbot est complexe, chronophage, et suppose des compétences que les utilisateurs n'ont pas. Avec un son très "sûr d'eux-mêmes", les chatbots actuels n'incitent pas à vérifier. Ces outils promettent d'augmenter l'efficience (= rapport effort / résultat), et leurs utilisateurs les adoptent pour cette efficience promise. Si on croit à cette promesse, on n'a aucune raison de vérifier s'il y a des erreurs.
L’IA est une technologie comme les autres
L'IA va mettre des décennies à se faire une place, comme n'importe quelle techno : ça va être progressif, et les structures vont s'adapter. L'IA va rester sous le contrôle humain, car les usages non-controlés seront vite débranchés, voire jamais mis en place.
Algorithmique, le podcast de Next
La saison 1 du podcast de Next est dédiée à l'IA (6 épisodes, ~4h d'écoute). Elle fait le tour de sa dimension technique, écologique et politique.
Collection de liens sur l'AI & les LLM (par david)
On est plusieurs à collectionner les liens sur l'IA comme je le fais ici. Je soupçonne un besoin de documenter, pour répondre, informer autour de soi et résister. Voir aussi la liste de Krhys https://khrys.eu.org/politique/ia/