Comprendre l'IA

Most people who actually have technical roles within the tech industry and are fluent with LLM-like techs agree on the following :

Technologies like LLMs have utility, but the absurd way they've been over-hyped, the fact they're being forced on everyone, and the insistence on ignoring the many valid critiques about them make it very difficult to focus on legitimate uses where they might add value.

This is the majority view of experts on AI. But it's silenced by fear of retaliation. And it blocks any normalized view, where AI is just another tech, that could be controlled, bettered, made greener or decentralized.

L'IA est un outil de baisse des salaires venu d'en haut, pas un outil d’augmentation de la productivité. Elle permet de créer une immense quantité d'offre "médiocre-mais-pas-inutile" en concurrence de l'existant. Les services chers vont devenir encore plus chers, les autres vont devenir moins chers, mais avec moins de garanties de qualité.

Le but d'un système est ce qu'il fait réellement. L'IA sert à produire de la désinformation et de la propagande, au service d'un fascisme qui "inonde la zone de merde" et détruit les conditions d'un débat de bonne foi.

Elle organise une terreur politique : ses limites techniques font son imprévisibilité et son efficacité idéologique. L'ICE et la surveillance faciale sont d'autant plus efficaces qu'elles embarquent des gens "par erreur".

L'IA est adaptée à des besoins professionnels de bas de gamme, qui constituent beaucoup du travail administratif de plein de gens. Malgré ses défauts connus, l'IA aide ces personnes à survivre au capitalisme finissant.

Tant que les critiques de l'IA ne pigent pas ce qu'elle apporte, elles ne comprendront pas pourquoi l'IA prend dans la société. Les critiques sont des gens privilégiés qui n'ont pas besoin de l'IA.

Les IA ne lisent pas le code des pages, elles lisent ce que les moteurs de recherchent affichent dans les résultats. En modifiant la meta description ET en faisant réindexer des pages par Google, les infos de la méta finissent dans certaines IA. Celles qui s'appuient sur Bing (où il n'y a pas eu de réindexation) ne reprennent pas l'info.

La balise meta description peut être réécrite par Google et ne pas s'afficher dans les SERP. Mais il ne faut pas la négliger, car elle sert ailleurs.

Plus on comprend le fonctionnement de l'IA, moins on veut l'utiliser. À l'inverse, moins on la comprend, plus on l'apprécie et elle nous émerveille. On se préoccupe aussi moins des conséquences négatives de l'IA sur les autres quand on la connaît mal.

Une littératie calibrée permettrait que les gens comprennent suffisamment l'IA pour l'utiliser efficacement... sans les dégoûter de l'utiliser tout court. Dans d'autres domaines, celles et ceux qui en savent le plus sont aussi celleux qui apprécient le plus la chose : pas avec l'IA.

Les traducteurs et traductrices sont spécialement touchés par l'IA, alors qu'elle n'apporte presque rien de plus que les technos précédentes (qui menaçaient déjà leur job). Mais la hype constante aide à couper leur salaire et à supporter les mauvaises traductions.

Des groupes s'organisent pour lutter contre ça, parce qu'on perd quelque chose si on ne traduit plus rien correctement. La suite de l'article est une série de témoignages de traducteurices.

On ne peut pas "mettre des humains" pour vérifier le travail d'un IA ou limiter ses erreurs. Soit on automatise tout, soit on fait tout à main. Évaluer un résultat suppose de comprendre ce qu'a fait la machine et pourquoi : l'humain doit repenser toute la tâche lui-même pour l'évaluer.

De plus, les LLM génèrent des résultats plausibles, qu'ils découragent de vérifier : ils rendent la tâche encore plus difficile, alors que les humains ne sont pas doués pour inspecter des erreurs (lire du code est plus dur que de l'écrire).