Editorial
L’intelligence artificielle générative, qui passe aujourd’hui pour « l’IA » tout court, est un type de logiciel utilisant des méthodes d’apprentissage automatique afin de produire, à partir de quantités gigantesques de données numériques, des imitations mécaniques de contenus ou d’actions produits par des humains (textes, images, sons, vidéos, codes informatiques, prévisions, décisions, etc.). L’apprentissage automatique se base sur des vecteurs mathématiques interconnectés formant des « architectures » élaborées par des ingénieurs en fonction des tâches diverses attribuées à ces machines. Ils sont souvent appelés, de manière trompeuse, « réseaux de neurones artificiels ». Ces réseaux sont capables de reconnaître et de reproduire des invariants, des schémas, des motifs, des protocoles, des procédures, etc., présents dans un nombre élevé de données d’entrée (pour la plupart récoltés sans autorisation sur Internet), et ce sans modélisation préalable de ces données par des opérateurs humains.
Cette technologie n’est pas nouvelle en soi : elle existe sous des formes théoriques et expérimentales depuis les années 1940-1950. Elle s’est cependant rapidement développée ces dernières décennies et ses applications se propagent depuis quelques années comme un feu de forêt en période de sécheresse, la date symbolique de « départ de feu » étant le lancement public du robot conversationnel ChatGPT, fin 2022. Cette date marque aussi un tournant dans les usages de cette technologie, avec l’addition aux applications essentiellement prédictives et analytiques d’usage passif déjà en circulation ces dernières décennies (algorithmes de recommandation, filtrage de spams, prédiction de risques de fraudes de cartes de crédit, etc.), d’applications d’usage actif de génération de contenus et d’actions (fabrication de textes, d’images, sons, codes, hypothèses, aides à l’organisation, à la décision, piratage informatique, etc.).
Un des aspects frappants de ce tournant du début des années 2020 réside dans la viralité de la propagation de l’IA. En l’espace de quelques années, cette technologie a littéralement envahi l’usage des appareils numériques, qui les intègrent souvent par défaut. Par-delà les usages quotidiens plus visibles comme les moteurs de recherche, la rédaction d’e-mails, la traduction automatique, les recherches vocales, la génération d’images, de son, etc., elle est largement utilisée dans la surveillance de masse et dans la technologie militaire, et est intégrée à un nombre croissant de professions, dans les secteurs les plus divers, dans lesquelles elle occasionne déjà des transformations profondes.
Entre les promesses extravagantes (éradication de la pauvreté, disparition du travail humain, abolition de l’argent, ou encore « communisme de luxe », dans un horizon temporel de 10 à 15 ans) et pseudo-menaces existentielles (la « super-intelligence » ou « singularité », une intelligence-machine qui détruira l’humanité) proférées par ses promoteurs et investisseurs, d’un côté, les alertes et les mises en gardes par les critiques (empreinte écologique catastrophique et insoutenable, potentiel de destruction massive de l’emploi, abêtissement général de la population, renforcement des discriminations racistes, sexistes, etc., mise à mal des droits d’auteurs, facilitation de violations des droits humains…), de l’autre, il devient urgent… de s’extraire de cette frénésie et de prendre le temps de penser la nature et la direction de ce qui est en train d’arriver avec la propagation fulgurante de cette technologie, et ce avant la consolidation définitive de ses infrastructures qui rendront toute velléité d’alternative caduque.
Dans cet esprit, la visée de ce dossier de Permanences critiques est avant tout d’identifier et reconstituer un certain nombre de contextes pertinents pour l’interprétation du phénomène « IA », de réinsérer ce dernier dans les cadres et conjonctures sociopolitiques qui expliquent les raisons de son développement et son expansion virales, qui permettent d’évaluer ses impacts et ses perspectives futures, ainsi que de dévoiler certains de ses aspects moins visibles. Cet effort théorique est nécessaire notamment en raison des stratagèmes d’escamotage médiatique des enjeux réels de l’IA par le recours à une véritable politique d’effets d’annonce dans laquelle se mélangent les coquecigrues sur la soi-disant super-intelligence destructrice du genre humain et les pseudos-appels, par ses promoteurs eux-mêmes, à la régulation du secteur – rhétorique ayant principalement pour but de convaincre les investisseurs de la surpuissance de cette technologie, d’une part, de saturer l’espace public de fariboles et d’os à ronger qui empêcheront toute discussion rationnelle et critique du sujet, d’autre part.
Deux hypothèses fondamentales nous ont guidé dans ce travail de recontextualisation et de démystification du phénomène « IA ».
La première est que la question de l’IA doit être comprise dans le cadre d’une réflexion sur le phénomène plus large de la numérisation de la société, signifiant l’imposition forcée, dans l’intérêt des groupes économiquement et politiquement dominants, d’outils numériques dans tous les domaines de la vie sociale, hypothèse que nous avons explorée préalablement dans le dossier du numéro 11 de Permanences critiques. La numérisation de la société y était abordée non pas comme un simple phénomène technologique, mais plus largement sociopolitique : comme un dispositif visant la captation et la manipulation du pouvoir d’agir du grand nombre, au profit des intérêts des groupes dominants. L’inscription de l’IA dans cette problématique implique de l’appréhender comme un élément ou un stade de ce processus de numérisation, comme un enchevêtrement d’appareils de pouvoir de natures diverses (technologies, certes, mais aussi des idéologies, des arrangements économiques, des procédures législatives, des luttes institutionnelles sur les lieux de travail, etc.) visant la modification des rapports de forces politiques entre les diverses classes et groupes sociaux.
La deuxième hypothèse est que le phénomène « IA » est intimement lié au monde du travail, plus précisément à la longue histoire de l’automatisation en régime capitaliste. L’intérêt des investisseurs pour cette technologie réside en grande partie dans l’espoir qu’elle permettra un accroissement sans précédent de la productivité du travail par le biais de son intensification et sa déqualification, d’une part, par la suppression de postes assurés désormais par des « machines intelligentes », de l’autre, et ce particulièrement dans la catégorie des emplois dits « intellectuels » ou « créatifs », auparavant considérés comme relativement bien protégés de l’automatisation (traduction, journalisme, management, métiers juridiques, finance, recherche scientifique, etc.) La centralité de la question du travail dans la compréhension que nous avons de l’IA doit être explicitement affirmée et soulignée dans la mesure où beaucoup d’efforts sont mis en œuvre par ses promoteurs pour escamoter le fait que cette technologie est avant tout une arme aux mains des élites financières et politiques pour l’exploitation et la domination des classes subalternes.
La première contribution à ce dossier, l’étude de Gabor Tverdota intitulée « L’IA au travail. Automatisation, taylorisation et production algorithmique de la culture », s’attelle à déployer ces deux hypothèses fondamentales. L’auteur y aborde des questions centrales du point de vue de la classe-qui-vit-du-travail, au cœur des actions d’éducation permanente : quel sera le volume probable de perte d’emplois imputable à l’implémentation de l’IA dans les lieux de travail ? Quels seront ses effets sur la qualité de l’emploi, les conditions de travail, le degré de contrôle des travailleur·euses sur les processus de travail, ainsi que sur les hiérarchies sociales basées sur la division entre travail manuel et travail intellectuel ? L’étude aborde également des questions plus abstraites mais néanmoins essentielles : de quels types sont les savoirs (le plus souvent spoliés) sur lesquels les systèmes d’IA sont entraînés ? Quels changements de nature et de fonction les savoirs numérisés subissent-ils lorsqu’ils sont assimilés puis restitués par l’IA ? Quel rapport existe-t-il entre la captation et la concentration de cette connaissance sociale par les détenteurs des technologies du comportement, d’une part, et l’essor de l’intelligence collective — finalité ultime de l’éducation permanente —, de l’autre ?
Toute critique de l’IA est-elle bonne à prendre ? L’analyse du philosophe Norman Ajari, intitulée « Le complexe d’Ozymandias. De la critique de l’IA à la critique sociale », aborde cette question en problématisant deux approches critiques de l’IA actuellement en vogue, toutes deux participant du complexe en question. Celui-ci dénote une approche qui, face à des défis sociopolitiques majeurs (dans ce cas, l’IA, mais cela marche également pour la catastrophe climatique, les pandémies, etc.), construit des discours dont le but est de créer un sentiment factice d’appartenance commune à une humanité abstraite aux prises avec un ennemi mythique non-humain d’une force extraordinaire, permettant d’effacer les contradictions et injustices sociales réelles à l’origine des défis existentiels qui nous font face. Aussi bien la critique philosophique mainstream de l’IA que celle issue des institutions éducatives majeures participent de ce complexe dans la mesure où, au lieu de prendre l’IA comme révélatrice et intensificatrice des dynamiques sociales capitalistes déshumanisantes, elles en appellent à un retour à la figure libérale de l’Homme autonome, fondement non seulement des idéologies suprémacistes occidentales, mais également de la rhétorique néolibérale de responsabilisation des individus face aux injustices structurelles qu’ils subissent. L’auteur plaide ainsi pour un renouveau de la critique dans ce domaine qui, au lieu de prendre l’IA comme objet séparé et extérieur à notre société, s’attaquerait à l’inverse aux caractéristiques structurelles de l’ordre social qui la produit et dans laquelle elle prospère.
Les deux analyses qui suivent peuvent être lues comme des études de cas de l’automatisation par IA dans deux professions distinctes : le travail social et le métier de juriste. L’article de Périne Brotcorne et Martin Wagener, intitulé « Objectiver l’aide sociale ? La standardisation algorithmique du travail social à l’épreuve du terrain », revient sur le cas du logiciel REDI, un outil algorithmique d’aide à la décision (techniquement un système expert basé sur une IA symbolique) introduit dans les CPAS en 2023, avec le but affiché d’harmoniser et objectiver l’octroi des aides sociales complémentaires. En partant des résultats d’une recherche de terrain auprès de CPAS concernés, les auteur·ices font état d’un scepticisme voire d’une résistance des travailleur·euses à l’encontre de REDI, conduisant à des résultats très marginaux en termes d’homogénéisation des pratiques d’octroi. Comme iels l’expliquent, les travailleur·euses ont développé des règles autonomes (plafonnement des montants, restriction des publics, contournements, etc.) afin de préserver les équilibres organisationnels existants, garder un contrôle sur leur travail et les pratiques locales, protéger le principe du secret professionnel, limiter les ingérences jugées excessives dans la vie privée des bénéficiaires, et d’éviter ce que certain·es d’entre elles et eux considèrent (à tort ou à raison) comme des « pièges à l’emploi » inhérents à la philosophie de REDI.
Dans son analyse intitulée « Comment les systèmes d’IA impactent mon métier d’avocate ? », Anne Rayet, quant à elle, opte pour une posture radicale en arguant que le refus en bloc de l’IA générative est une condition sine qua non pour la survie de sa profession. Contre les discours pro-IA prônant une « maîtrise » d’outils supposés neutres, très présents dans le milieu juridique, elle démontre que cette neutralité est un leurre conduisant à une atrophie cognitive chez les utilisateur·ices, une dépendance croissante envers la machine et l’incapacité de départager le vrai du faux. Son argumentation s’articule autour de quatre pertes causées par l’IA : de la confiance, quand les clients arrivent déjà convaincus par des réponses erronées ou approximatives ; du lien social, quand l’écriture algorithmique se substitue à la parole humaine ; de la pensée elle-même, l’automatisation détruisant le temps long du raisonnement juridique ; enfin du renouvellement générationnel via le travail formateur des stagiaires et secrétaires, remplacé par l’IA générative. Contrairement aux discours en vogue aujourd’hui, l’auteure prône ainsi non pas de « dompter » la machine, mais bien de s’en affranchir, pariant que la frénésie artificielle créée autour de l’IA ces dernières années ne manquera pas de retomber face aux dévastations dont cette technologie est capable dans les métiers juridiques.
Ces analyses de cas d’automatisation du travail sont suivies par un texte qui élargit la problématique vers un contexte tout à fait déterminant pour la compréhension des enjeux de l’industrie de l’IA, à savoir son arrière-plan économique. L’article de l’économiste Michael Roberts commence par rappeler que, malgré leurs performances impressionnantes, les larges modèles de langage restent des systèmes statistiques sans véritable compréhension du monde : ils prédisent du texte plausible plutôt qu’ils ne raisonnent. Cette limite structurelle jette le doute sur la promesse d’un bond de productivité annoncé par les techno-optimistes. Entre les projections enthousiastes de Goldman Sachs et les mises en garde de l’OCDE, du FMI ou de PIMCO, les études s’accordent sur ce point crucial : les gains de l’implémentation de l’IA dans les métiers, si tant est qu’ils existent, résulteront davantage de suppressions d’emplois que d’une hausse réelle de la production. Parallèlement, les investissements colossaux des géants technologiques – des centaines de milliards de dollars pour des revenus pour le moment tout à fait marginaux – dessinent les contours d’une bulle spéculative d’envergure, à l’image de celle des dot-com du tournant du millénaire. L’auteur confronte Marx et Schumpeter pour resituer ce cycle dans la logique plus large de la soi-disant « destruction créatrice » : l’automatisation détruit des emplois avant, éventuellement, d’en susciter de nouveaux, mais ce toujours au prix d’une précarisation durable des classes laborieuses. La conclusion de l’auteur dépasse le strict constat économique : sous le capitalisme, l’IA sert la rentabilité plutôt que l’émancipation humaine ; entre des mains collectives, elle pourrait au contraire réduire le temps de travail et enrichir les capacités de chacun.
L’article Varia de ce numéro, « Travailler pour la paix au service du capitalisme ? Perspectives féministes sur la bullshitisation de l’économie », par Astrid Jamar, invite à interroger ce qui se cache derrière l’économie politique de la paix. En croisant les études féministes sur l’économie politique et le concept graeberien des « bullshit jobs », l’auteure examine comment le secteur professionnalisé de la paix – des organisations internationales, ONG, think tanks, institutions académiques, jusqu’aux ASBL – peut, à première vue de manière paradoxale, contribuer à reproduire la violence structurelle et militarisée du capitalisme qu’il prétend combattre. L’analyse de Jamar décrit comment la bureaucratisation croissante du travail pour la paix, menée au nom de l’efficacité, produit surtout de l’incohérence et dépolitise les luttes, tandis que l’inclusion des femmes y est réduite à des images de marketing révélant en filigrane les logiques patriarcales, racistes et néolibérales à l’œuvre dans cette industrie. En même temps, l’auteure évoque aussi des formes de résistances portées par des économistes et mouvements féministes qui refusent ces logiques. Entre Trump, le gouvernement Arizona et le peacewashing financier, l’article éclaire les absurdités d’une industrie de la paix de plus en plus indissociable de la militarisation qu’elle prétend combattre.
