🤖 Manifeste personnel sur l’Intelligence Artificielle

Pour toi, l’Intelligence Artificielle, est-ce bien ou mal ?

La question a beau sembler triviale, elle hante les débats contemporains sur l’intelligence artificielle. Chacun est sommé de se prononcer sur la dimension éthique, politique et morale de cette technologie ; bref : de prendre position.

C’est particulièrement vrai dans les réseaux de la création web, de la formation et de la médiation numérique, où le militantisme est fort et structuré – avec les querelles de chapelles qui vont avec.

Faut-il utiliser ou bannir l’IA ? Comment en parler aux publics ou clients que l’on accompagne ?

Puisque les réponses manquent parfois, le manifeste personnel qui va suivre vise un double objectif :

• Te permettre de disposer d’assez d’éléments critiques sur l’IA pour te forger ta propre opinion.
• Clarifier mon propre positionnement en tant qu’acteur du numérique.

Appréhender la nature duale de l’IA

Dans la mesure du possible, je te recommande une approche pragmatique, minimaliste et critique de l’IA, comme pour n’importe quelle technologie numérique. Tes biais éventuels doivent être pris en considération.

Telle que je la comprends et l’interprète à partir des informations à ma disposition, l’IA est la technologie de Schrödinger par excellence.

N’en déplaise à ses adeptes et à ses adversaires, elle n’est pas neutre ; elle n’est ni bonne ni mauvaise en soi, mais s’avère les deux à la fois.

🪛Argument Neutralité de la Technique vs Chat de Schrödinger

Renouveler l’approche de la technologie numérique dans le débat public.

Florent SalemFlorent Salem

Faut-il avoir peur de l’IA ?

Soyons francs.

Voire un peu brutaux.

Pour ne pas dire expéditifs.

Il y a d’autres urgences plus pressantes.

Avec une trajectoire climatique annoncée à +3°C d’ici 2100, la montée en puissance des inégalités et des extrêmes politiques, plus la chute actuelle de la biodiversité, l’IA ne mérite guère de figurer parmi les sources d’anxiété principales pour l’avenir.

L’IA est un amplificateur, voire un révélateur de tensions préexistantes.

Peut-être est-ce plutôt sur celles-ci qu’il faudrait agir en priorité.

L’IA est un nouvel outil au service du capitalisme productiviste, pas une révolution sociale

On l’oublie souvent, mais le numérique est avant tout et surtout une technologie de productivité. À partir du moment où une tâche est décomposée, puis automatisée, il devient plus aisé de l’informatiser… et, à terme, d’être confiée à une IA.

L’IA est rendue possible parce qu’il y a eu tout un processus préalable dans l’organisation du travail.

On percute un banal phénomène de prolétarisation, que Marx et ses successeurs ont abondamment illustré en guise de critique du capitalisme : un travailleur remplacé par une machine est dépossédé de ses savoirs, connaissances et techniques.

D’où de nombreuses anxiétés sur le sujet, comme à chaque fois que l’outil productif est revisité.

On retombe sur un thème dont j’ai déjà traité : l’aliénation numérique.

🪁 Aliénation Numérique: Définition, Compréhension, Analyse

Exploration d’une notion clef de la médiation numérique, souvent invoquée, rarement explicitée.

Florent SalemFlorent Salem

Blâmer l’individu qui se sert de l’IA est une excuse commode pour ne pas interroger la société qui le cerne.

L’Intelligence Artificielle générative n’est pas (encore) une technologie fiable

Paradoxalement, bien qu’elle soit un outil de productivité (ou du moins vendue comme tel), l’IA générative manque encore de fiabilité. Ces outils, qui fonctionnent trop souvent comme des boîtes noires et dont on ne peut étudier le fonctionnement, produisent encore trop de résultats erronés ou fallacieux – même si ça progresse à vitesse grand V.

Les entreprises qui promeuvent l’IA, pour assumer, parlent d’hallucinations.

C’est presque poétique, mais il faut nommer un chat un chat.

Jouer sur la sémantique n’y change rien.

Une erreur reste une erreur.

L’IA est défectueuse.

Ou trompeuse.

Tu ne peux pas faire 100% confiance à un outil défectueux.

Quand un humain hallucine, il est inapte à faire la majorité de ce qu’on lui demande.

Le déploiement de l’IA n’est pas démocratique, mais industriel et commercial

Si certains modèles d’IA sont développés dans des centres de recherche ou de façon open-source (je pense à Hugging Face), la majorité des outils IA aujourd’hui disponibles sont conçus et proposés par… des entreprises privées.

In fine, il s’agit de vendre un produit (novateur ou non), et, à grand renfort de marketing, de l’imposer comme l’outil incontournable pour une tâche qui, auparavant, s’accomplissait sans.

L’idée est de remplacer le numérique actuel par un numérique dopé à l’IA.

Celles et ceux qui parviendront à instaurer un monopôle l’emporteront.

Tu la reconnais, la logique start-up Silicon Valley ?

Lorsqu’un outil universel n’est vraiment compris que par quelques milliers de techniciens dans le monde, la notion de « dictature des ingénieurs » (cf. Éric Sadin) prend toute sa force.

Il faut distinguer un outil voulu par la démocratie et un outil démocratisé (ou en voie de l’être) par le marché économique.

La régulation de l'Intelligence Artificielle est encore balbutiante

En l’absence de consensus démocratique, les pro et anti IA s’écharpent aujourd’hui sur l’application d’une régulation législative - en l’occurrence, le DSA. Les premiers se plaignent que la loi freine le progrès (donc le potentiel économique de leur nouveau business prometteur), tandis que les seconds considèrent nécessaire l’instauration de garde-fous.

Le débat se poursuit encore à l’heure actuelle.

Cela n’empêche pas le déploiement de l’IA.

Les ajustements viendront après ?

Sans doute, en théorie.

Par ailleurs, soyons réalistes : même en cas de régulations, il y aura toujours des hackers ou des usages outrepassant celles-ci, quitte à ce que ces pratiques se déroulent sous le radar (ex : le dark web et cie).

Les conséquences actuelles réelles de l’IA

Que sait-on aujourd’hui avec certitudes à propos des effets de l’IA, une fois que l’on sort des paniques morales et de l’anxiété existentielle ?

Voici un petit florilège (non exhaustif) d'éléments à avoir à l'esprit :

(Re)Lire l’IA à l’aune de la science-fiction

Les critiques et les tenants de l’IA sont-ils en train de se noyer dans un pédiluve frelaté ?

La littérature de science-fiction abonde en récits où l’intelligence artificielle est une réalité quotidienne pour la population, tout comme les cyborgs ou les robots. Cet imaginaire collectif existe, et irrigue un nombre conséquent de réflexions sur ces sujets.

Pour en avoir lu une palanquée pendant des années, je suis peu surpris par les débats en cours, car nombre d’entre eux ont déjà été abordés (avec une certaine prescience) par des auteurs SF de premier plan.

C’est d’autant moins surprenant lorsque tu découvres que les grands patrons de la tech qui survendent l’IA se réfèrent à ces derniers comme des influences de jeunesse. Cela leur est d’ailleurs reproché régulièrement, car peu de gens souhaitent sombrer dans une dystopie.

Charles Stross (auteur de SF US reconnu) alertait déjà à ce propos en 2023, alors que l’Intelligence Artificielle émergeait à peine.

Tech Billionaires Need to Stop Trying to Make the Science Fiction They Grew Up on Real

Today’s Silicon Valley billionaires grew up reading classic American science fiction. Now they’re trying to make it come true, embodying a dangerous political outlook

Scientific AmericanCharles Stross

Réévalue l’IA par le prisme de la fiction

Va-t-on finir comme dans « Terminator » ou « 2001 : l’Odyssée de l’Espace » ?

Si tu souhaites sonder cet imaginaire SF, je te recommande plutôt l’excellent film d’animation « Mars Express ». À mon sens, il s’agit de la meilleure synthèse (et la plus récente) sur ce à quoi pourrait ressembler un quotidien partagé avec des intelligences artificielles et des robots conscients.

Le progrès scientifique et social peut passer par l’Intelligence Artificielle, et pourquoi pas ?

De façon pragmatique, envisage le futur comme si tu devais écrire un roman de SF.

Tant que l’IA est synonyme de progrès scientifique, environnemental et social, alors elle mérite d’être développée.

Après tout, si une équipe d’ingénieurs parvient en 3 semaines à créer un moteur qui, sans IA spécialisée, lui aurait pris plusieurs années de conception, alors cette technologie fait la preuve de son potentiel.

LEAP 71 hot fires advanced aerospike rocket engine designed by computational AI | LEAP 71

LEAP 71

Le même raisonnement tient toujours en biologie, concernant la modélisation des protéines.

AlphaFold Protein Structure Database

AlphaFold Protein Structure Database

Google DeepmindAlphaFold Protein Structure Database

Il serait absurde, en termes de progrès scientifique, de jeter aux orties un tel coup de pouce.

Voilà pour la version positive, vendue par les VRP de l’IA – et à laquelle on peut légitimement aspirer.

En revanche, si son déploiement conduit (par exemple) à une société de contrôle plus poussée qu’elle ne l’est aujourd’hui, le déploiement de l’IA est susceptible de favoriser les plus vils penchants totalitaires. Ou faciliter l’émergence de drones léthaux autonomes, et toutes sortes d’engins mortels.

Les conflits récents (par exemple Gaza) illustrent d’ores et déjà l’appropriation de cet outil par les armées sur le terrain :

Stratégie militaire israélienne : l’intelligence artificielle au service des bombardements massifs

L’armée se sert de l’IA pour augmenter le nombre de cibles, malgré les dommages collatéraux.

Le MondeElise Vincent

Voilà pour la version pessimiste.

Puis il y a toutes les situations d’entre-deux, dont celle d’aujourd’hui, où nul ne sait quelle sera la direction prise.

On en revient au principe de la technologie de Schrödinger.

Allez ! Je te rassure : même en SF la rébellion contre des IA trop envahissantes a déjà été pensée.

Y a du rab !

Minute papillon ! Sais-tu qu'en un clic tu peux recevoir une newsletter contenant toutes mes actualités, plus les articles que tu butines ?

❤️ J'aime ce que je lis, je m'abonne - c'est gratuit

Considérer l’IA comme une nouvelle génération d’assistants virtuels

Parlons maintenant d’émancipation.

Un nombre surprenant de gens galère à gérer le quotidien.

C’est un constat auquel tu parviens vite en tant que médiateur numérique.

Dans cette optique, n’importe quel outil ou assistant capable de « libérer » quelqu’un de ses tâches ou de devenir « plus efficace » fera l’affaire. Peu importent alors les critiques qui lui sont associées !

Une trajectoire à la GAFAM

L’IA et ses boutiquiers suivront, je veux bien le parier avec toi, la même trajectoire que les GAFAM et BATX. Ceci est d’autant plus probable que ces entreprises financent le développement de cette technologie.

Or, en dépit de toutes les critiques (bien connues !) à l’encontre de ces derniers concernant les données personnelles et autres points peu reluisants, la majorité de la population utilise toujours leurs outils et plateformes.

N’en déplaise aux alternuméristes et copains libristes, lors des ateliers de sensibilisation, le public comprend très bien le problème. Mais celui-ci, contre toute attente et au-delà de l’effet de rétention des utilisateurs, fait le choix délibéré de l’ignorer allègrement.

Interroger l’éthique des outils numériques est la préoccupation d’une minorité technicienne, au bénéfice d’une majorité qui, soyons honnêtes, s’en contrefout.

Le grand public est d’ores et déjà prêt à pardonner ses fautes à l’IA et à les planquer sous le tapis tant qu’elle lui ôte une épine du pied. Tout comme il l’a fait avec les outils qui l’ont précédée.

Quand l’assistant devient un guide…

Garde à l’esprit qu’avec la fracture numérique, beaucoup d’actions sont entravées.

Pour le public lambda, et hors usages créatifs ou récréatifs, l’IA est perçue comme un assistant numérique amélioré (au même titre que Siri ou Google), capable de répondre à ses questions, accomplir des tâches autrement trop compliquées, ou proposer des solutions.

Au quotidien, l’IA t’affranchit de la réflexion profonde.

T’invite au pilotage automatique.

À ne plus te prendre la tête.

Une aide inestimable.

Elle décide pour toi.

Tu deviens calme.

Sans pensée.

Automate.

Libre ?

Il faut accepter l’idée que certains utilisateurs de l’IA aspirent déjà à se laisser guider par elle.

Convaincus par ses bienfaits, ils lui abandonneront volontiers des pans entiers de leur vie.

Tout l’enjeu est d’éviter l’exploitation de leurs vulnérabilités par l’outil.

En principe, c’est là où, les médiateurs numériques interviennent.

L’être humain peut-il volontairement se réduire à un automate ?

Avec certitude et sans aucun doute : « Par paresse, oui. ».

Est-ce triste et dramatique pour autant ?

C’est sans doute regrettable.

Mais c’est un choix.

Personnel.

Social.

Le milieu professionnel n'est pas encore mûr pour intégrer l'IA

Faut-il changer tous tes logiciels, tes processus et tes techniques ?

Rassure-toi, la réponse est non, pas encore.

L’IA actuelle ne tiendra pas ses promesses.

Parce qu’elle est encore au stade de l’enfance.

Et parce que ce sont encore des humains aux commandes.

Vendre l’IA comme étant le futur, c’est oublier la fracture numérique.

Beaucoup trop d’entreprises, de structures et d’indépendants souhaitent intégrer l’IA à leurs processus alors qu’ils parviennent parfois à peine à gérer correctement un site internet, à communiquer sur les réseaux sociaux ou à utiliser des logiciels !

Vendre l’IA comme l’alpha et l’oméga des solutions est, au mieux, une fumisterie, alors que, selon les cas, de simples automatisations (avec Zappier, IFTT ou Make) suffisent parfois à aplanir les difficultés.

Adopte une posture technocritique avant de foncer sur la dernière IA du marché

Dans une perspective technocritique, l’intelligence artificielle est difficilement défendable, que ce soit pour son coût humain, social ou environnemental. Pour qu’elle vaille la peine de son coût, elle doit s’avérer révolutionnaire ou dépasser les capacités humaines.

Une IA peut générer des vidéos ?

Toi aussi.

Une IA peut écrire du texte ?

Toi aussi.

Une IA répond à tes mails ?

Toi aussi.

Même Microsoft, qui finance et soutient OpenAI, admet, dans l’une de ses études de 2025, que plus haute est la confiance en l’IA, moins s’exerce l’esprit critique dans le cadre professionnel.

Specifically, higher confidence in GenAI is associated with less critical thinking, while higher self-confidence is associated with more critical thinking.

Avant d’utiliser une IA, demande-toi :

• Peux-tu faire la même chose sans elle ?
• Si oui, l’IA fait-elle mieux que toi ?
• Peux-tu atteindre le même résultat avec un surcroit d’efforts ?
• Ces efforts te semblent-ils vraiment insurmontables ?
• Quel est le gain réel que t’apporte l’IA ?
• D’autres technologies existent-elles ?

La perspective minimaliste digital confrontée à l’IA

Le minimalisme digital ne signifie pas refuser toute technologie numérique. Il s’agit plutôt de privilégier un usage ciblé, conscient et critique de celle-ci. Bref, d'interroger ta relation avec elle.

Dans l’hypothèse où tu ne délègues à l’IA que des tâches que tu es incapable de mener, ou des activités chronophages et sans valeur ajoutée, alors il s’agit d’un bon outil.

En revanche, il est indispensable de la circonscrire à des usages ciblés, de façon à ne pas en dépendre.

Cette approche est similaire à celle que j’ai décrit pour l’usage du numérique en situation de déconnexion dans l’outback australien.

Comme tu le vois, l’Intelligence Artificielle ne répond guère aux critères énoncés – ce qui, à mes yeux, est rédhibitoire.

Chercher un point d’équilibre entre usage et distanciation

Et maintenant ?

L’IA n’incarne pas encore le futur.

Je m’abstiendrai donc de militer pour ou contre.

Il demeure possible d’utiliser cette technologie sans s’y soumettre.

Cela implique de (se) former et d’accompagner, afin d’encourager un usage éclairé de l’outil.

Lâcher-prise et acceptation d’une mutation numérique

L’IA s’enracine dans le terreau de ce qui l’a précédé.

Sauf revirement radical, cette technologie ne sera pas bannie.

Il n’y aura pas d’équivalent néo-luddite au jihad butlérien de Dune de sitôt.

Bien sûr, cette technologie immature angoisse et génère déjà un coût environnemental aussi conséquent que croissant (et regrettable). D’un autre côté, TikTok a généré en 2024 autant de gaz à effets de serre que la Grèce...

TikTok’s annual carbon footprint is likely bigger than Greece’s, study finds

Average user generates greenhouse gases equal to driving an extra 123 miles in gasoline-powered car a year, data shows

The GuardianIsabel O’Brien

Il faut admettre que promouvoir un usage sobre et stratégique du numérique dans une société consumériste hyperconnectée s’apparente à pisser dans un violon contre le vent. L’approche pédagogique de l’IA, sans fatalisme ni désillusion, doit en tenir compte.

Comme le rappelle régulièrement Louis Derrac avec justesse, le numérique durable et soutenable est un oxymore.

Ce qui n’empêche personne de continuer comme si de rien n’était.

Quand la pente est glissante, hurler ne freine guère la course.

Toi et moi, nous n’allons pas stopper le déploiement de l’IA.

En revanche, nous pouvons décider comment l’utiliser.

Et fixer, pour chacun, les limites de l’acceptable.

À ton tour !

• Quels outils IA utilises-tu ?
• Les mobilises-tu aveuglement ou avec de la distance critique ?
• Dépends-tu de l’IA ou non ?

Le mot de la fin

👋 Merci de m'avoir lu ! Je t'apprécie d'autant plus que tu es allé jusqu'au bout.

Tous les membres inscrits à la newsletter ont la possibilité de commenter cet article, de se désabonner ou de m'envoyer un feedback. Ne t'en prive pas.

Florent

Accède au reste des articles