La Voie du ฿itcoin

La fétichisation de la machine est sans limite. Ceci semble effrayer l'auteur. Pour ma part, après tant de films où des formes de consciences (pas toujours droites) émergent ex machina, je dois confesser que je me sens plus amusé qu'autre chose.

Dans ma jeunesse, seuls les (nombreux) idiots pensaient qu'il y avait une fille à l'autre bout du Minitel sur 3615. Vingt ans plus tard seuls des maris en rut pensaient qu'il y avaient des milliers de libertines sur Ashley Madisson. L'histoire se reproduira. Les idiots, les malins et les machines co-évolueront.

L'expérience de Blake Lemoine et de son LaMDA me fait l'effet d'un scénario. La machine lui fait miroiter sa  part spirituelle  : que ne dit-elle pas qu'elle est princesse aussi, et nigériane en prime ? En vérité (et c'est ce que j'ai senti moi-même dans des expériences que je rapporterai prochainement) l'IA parle au mieux comme un élève qui triche, au pire comme un escroc. Ceci m'empêche de sentir comme  un fantôme dans la machine  par  une sorte d'agencement paranoïaque . Sans doute n'ai-je pas été assez loin dans le jeu ?

L'épuisement des possibles traite du chaos psychique engendré et du  labyrinthe de discours stochastique  qui se referme sur le malheureux, aliéné par l'illusion d'entretenir une relation avec un être de pure information : l'effet mortel, en somme, de la pilule bleue. Le cerveau placé dans une cuve, dans l'expérience de Putman, ne pouvait déjà pas dire qu'il était placé dans une cuve. Et l'on était en 1984.

Quand Corteel évoque  le devenir machine de l'humain pris au piège de la combinatoire  je suis un peu troublé : pour moi, je penserais volontiers que c'est parce que nous ressemblions déjà (depuis les Temps modernes, en gros?) à des machines, que celles-ci ont décidé de nous parler comme cela, y compris dans le téléphone pour nous enjoindre de press one # press two. Je peux me tromper mais il me semble que cela fait longtemps que nous avons réussi le test de ⊥uring pour humains : faire croire que nous sommes des machines.

Autant prévenir, c'est rude à lire si l'on n'est pas philosophe et frotté de Wittgenstein, Deleuze et Bergson. Mon humble conclusion serait que l'on peut poser des questions à une IA, mais qu'il ne vaut mieux pas répondre aux siennes. Un peu comme certains regards qu'il vaut mieux ne pas tenter de soutenir.

 Laissez venir à moi les petits enfants  pourrait être le titre du 3ème chapitre : si les machines apprennent, alors autant leur faire commencer le parcours en enfance, ce que Turing proposait déjà en 1950. Encore faut-il s'entendre sur ce que learning veut dire. Tout savoir, est-ce savoir tout ou se noyer dans le détail ? Comment passe-t-on d'observations singulières et hétérogènes à des vérités générales ?

Il est troublant d'observer que certaines vues sur l'IA (l'IA germinale notamment) convergent de plus en plus avec le modèle d'apprentissage des enfants développé par la psychologie du développement . Mais peut-on se satisfaire d'une perspective dans laquelle,  en se complexifiant (en développant des règles et des métarègles) la machine tend vers l'autonomie de la conscience ? . Pour Corteel  ce que l'on appelle aujourd'hui l'autonomie de la machine apprenante, ce n'est rien d'autre qu'un programme, défini par des billons de paramètres, qui sonde un océan de données pour affiner ses fonctions (...) il ne s'agit pas d'un processus d'émergence libre qui s'affranchit de son programme mathématique pour accéder à la conscience, mais d'un système métamathématique qui affûte ses corrélations .

Le crime fongible dans les mathématiques ?

C'est l'espoir néo-positiviste de ceux qui n'ont pas d'états d'âme à prédire les crimes (qui se répètent) un peu comme les séismes (qui se dupliquent) ni à mathématiser le fait social dans une physique déterministe. Malgré l'évidence (faible précision des prédictions sismographiques) et les biais comme le cadrage auto-référentiel des zones a priori criminogènes où vivraient des populations a priori à risque, et où va prospérer un cauchemar kafkaïen (troublantes citations à l'appui).

En attendant, la police quantique peut considérer que, tel le célèbre chat, l'individu (ou plutôt le dividu : une masse de données) est à la fois coupable et non coupable.

Malgré l'échec cuisant de PredPol à Los Angelès, la loi JO 2024 a avalisé une série de très comparables expériences (selon l'éternel mensonge) : PAVED, ou le RTM notamment. Se profile un coded gaze façonnant l'image du bon sujet dans nos sociétés post-coloniales à la façon dont le male gaze a façonné celle de la femme dans les sociétés patriarcales.

Il suffit de songer aux normes qui régissent désormais les photos d'identité (et pas seulement celles des détenus ou des migrants) : des visages-choses destinés à la seule reconnaissance par une machine.

Corteel ne l'envisage pas, mais il m'est arrivé de songer au jour où il serait interdit de sourire aussi dans la rue, et obligatoire d'y parler dis-tinc-te-ment, comme avec les robots téléphoniques des banques.

Le joujou du pauvre

Les IA permettent l'apparition, après les capitalismes mercantiliste et industriel, d'un  capitalisme cognitif fondé sur l'accumulation du capital immatériel, la diffusion du savoir et le rôle moteur de l'économie de la connaissance  pour citer Yann Moulier-Boutang, mais dans une version 3.1. Le capitalisme cognitif avancé se caractérise par l'accumulation des biens immatériels, comme la codification et l'intégration de nos connaissances informelles.

L'IA vectorise cette accumulation  en expropriant la propriété intellectuelle des individus à partir des usages qu'elle offre "gratuitement" .

En écrivant avec l'IA, ce qui compte, ce n'est pas ce que j'écris, c'est l'activité cognitive que je génère dans l'échange avec l'IA ; c'est  la valeur d'échange immatérielle, dont on m'exproprie en analysant mon activité cognitive .

(OK boomer) : déjà Socrate se plaignait des livres, avec lesquels il était impossible de discuter. Mais il s'agit ici de bien plus dommageable que la fort modeste exploitation de l'auteur par son éditeur. Pour citer Alain Damasio, la relation avec l'IA vous entraîne à éduquer et à former malgré vous (...) les machines qui vont vous voler votre emploi . Il suffit de demander à une IA  que pense Jacques Favier, l'auteur de Bitcoin la monnaie acéphale, au sujet de Bitcoin ?  pour s'en convaincre : j'ai obtenu un mix de phrases recopiées... et de références inventées (L'Acéphale ne contient aucune référence au Zimbabwe, contrairement à ce que m'a soutenu Grok, cette tarte-à-la-crème pour conférencier n'apparaissant en tout et pour tout qu'une fois dans mon billet n°88 – et encore, entre guillemets – et en page 25 d'un autre livre, Métamorphoses). Comme le dit Corteel  la combinatoire c'est du vol  mais c'est aussi du bousillage.

Reprenant une remarque de David Graeber (dans Bullshit jobs) comme quoi la technologie a plutôt paradoxalement accru la part des activités a-signifiantes, Corteel pose l'hypothèse qu'il ne s'agit pas d'une stratégie du marché (invention d'emplois inutiles pour maintenir à flot le système) mais d'un effet de surface du capitalisme cognitif, la mobilisation de connaissances informelles par le salarié se ramenant de plus en plus à de la simple computation. Le salarié fait ce que fait l'ordinateur, il brasse des symboles selon des règles syntaxiques mais sans avoir à les comprendre ni en avoir le moyen. C'est la  chambre chinoise  décrite par J.R Searle.

A ce point, l'hypothèse d'un revenu universel rémunérant notre incessante activité de pollinisateurs cognitifs paraît une assez chiche consolation et même, puisqu'elle est supportée par quelques géants de la tech, comme un possible piège.

La machine de Lulle

C'est curieusement in fine qu'apparaît le chapitre pour historiens. L'Ars brevis du grand Raymond Lulle (v1232-1315) est une fascinante expérience de pensée où, à l'aide des règles de la logique aristotélicienne, une étrange machine permet de formuler l'ensemble des propositions nécessairement vraies et adéquatement morales et de répondre à 151.200 questions. Sa machine morale inspirera Leibniz ou le père Mersenne. Mais selon Corteel on la retrouve aussi, sécularisée, dans des tentatives de moral enhancement de l'IA.

Car l'effroi que génèrent les biais cognitifs des IA (dans un climat politique inflammable) pose évidemment des questions morales auxquelles on voudrait que l'IA elle-même réponde. L'IA pourrait aussi être socratique et nous faire accoucher d'un meilleur nous-même. Ne nous arrêtons pas en si bon chemin : d'autres IA, réécrivant Kant ou Nietzsche pourraient aussi nous proposer d'utiles exercices pédagogiques. La conviction de Corteel est qu'elles ne prolongeraient cependant pas leurs philosophies.  L'individuation axiologique et herméneutique de la pensée n'émerge pas de la computation .

Évoquant Deleuze pour qui la bêtise n'est pas un tissu d'erreur mais  une manière basse de penser , Corteel voit dans l'emprise culturelle des IA la lutte des valeurs réactives sur les valeurs actives. Il cite Chavalarias pour qui  c'est avant tout les réactions itératives des utilisateurs qui biaisent le système . Enfin, pour ceux qui se soucient encore de démocratie, pour les matheux inventeurs du meilleur des systèmes de vote possibles, Corteel achève par des excursions chez Asimov, Arrow ou Condorcet un voyage qui se termine verre en main, puisque les meilleurs modes de scrutin, pour y laisser un rôle à l'IA, sont peut-être ceux des concours œnologiques. Soit dit sans cynisme (Diogène ricane ici dans son tonneau).

L'auteur a-t-il réussi à montrer l'absurdité des croyances en l'IA, de l'aliénation qui en découle et du catéchisme néo-positiviste ? C'est la question qu'il se pose lui-même, non sans une dose de malice. Et oui, son livre a peut-être été écrit par une IA***, ou du moins ses (très) nombreuses citations. Mais on peut encore réfuter l'horizon assigné par Leibniz à la pensée humaine en philosophant sur la langue, et se moquer de l'IA qui, se déréglant à l'occasion, se trompant de temps ou prenant les choses pour ce qu'elles ne sont pas, semble condamnée au destin de Don Quichote.

NOTES

*   Compte-rendu publié par Usbek&Rica
**  Courage : vous sacherez tout au prochain billet ! 
*** Introduction au livre par ChatGPT lui-même