La morale de l’histoire.A. – Corpus documentaire, formation et décisions

DES GENS DE TROP DE FOI

Dans le livrePeur de la science Enrico Pedemonte raconte qu’à Petersburg, Kentucky, le pasteur australien Ken Ham a investi 27 millions de dollars pour construire un parc à thème dans lequel l’histoire de la Terre est exposée selon le point de vue de la Bible. Depuis sa création en 2007, leMusée de la Création a accueilli plus de 3 millions et demi de visiteurs, qui ont pu constater de leurs propres yeux que notre planète n’a pas plus de 6 000 ans et que les dinosaures existaient encore au Moyen Âge – lorsque Saint Georges et les autres chevaliers les ont exterminés, les prenant pour des dragons. À l’époque de Dante, le WWF aurait décrit la menace d’extinction avec un pauvre tyrannosaure, harcelé par des jeunes hommes issus de bonnes familles en armure brillante – et non un panda.

Une très grande partie de l’opinion publique cultive un rapport à l’intelligence artificielle comparable à celui qu’entretiennent les habitants de la « Bible Belt » américaine envers l’histoire : une foi qui nous affranchit de tout effort d’étude et d’analyse approfondie. Sauf que les colporteurs de fantaisies technologiques n’ont même pas besoin de faire l’effort de construire des parcs à thème pour convaincre leurs spectateurs : les moyens ne manqueraient pas, étant donné que parmi eux se trouvent des gens comme Elon Musk et Sam Altman. Dans le filmfantaisie d’envergure universelle qui propose l’AGI comme un événement imminent, les rôles semblent inversés : l’ordinateur qui réalisera l’intelligence artificiellegénéral il est décrit comme un véritable dragon de talent et de raisonnement, avec sa propre personnalité, son jugement indépendant, sa mémoire illimitée, ses connaissances incommensurables, sa clarté stratégique, sa subtilité logique et (pourquoi pas ?) son cynisme visant à dominer l’homme et l’univers. Que peut faire un Saint Georges moderne, sous les traits d’un programmeur ringard, ou d’un poète héroïque en chair et en os, ou d’un chirurgien qui fait tout ce qu’il peut pour la santé de ses patients, ou d’un juge qui désire défendre la justice autant que Job ? devant Dieu, que pourront faire ces saints laïcs face à un tel monstre ?

Nick Bostrom a prévenu il y a plus de dix ans que si cette forme d’intelligence devait apparaître, pour nous tous et pour nos saints, il serait déjà trop tard, car la machine qui a atteint les performances de l’AGI ne s’arrêterait pas à notre niveau de rationalité, mais il grandissait à une intensité exponentielle, acquérant des degrés de perspicacité tels qu’il empêchait la découverte de ses manœuvres et inhibait l’arrêt.

GRILLE-PAIN AVEC UN TALENT POUR LES STATISTIQUES

Mais est-ce vraiment comme ça ?

AGI est génial, et ChatGPT est son prophète : beaucoup le considèrent ainsi. Le logiciel d’OpenAI est considéré comme l’avant-garde du secteur de l’intelligence artificielle, grâce au marketing que les anciens et actuels membres fondateurs ont animé autour de ses performances : le limogeage de Sam Altman en tant que PDG en novembre 2023, revenu après moins d’une semaine, et les controverses avec Elon Musk, ont contribué à amplifier le battage médiatique autour des produits de l’entreprise californienne. Mais si nous essayons d’ouvrir l’armure qui protège la machine et d’examiner l’heuristique de son fonctionnement, nous trouvons un dispositif qui calcule quel devrait être le prochain mot à imprimer dans la séquence syntaxique de la phrase, en fonction du plus grand degré de compréhension.chance que le lemme a enchamp sémantique dans lequel apparaît son prédécesseur. Les champs sémantiques sont des structures mathématiques dans lesquelles chaque mot est converti en un vecteur qui mesure la fréquence de ses occurrences à côté d’autres mots, encorpusdes textes qui composent la base de données deentraînement. Par exemple, le lemmefenêtre apparaît plus fréquemment à proximitémaison,rue,balcon; sa présence est moins probable plus tardtranssubstantiation oEucharistie.

Bien sûr, ChatGPT est une merveille d’ingénierie, car il calcule (pour le moment) 1 500 milliards de paramètres pour chaque mot ajouté dans la séquence propositionnelle ; mais de toutes façons il n’a pas la moindre idée de ce qu’il dit, il ne sait même pas qu’il parle, il n’a aucune perception de ce qu’est un interlocuteur et qu’il y a un monde sur lequel portent ses discours. En témoignent les « perroquets stochastiques » qui reviennent dans ses compositions : les erreurs qui peuvent apparaître dans ses déclarations ne violent pas seulement les vérités factuelles (qui peuvent être des inexactitudes de datation, des citations fausses, etc.), mais attaquent la structure du “connaissance du Contexte”, la logique transcendantale qui rend l’expérience elle-même possible. Pour les textes écrits par ChatGPT, un livre publié en 1995 peut citer des essais publiés en 2003 ou décrire une partie de Go qui s’est déroulée en 2017 : le discours du logiciel est infesté d’hallucinations qui prouvent l’absence de compréhension, dans tous les sens du terme. termeintelligentde ce que signifie la séquence de signifiants alignés par son bavardage. Un dispositif qui ne montre aucune compréhension de l’existence du monde et de ses configurations les plus stables n’est même pas capable de poursuivre des objectifs autonomes, de juger, d’estimer, de vouloir, de décider. ChatGPT est un logiciel doté de l’intelligence d’un grille-pain, et d’un immense talent pour calculer la probabilité dans la succession des mots.

CE QUE L’IA DIT DES HUMAINS

Comment se portent les frères et sœurs, les cousins ​​​​et les parents proches et éloignés de ChatGPT ?

Prenons le cas exemplaire, décrit par Gerd Gigerenzer, du logiciel COMPAS adopté par les tribunaux américains pour collaborer avec les juges dans l’évaluation des libérations conditionnelles. Chaque année, la police américaine arrête environ dix millions de personnes et le magistrat doit décider s’il valide l’emprisonnement ou libère le citoyen, en partant de la conviction qu’il ne répétera pas le crime. COMPAS a contribué à prononcer environ un million de condamnations, après avoir été formé sur toute la jurisprudence déposée dans les dispositions de tous les niveaux des tribunaux américains. L’analyse de ses propositions a mis en évidence une série de préjugés discriminatoires en fonction de la couleur de la peau, du sexe, de l’âge et de la richesse, au détriment des jeunes hommes noirs issus des quartiers pauvres. Cependant, la pénalisation raciale implicite dans les décisions du logiciel ne vient pas du caractère ghettoïsant de l’intelligence artificielle : la machine ne dispose pas d’autonomie de jugement, mais résume en chair et en os les avis catalogués dans les archives des ordonnances des magistrats. et le sang, qui sont les véritables agents des préconceptions et de l’intolérance dont le dispositif numérique n’est que le porte-parole. La croyance selon laquelle la suspension de l’usage de l’IA, au profit de l’autonomie des délibérations des juges humains, peut faire taire l’intolérance qui se propage parmi les évaluations des logiciels, est une illusion comme l’Eden deMusée de la Création: les auteurs des textes dont COMPAS a appris le fonctionnement de sa profession continueront d’appliquer les principes – plus ou moins inconsciemment – du racisme qui innerve la société américaine et leclasse supérieure légal.

Au préjugé conceptuel, les magistrats humains ajoutent aussi les déviations dictées par leur physiologie. Une étude conjointe de la Columbia Business School et de l’Université Ben Gourion publiée en 2011 a montré que les juges choisissent avec leur instinct – et ils le font littéralement, car les verdicts deviennent de plus en plus sévères à mesure qu’ils s’éloignent des heures de repas. Au moins, les logiciels ne sont pas sensibles à la sensation de faim.

Il ne vaut pas non plus la peine de cultiver des illusions sur l’amélioration du traitement des candidats à la sélection d’un emploi : les services du personnel qui abandonnent la lecture des CV aux appareils d’IA (qui à leur tour ont appris à discriminerentraînement sur la base de données des embauches précédentes) ne seraient pas prêts à faire de meilleures évaluations – selon toute vraisemblance, ils ne liraient tout simplement pas les CV.

NOTATION ANIMAUX UNIVERSELS ET AUTRES FANTASTIQUES

Gigerenzer vous invite à vérifier attentivement les chiffres divulgués par les bureaux de marketing et les journalistes avides de sensationnalisme : nous en avons déjà parlé dans un autre article surControverses.

La croyance qu’une nation peut gérer un calcul denotation La vie sociale de chacun de ses citoyens appartient au répertoire des effets médiatiques de masse pour générer la panique. L’idée selon laquelle la Chine, avec près de 1,4 milliard d’habitants, serait capable de le mettre en œuvre est encore moins crédible. La mise en place d’un processus à si grande échelle nécessite une puissance de calcul qui ne peut actuellement être gérée par aucune infrastructure technologique. La réalité de ce projet est similaire à celle de certains animaux du bestiaire deMusée de la Créationici au profit de la propagande du régime de Pékin et de sa volonté de gonfler des muscles informatiques inexistants. Le gouvernement chinois pille également les données des citoyens auprès d’entreprises fournissant des services de communication et de commerce électronique, dans le but d’armer des systèmes de contrôle à grande échelle, que l’Union européenne a déjà interdits avec laLoi sur l’IA entrée en vigueur en juillet dernier. Il est sans aucun doute légitime de prévenir des tentations similaires de gérer la répartition des prestations sociales ; mais l’attention portée à cette menace semble actuellement moins urgente que la réglementation qui oblige les producteurs de logiciels à publier les heuristiques avec lesquelles fonctionnent les dispositifs d’intelligence artificielle. Savoir que l’heuristique sous-jacente à ChatGPT est le calcul du mot le plus susceptible d’apparaître immédiatement après celui qui vient d’être imprimé aurait libéré le public de l’anxiété et de l’euphorie de marcher sur le seuil d’un AGI prêt à voler le poste et à juger. l’accusé, imminent au prochain changement de saison. Cela aurait également éliminé la possibilité pour Musk et Altman de se vanter des résultats miraculeux dans la commercialisation de leurs produits – plus impitoyablement que Saint George n’a massacré les dinosaures.

Les risques les plus réalistes imputables à l’intelligence artificielle concernent justement la transparence des heuristiques, la bulle financière induite par les entreprises sans business model (comme OpenAI), les attentes sans fondement alimentées par les sociétés de conseil et les formateurs improvisés, le monopole des modèles fondamentaux déjà conquis par quelques géants de la Silicon Valley, la tentative de prendre en charge le développement de l’ensemble du secteur par des personnalités aux objectifs politiques et économiques comme Musk et Altman.

Qui construitMusée de la Création de quelque nature que ce soit, n’a jamais pour but de divulgation ; ce devrait être la tâche des intellectuels de revenir à démasquer les dragons de ces imposteurs, comme le courageux saint Georges de la raison.

BIBLIOGRAPHIE

Bostrom, Nick,Superintelligence : voies, dangers, stratégiesPresse universitaire d’Oxford, Oxford 2014.

Bottazzini, Paolo,La fin du futur – L’IA et le pouvoir de la prédiction« Controverses », 10 septembre 2024.

ChatGPT-4,Alors, est-ce que j’imite ?Bietti Edizioni, Milan 2023.

Danziger, Shai; Levav, Jonathan ; Avnaïm-Pesso, Liora,Facteurs étrangers dans les décisions judiciaires« Actes de l’Académie nationale des sciences », vol. 108, n.17, 2011.

Gigerenzer, Gerd,Comment rester intelligent dans un monde intelligent Pourquoi l’intelligence humaine bat toujours les algorithmesPingouin, New York 2022.

Pedemonte, Enrico,Peur de la scienceTreccani Editore, Turin 2022.