Par Charles Castet.

Écrit en 1979, Gödel, Escher, Bach, an eternal golden braid de Douglas Hofstadter pose la question suivante : une Intelligence Artificielle peut-elle devenir consciente (sa réponse est oui) et dans quelles conditions ?

Sa démonstration passe par un rapprochement entre l’œuvre de trois personnes qui a priori n’auraient aucun lien entre elles : le mathématicien Gödel, l’artiste Escher et le musicien Bach.

Entre science, art et musique

La plupart des mathématiciens ont considéré que leur domaine se situe à mi-chemin entre les arts et les sciences. En effet, les théorèmes mathématiques partagent avec les œuvres artistiques les caractéristiques de l’inattendu – qualité que les lecteurs généraux peuvent retrouver dans Hardy’s Mathematician’s Apology lors de l’exposé du théorème de Fermat : un nombre premier impair (sauf 2) est une somme de deux carrés parfaits si et seulement si le reste de sa division euclidienne par 4 est 1 ; et dans ce cas, les carrés sont déterminés de manière unique.

Newton utilisa les mathématiques pour résoudre les problèmes pratiques dans les sciences physiques. Il conclut que des phénomènes observables réguliers et répétitifs régis parce que nous nommons les lois physiques peuvent être modélisés sous une forme mathématique afin d’être exprimés avec précision. De ce constat est née la revendication des mathématiques, comme le cadre formel idéal d’expression des lois naturelles.

Au cours de la Première Guerre mondiale, une telle analyse semblait déjà indiquer que les mathématiques et la logique déductive relevaient essentiellement des mêmes facultés. Non seulement les mathématiques étaient déjà dotées d’une forme structurelle composée de théorèmes et de preuves mais en plus la logique elle-même pourrait être exprimée par le biais d’un formalisme mathématique.

Bertrand Russel obtint des succès dans ce domaine avec sa modélisation des règles de logique pour éviter toute une classe de difficultés caractérisées par les paradoxes classiques d’Epiménide. La démarche de Russell fut démolie par Kurt Gödel dans un argument connu sous le nom de « Théorème de Gödel ».

Qu’a dit exactement Gödel ? Son théorème a été résumé dans un article précédent de la manière suivante :

Dans n’importe quelle théorie récursivement axiomatisable, cohérente et capable de « formaliser l’arithmétique », on peut construire un énoncé arithmétique qui ne peut être ni prouvé ni réfuté dans cette théorie.

Pour une meilleure compréhension de la découverte de Gödel, prenons l’analogie suivante tirée de la littérature.

Dans une de ses nouvelles, l’écrivain Jorge Luis Borges imagine La Bibliothèque de Babel , une bibliothèque qui comprendrait tous les ouvrages (de 410 pages à raison de 40 lignes par page, et de 80 caractères par ligne) que l’on peut obtenir en permutant de toutes les manières possibles les 26 symboles orthographiques auxquels on ajoute l’espace, la virgule et le point.

Donc 29 puissance 1 312 000. Le nombre des volumes est fini (et immense). La bibliothèque contient donc tout ce qu’on peut concevoir en 410 pages et en toutes langues imaginables (utilisant l’alphabet latin) en fait de sciences, d’histoire, d’utopies y compris les ouvrages dépourvus de tout sens (les plus nombreux) et les catalogues (un vrai, et X nombre de faux).

Mais l’existence d’un tel catalogue est contradictoire et un tel catalogue n’existe pas. Supposons les volumes rangés de la manière suivante : d’abord tous les livres dont la première lettre est A, puis tous ceux dont la première lettre est B, etc. Dans le groupe des A, ceux dont la deuxième lettre est B. Et ainsi de suite. On voit aussitôt que pour décrire et situer un livre quelconque un catalogue devrait mentionner toutes les lettres de cette ouvrage.

Autrement dit, pour désigner chaque volume, le catalogue de Babel doit reproduire le volume entier. Le catalogue est donc une seconde bibliothèque identique à la première et contenue en elle. Ce qui est impossible par hypothèse, car l’axiome dit que tous les ouvrages sont distincts. La conclusion est qu’un monde fini et total ne peut contenir son image. Donc il n’est pas total et si il est total alors il n’est pas fini car il ne contient pas son image.

C’est l’autre conclusion du théorème de Gödel, un théorème mathématique consistant est incomplet, car il ne peut prouver par lui-même sa propre cohérence, et s’il est complet alors il est inconsistant.

La conscience face à la cohérence et l’incomplétude

L’objectif principal de Gödel, Escher, Bach est d’explorer ces parentés de l’imagination, afin de rendre accessibles à des lecteurs sans connaissances mathématiques spécialisées toutes les idées essentielles qui sous-tendent la découverte de Gödel.

L’auteur puise, non seulement au sein de l’œuvre artistique d’Escher et ainsi que de la musique de Bach, mais aussi de Lewis Carroll, dont les œuvres mineures ont utilisé de longs dialogues spirituels parsemés d’ingéniosité pour illustrer de nombreux aspects de ce que nous appelons aujourd’hui le calcul proposé et ses fameux paradoxes.

Ce sont des paradoxes de contradiction, comme lorsque la déclaration « Je mens », si elle est vraie, doit être une fausse déclaration, mais si elle est fausse, doit être vraie.

Tous ces paradoxes impliquent ce que Hofstadter nomme une « boucle étrange », comme lorsqu’un argument porté à sa conclusion logique nie sa prémisse. Des boucles étranges analogues se produisent aussi dans les paradoxes de perspective d’Escher – comme lorsqu’une descente apparemment continue récupère le point de départ – et dans les explorations de Bach du paradoxe de l’achèvement d’un cycle enharmonique.

Outre les paradoxes de la contradiction, il existe des paradoxes de l’infini comme celui de Zénon d’Achille et de la Tortue ; un paradoxe résolu par la découverte qu’une infinie série d’intervalles de temps peut s’additionner à une somme finie.

Plus tard, Carroll exposa un tout autre paradoxe de la logique au moyen d’un autre dialogue entre la Tortue et Achille. Hofstadter utilise ces deux personnages, et un certain nombre d’autres de sa propre invention, dans une séquence de 20 pièces dramatiques, où le thème mathématique étudié est un miroir de la structure du dialogue.

La combinaison la plus brillante de Hofstadter d’un dessin à la Escher et d’une fugue à la Bach est utilisée pour traiter du conflit entre holisme et réductionnisme.

Le dessin incarne un vaste MU où les montants et la pièce croisée de l’énorme M se compose chacun du mot HOLISM, où cependant chaque ligne droite ou courbe dans chaque lettre est remplacée par le mot incurvé REDUCTIONISM ; et où la courbe de l’énorme U se compose du mot REDUCTIONISM, dans lequel chaque ligne droite ou courbe dans chaque lettre est remplacée par le mot courbé HOLISM. 

Les trois premières voix de la fugue découvrent le sens du diagramme comme, respectivement, MU, le holisme et le réductionnisme, et poursuivent la discussion de ces deux points de vue philosophiques inconciliables ; et puis la quatrième voix jaillit sur l’étudiant du dessin une surprise passionnante qu’il serait injuste pour un critique de révéler.

Conscience humaine et conscience « artificielle »

Comment terminer un tel livre ? Une possibilité aurait été d’esquisser le développement ultérieur des travaux mathématiques sur l’indécidabilité depuis Gödel.

Hofstadter préfère une discussion prolongée sur les neurosciences et sur l’intelligence artificielle. Il postule que les cerveaux agissent comme des ordinateurs. Hypothèse qui est loin d’être confirmée par les découvertes contemporaines.

Le désaccord est important en raison des implications majeures du livre qui concernent la possibilité de création d’une IA « forte » c’est-à-dire consciente. Les « jeux » proposés par l’auteur n’ont pas seulement pour fonction d’illustrer l’impact du théorème de Gödel, mais aussi que le processus cognitif qui se passe dans le cerveau humain lors de la lecture et l’exécution sont réplicables par une machine intelligente car formalisable à travers des algorithmes.

Une attente concernant l’avenir dans ce domaine est illustrée par le programme informatique de Winograd reproduit entre les chapitres 17 et 18 du livre. Ces travaux sur la linguistique ont démontré que l’analyse grammaticale exige qu’un programme informatique utilise un modèle intégré à ce qu’on appelle « l’univers du discours », auquel les phrases se réfèrent.

Les programmes pour de telles tâches d’automatisation avancée sont couronnés de succès chaque fois que l’univers du discours est relativement petit, comme dans le monde « table-top » du programme de Winograd, ou comme dans le monde « usine-plancher » des robots industriels modernes.

On pourrait penser que les augmentations présentes et futures de la puissance des ordinateurs iraient de pair avec l’augmentation de la taille maniable de l’univers de discours d’un programme.

Il s’agit toutefois d’une attente erronée à cause d’un phénomène dénommé « l’explosion combinatoire » : le temps pris pour toutes les recherches, nécessaire dans les programmes d’automatisation avancée, augmente incommensurablement plus fortement que la proportion de la taille de l’univers du discours.

Ainsi, la prochaine génération d’ordinateurs, avec leur puissance énormément accrue, pourra au mieux seulement doubler la taille de l’univers du discours que les programmes d’automatisation avancés peuvent gérer.

L’automatisation a bien sûr atteint des stades très avancés. En revanche, la question importante sur la question de savoir si les programmes informatiques peuvent être donnés des capacités d’automatisation avancées dans un univers extrêmement complexe et varié de discours.

Une compréhension et une perception comparables à ce que nous éprouvons par nos propres sens, c’est-à-dire la création d’un fameux robot « polyvalent » qui serait conscient de lui-même. Cette perspective en admettant déjà qu’elle soit possible, est encore très éloignée.

Ces articles pourraient vous intéresser :

https://www.contrepoints.org/2019/1...

La Tyrannie des algorithmes, de Miguel Benasayag https://www.contrepoints.org/2019/0...

« L’Intelligence Artificielle va-t-elle aussi tuer la démocratie ? » de Laurent Alexandre et Jean-François Copé https://www.contrepoints.org/2018/1...

La science peut-elle nous aider à relever les défis du XXIe siècle ? https://www.contrepoints.org/2018/0...

« L’ère du numérique », sous la direction de Jean-Pierre Chamoux