Intelligence Artificielle et Paradoxe de Gödel : ne pas tout mélanger
par Algo Ritm, 19/11/2019

  Je viens de lire un article tout faux dans le magazine de « vulgarisation scientifique » Science &Vie de Novembre 2019 (n°1226). C’est un des 4 titres de couverture : « I.A. L’impasse de Gödel », et un des 3 avant-propos : « Vertiges logiques », mais l’article lui-même « Informatique : l’IA se prend le mur de Gödel » pages 106-110 est immensément décevant.
  Je reprends la question à ma façon, totalement différente, sur le même thème « il est impossible de savoir avec certitude si les intelligences artificielles feront bien ce qu’on leur a appris ».

1/ Une question de niveau
a/ Le théorème de Gödel concerne les mathématiques pures (« sciences exactes », un savoir n'étant pas absolu mais relatif à des axiomes librement choisis),
b/ l’objet des sciences habituel pour "Science et Vie" (qui ne contient pas d’équations avec signe « implique ») c’est différent : ce sont les « sciences expérimentales » (tout prétendu savoir étant lié à des axiomes oubliés comme le réalisme et l’universalité ; par ailleurs le scientisme idolâtre à tort la science actuelle en fait en voie de réfutation),
c/ ce qu’on appelle spécifiquement les intelligences artificielles (IA) c’est autre chose : un moyen technique ultra-rapide de procéder à des masses énormes de calcul pour un but pratique tangible (reconnaissance faciale, traduction, conduite automobile automatique, etc.).
   Il y a des objections énormes à c/ et b/ mais cela ne relève pas de a/, je vois là une erreur, une confusion totale.

2/ Les vraies objections à la prétendue intelligence artificielle
A/ Les « exemples antagonistes » : l’article le mentionne à raison, il y a des images de fouillis total de pixels où l’intelligence artificielle peut affirmer à tort une interprétation à nos yeux délirante (genre lecture humaine : « absolument rien de visible sur cette image », lecture IA « le jeune garçon regarde l’horizon »). J’ai connu ça dans mon travail, quand j’ai travaillé en algorithmique biochimique : il était possible de paramétrer les moulinettes automatiques pour obtenir d’excellents résultats sur les données choisies, mais la robustesse était exécrable vues les performances sur les nouvelles données non incluses dans le lot employé pour bâtir le paramétrage (on appelait ça un algorithme "sur-optimisé" = trop optimisé spécifiquement sur une source particulière). Inversement, les autorités nous imposaient des exemples de référence pour lesquels une réponse bonne était obligatoire alors qu’ils étaient atypiques, et pour que ceux-ci rendent « comme il faut », il fallait biaiser les paramètres, en pénalisant les performances sur l’ensemble du reste, et vraisemblablement les futurs cas inconnus. Cela n’a rien à voir avec le problème de Gödel.
B/ L’affirmation de certitude : au niveau technique (et même au niveau science expérimentale), la prétendue « certitude » est une simple croyance, non un savoir indubitable. Sur le plan logique, l’avenir étant inconnu, il pourra parfaitement démentir toutes les certitudes, donc erronées (là où l’attitude sceptique est davantage sage). Une des approches pour contourner cette évidence porte sur la « validation statistique » (inductive, affirmant sur une population entière inconnue à partir d’un échantillon restreint testé), mais celle-ci est souvent incomprise (ou détournée pour faire du fric, plutôt, mais chut, il ne faut pas le dire). Le principe d’une validation statistique est le test d’hypothèse : si telle hypothèse (dite nulle), genre aléa normal ou nuage de points quelconques, avait moins de 5% (ou mieux : 0,1%) de donner par hasard les résultats obtenus, on la rejette pour lui préférer l’hypothèse concurrente qu’on veut affirmer (et celle-ci ne doit pas être rejetée de même). Bref, cela va qualitativement dans le sens d’exclure le hasard fortuit pour préférer la loi prétendue, mais sans garantir en rien de rien qu’elle s’applique pile dans 100,00000% des cas. C’est un facteur de préférence, un élément de décision (pas trop subjective) en ce sens, et pas du tout une démonstration de certitude.
C/ Le principe d’inacceptabilité totale : même si l’intelligence artificielle conduisant une automobile autonome fait plus de 99,9999% de bonnes conclusions, ce qui est assez fabuleux en termes de performances techniques, cela sera jugé inacceptable s’il s’agit de décisions chaque microseconde et qu’une fois par année de conduite pour groupe de 100 personnes, la très rare erreur a fait tuer un piéton innocent (là où un conducteur humain n’aurait pas fait ce mauvais choix-là, très évident pour nous). Là, ce ne sont pas des chiffres qui conditionnent quantitativement l’acceptabilité, c’est qualitativement qu’il y a refus, véto. Rien à voir encore une fois avec Gödel.

3/ Ce que dit Gödel
   Selon l’article, l’exemple-phare de Kurt Gödel est qu’on ne peut pas savoir s’il y a des infinis intermédiaires entre celui des entiers (1, 2, 3…) et celui des nombres réels (dits "nombres à virgule"). C’est faux : les nombres à virgule à nombre fini de décimales sont l’ensemble des nombres décimaux, pas des réels. Entre entiers positifs (N) et réels (R), il y a les entiers relatifs (Z), les décimaux (D), les fractions (Q), tous infinis, seul l’ajout des nombres transcendants conduisant à R. Les raisonnements hyper-sceptiques (instantanéité de la pensée et caractère douteux du souvenir) qui dénieraient le caractère « prouvé infini » de Z, D, Q s’appliqueraient tout autant à N et R, donc l’exemple de l’article n’est pas probant.
   Mis à part ce mauvais exemple, j’ai lu que Kurt Gödel n’avait réfuté le projet de David Hilbert (de prouver cohérents les mathématiques) qu’en ce qui concerne les ensembles infinis. Or la certitude de performances « infiniment bonnes » des IA ne relève pas des mathématiques (puisque rien n’est démontré pour elles intégralement à partir d’axiomes, leur domaine n’est pas les sciences exactes, même si elles en utilisent un petit peu dans leurs moulinettes répétitives). Les objections à la certitude absolue sont nombreuses mais autres.

Bilan
   Le rédacteur en chef de Science et Vie semble incompétent, persuadé que « égratigner tel truc technique auréolé de gloire futuriste (et politique) » est un scoop, sans avoir réfléchi aux objections « anciennes » à ce sujet, évidentes mais peu connues des gens n’ayant pas réfléchi.