Non, l’intelligence artificielle n’est pas un danger pour l’homme !

1. Le battage médiatique US

Les médias nous rebattent les oreilles de l’intelligence artificielle américaine qui depuis peu réaliserait des prodiges, au point qu’elle serait un danger pour l’homme. Les célèbres Elon Musk, Stephen Hawking, Raymond Kurzweil, réputés être des gens (très) intelligents, défraient la chronique en nous prédisant sous peu la domination du monde par une IA méchante. Musk a créé la société OpenAI pour tenter de la moraliser. Le célèbre astrophysicien Hawking proclame sobrement “Je pense que le développement d’une intelligence artificielle complète pourrait mettre fin à l’humanité”. Quant à Kurzweil, directeur de l’ingénierie chez Google, il donne même une date à notre déconfiture : 2045, fin de l’ère humaine face à une “superintelligence” artificielle.

L’intelligence artificielle battrait déjà les meilleurs joueurs mondiaux aux échecs, au Go, au Poker, au jeu télévisé Jeopardy. Elle se répandrait dans les logiciels commerciaux, dans les voitures autonomes, dans les reconnaissances vocales (Siri), etc.

Rassurez-vous, tout cela c’est de l’esbroufe américaine complaisamment relayée par des médias en mal de sensationnel. Il n’y a déjà aucune IA dans Siri (la reconnaissance vocale de Google) et Google ne le prétend même pas. Par ailleurs, depuis quarante ans qu’on nous parle des prodiges de l’intelligence artificielle, elle n’est toujours pas entrée dans nos foyers…

2. Les symptômes de la tromperie

Ce battage a pour origine les grands groupes US comme Google, Facebook, IBM, Apple, etc. Avides de sensationnel, les médias font aveuglément leur pub, dictée par des chercheurs soi-disant “IA” (Yann Le Cun pour Facebook par exemple, est en réalité spécialiste de la reconnaissance d’image et de l’apprentissage automatique). Ainsi débarrassés de tout contrôle, ils peuvent nous intoxiquer, prétendre que cette technique est un but très difficile à atteindre, que l’intelligence est indéfinissable et qu’ils sont les seuls à maîtriser le sujet. En fait, le « sujet » qu’ils tentent de maîtriser, c’est nous…

En effet, pourquoi parler d’intelligence artificielle sans jamais définir l’intelligence ? Pourquoi en dépit des innombrables effets d’annonces en 40 ans le public ne comprend-il toujours rien à l’intelligence artificielle ? Pourquoi faut-il produire une IA spécifique par sujet alors que l’intelligence est réputée être générale ? Pourquoi une IA capable de jouer aux échecs est-elle incapable de jouer au Go ? Pourquoi faut-il tant d’informaticiens et d’années-homme de développement pour programmer une de ces IA alors qu’à l’évidence si une machine est intelligente elle n’a pas besoin d’informaticien pour programmer ? Pourquoi faut-il tant d’ordinateurs pour faire fonctionner ces IA américaines alors qu’en France des IA beaucoup plus sophistiquées tournaient en 1982 sur les premiers PC ? Pourquoi comparer ces efforts laborieux avec l’intelligence humaine qui tient dans un petit crâne et s’adapte à n’importe quoi en quelques secondes ? Pourquoi sont-ce toujours des informaticiens qui parlent (très mal) de l’IA et jamais ses utilisateurs ? Pourquoi admet-on depuis 1950 que la première démonstration d’une vraie IA sera de pouvoir dialoguer avec nous de façon à nous faire croire qu’elle est humaine (le fameux “test de Turing“) et qu’aucune grande université US ni aucun de ces groupes multimilliardaires “familiers” de l’IA n’y est parvenu en 67 ans ?

3. Des logiciels de jeu IA qui trichent pour gagner

Vous allez dire : peut-être est-ce de la fausse IA mais elle bat les plus grands joueurs mondiaux, il faut bien de l’intelligence derrière ! En fait pour gagner, ces programmes trichent. Ils détournent le problème, compensant leur manque d’intelligence par quelque chose que l’humain sait très mal faire et l’ordinateur, avec sa mémoire illimitée, très bien : calculer. Pendant des heures, à la vitesse de l’électron, il évalue une infinité de coups possibles. C’est énormément plus long, c’est bête, mais ça donne des résultats exacts. Mais ce n’est plus du « jeu » ! Littéralement. Car nos jeux font appel au raisonnement. Nous nous amusons à raisonner mieux que l’adversaire, c’est ça qui nous branche. Calculer ne nous amuse pas et d’ailleurs notre cerveau n’est pas fait pour ça. Il est fait pour simuler l’univers. C’est déjà pas mal… Par le calcul ce serait une tâche impossible. Par le raisonnement, on peut aboutir à des résultats satisfaisants avec des données parcellaires.

4. L’IA n’est pas le domaine réservé des informaticiens !

Non, l’IA n’est pas le domaine réservé des informaticiens, au contraire. Elle est à la portée du grand public. Pourquoi ? Parce que l’intelligence est en chacun de nous. Il suffit de faire un peu d’introspection. L’intelligence, c’est le raisonnement sur la connaissance. Plus on a de connaissances plus on est intelligent. Le raisonnement fut décrit il y a 2 400 ans par Aristote : le “syllogisme“. C’est une logique que tous les êtres vivants, végétaux compris (lisez Stefano Mancuso) possèdent. Sans elle, on est mort. L’homme est l’animal qui raisonne le mieux simplement parce qu’il a plus de connaissances, il a plus de connaissances simplement parce qu’il a plus de mémoire, il a plus de mémoire simplement parce qu’il a un plus gros cerveau.

“Logique” !

5. Le mythe de l’intelligence artificielle méchante

L’IA US étant fausse et strictement identique aux autres programmes informatiques elle n’est pas plus – ou pas moins – dangereuse qu’eux. La vraie existe, en France, mais elle ne rencontre aucun soutien de la part du monde informatique qui redoute de perdre sa place. Pourtant, associée aux vertus propres à l’ordinateur – mémoire illimitée, immortelle et ultra-rapide, connaissances en augmentation constante accessibles à tous, fiabilité totale des résultats, attentif 24h/24, ignorant l’hésitation et le stress – une telle intelligence finira nécessairement par dépasser celle d’un individu. Mais à son service.

Pour s’opposer à l’homme il faudrait un ego artificiel. Ne confondons pas intelligence et ego comme le font nos prophètes de malheur. L’intelligence n’a pas de projet. Elle est neutre. C’est une mécanique servant à résoudre des problèmes. Elle fait ce qu’on lui dit sans état d’âme. Ce n’est pas d’elle que vient le danger. L’égo, lui, a un projet. Il recherche la satisfaction de ses besoins. Il veut jouir. Pour cela il lui faut son territoire et se battre contre des concurrents qui ont les mêmes objectifs. Il a besoin de l’intelligence.

Produire une IA dangereuse pour l’humanité soulève des problèmes technologiques énormes, demanderait des années et mènerait ses concepteurs en taule… Pour des résultats sans intérêt : à quoi servirait des années d’abnégation pour mettre au point une IA dotée d’un ego artificiel bien saignant qui, par principe, n’obéira plus à ses créateurs et cherchera à les détruire ? Quel intérêt ? On a déjà nos voisins…

Enfin, si quelqu’un y parvenait malgré tout, sa “super-intelligence” se retrouverait face au prédateur le plus féroce de l’histoire de la planète, répandu partout, équipé pour tuer, organisé pour tuer, qui aime tuer.

L’homme !

Des milliards d’hommes.

Pauvre petite bête ! Son sort est scellé.

Dormez, braves gens.

(Article publié dans Breizh Info en octobre 2017)

Autre défaut majeur de l’informatique : l’obligation pour le développeur d’apprendre les connaissances d’experts à mettre dans les programmes

1. Tout programme est l’automatisation d’une expertise humaine

Tout programme est l’automatisation d’une expertise humaine. C’est justement son rôle. La paie est l’automatisation d’une expertise de comptable, les pilotes de périphériques sont l’automatisation d’une expertise d’ingénieur, les générateurs d’écran de saisie sont l’automatisation d’une expertise d’ergonome mâtinée d’informaticien, les messageries sont l’automatisation d’une expertise d’utilisateurs, la gestion de bases de données est l’automatisation d’une expertise d’informaticien, etc. Et si vous voulez développer un programme sans avoir sous la main un expert, il vous faudra créer l’expertise de toutes pièces, ce qui fera de vous un expert…

Bien entendu, l’expertise contenue dans un programme est le plus souvent complexe, rare et indispensable. C’est parce qu’elle est complexe que ses utilisateurs, pourtant quotidiens, ne parviennent pas à l’assimiler. C’est parce qu’elle est rare qu’il faut la sauvegarder dans un programme pour ne pas risquer de la perdre quand l’expert disparaîtra. C’est parce qu’elle est indispensable aux utilisateurs quotidiennement qu’il leur faut un programme qui les aide et leur fait gagner du temps.

On l’a vu dans mon post précédent « L’algorithmique, le talon d’Achille de l’informatique qui prétend que l’ordinateur est idiot« , un programme algorithmique est le recensement de tous les voies possibles de raisonnement pour résoudre une catégorie de problèmes donnée. Pour faire le tour de ces raisonnements, l’informaticien est contraint de simuler le fonctionnement de l’expertise dans sa tête, donc de l’apprendre et de la comprendre. C’est un exercice presque surhumain car, rappelez-vous, les utilisateurs eux-mêmes, pourtant familiers du sujet, n’y sont pas parvenus.

Quand il considère qu’il a parfaitement assimilé l’expertise, le programmeur aborde une nouvelle tâche peu humaine : représenter tous les chemins qu’elle peut prendre par une sorte d’équation, l’algorithmique. Ce travail va remplir des dizaines ou des centaines de pages selon le volume de l’expertise et le résultat devra marcher à tous les coups !On comprend que l’écriture d’un programme ne soit pas un long fleuve tranquille…

2. L’homme face à l’ordinateur

Si l’ordinateur peut mémoriser un nombre infini de pages sans en oublier aucune, l’homme pas du tout. Mais cela ne l’empêche pas de parvenir aux mêmes résultats et on ferait bien de s’en inspirer ! Il recourt à son intelligence simplificatrice et à sa mémoire « procédurale ». Cette mémoire, possédée par l’ensemble des êtres vivants, emmagasine les expériences répétées et dit instantanément quoi faire face aux cas connus. C’est la mémoire de l’expert (sachant que nous sommes tous experts en une multitude de choses). L’homme a poussé beaucoup plus loin que ses collègues animaux le recours à cette fonction. L’évolution l’y a aidé en augmentant sa capacité crânienne à une vitesse étonnamment rapide ses dernières centaines de milliers d’années. En fait depuis qu’il s’est déplacé debout, ce qui a permis de poser le poids de sa lourde tête sur le reste du corps en minimisant les efforts et non plus en porte-à-faux avant comme tous les animaux se déplaçant à l’horizontale.

La mémoire procédurale est constituée d’une foule de micro-expertises qui disent quoi faire en fonction d’une situation donnée. Les plus anciennes et les plus courantes chez un être humain sont le langage, l’interprétation des expressions, la psychologie, la conduite automobile, etc. Voici des exemples de micro-expertises humaines pris dans divers domaines pointus :

SI nb d’heures de salaire à payer>nb d’heures mensuel légal
ET POSITION DU SALARIE n’est pas « cadre »
ALORS il y a des heures sup à payer

 SI on est dans la région de Toulon-Camarat
ET force du vent après brise<4
ET direction du vent après brise>2
ET direction du vent après brise<6
ALORS le vent est de secteur nord

 SI la douleur que je ressens n’évoque pas un problème cardiaque
ET elle n’augmente pas quand j’inspire
ET je n’ai pas la fièvre
ET je tousse
ALORS j’ai une pleurésie 

SI j’ai un accident à un croisement
ET l’autre véhicule est sur un sens giratoire
ET ce sens giratoire dispose d’une balise «Cédez le passage »
ET je ne circule pas encore sur le sens giratoire
ALORS je m’engage sur le sens giratoire
ET  je n’ai pas la priorité
ET  ma part de responsabilité dans l’accident=1 

En informatique et intelligence artificielle, on appelle ça des règles. On rassemble toutes les règles d’une expertise donnée dans une base de données qu’on appellera alors « base de règles » ou « base de connaissance ». C’est sur elles que l’expert raisonne inconsciemment pour dérouler l’équivalent du programme, comme nous raisonnons tous inconsciemment pour comprendre par exemple ce texte, pour parler ou pour conduire.

3. Raisonnement = syllogisme

Il se trouve que, contrairement à ce que beaucoup croient, tout raisonnement est une mécanique, très simple. Une mécanique aussi inconsciente qu’une règle mais dotée d’une puissance bien supérieure puisqu’elle guide nos actes chaque seconde et que c’est elle qui nous maintient en vie. C’est le « syllogisme » décrit par Aristote il y a 2 400 ans. Je vous parlerai sûrement de sa puissance extraordinaire dans un prochain post.

Puisque le syllogisme est une mécanique simple et claire, il est… programmable ! Et ce programme sait exploiter une base de règles et raisonner comme l’expert, mieux que lui encore car il n’oublie jamais rien, ne commet jamais d’erreur et répond sans le moindre délai. En copiant le processus de pensée de l’expert et à la condition que l’on dispose d’une base de règles, on obtient donc un programme sans intervention d’un informaticien, sans algorithmique ni langage informatique. Un programme écrit en clair sous forme de règles et facile à modifier. L’ordinateur raisonne sur les règles sans rien comprendre des notions qu’il manipule et pourtant il vous fournit les bonnes réponses auxquelles il ne comprend rien non plus mais que, vous, vous comprenez. Comme tout programme.

4. Mais pour pouvoir raisonner, il faut une connaissance à exploiter !

Reste à résoudre la difficulté ultime : permettre à l’ordinateur d’extraire automatiquement ces règles auxquelles il ne comprend rien… Sinon il faudra toujours un développeur pour interroger l’expert, et il sera toujours obligé d’assimiler sa connaissance pour la diviser en règles. Souvenez-vous du sujet de ce post : « Autre défaut majeur de l’informatique : l’obligation pour le développeur d’apprendre les connaissances d’experts à mettre dans les programmes » Il sous-entend qu’il serait possible de programmer sans rien comprendre de la connaissance de l’expert qu’on utilise, donc sans même comprendre l’expert. Mais comment Dieu est-ce possible ? C’est là que mon invention « la Maïeutique » prend toute sa saveur. C’est une méthode, donc elle aussi une mécanique. Qui a  été programmée dans le logiciel T.Rex (Tree Rules EXtractor). T.Rex permet à l’ordinateur d’interroger les experts et d’extraire automatiquement leurs expertises en les exprimant sous forme de règles. Si l’ordinateur ne comprend rien à ce qu’il fait, l’expert, lui, voit les règles qu’il synthétise et peut vérifier s’il a « compris ». S’il n’a pas compris l’expert rectifie. L’ordinateur est une force de proposition, l’expert l’inspecteur des travaux finis… La machine propose, la femme – pardon, l’homme ! – dispose (pour une fois…). C’est vraiment la façon la plus confortable de travailler.

Cela revient à dire qu’avec la Maïeutique c’est l’expert qui définit le programme et l’ordinateur qui l’écrit pour lui sans rien comprendre. Et pourtant, ça marche !

Pas belle mon invention ?

On comprend que je ne sois pas aimé des informaticiens… 😉