Des machines et des hommes

L’homme est à la fois fasciné et terrifié à l’idée de créer des robots intelligents. En témoigne la production littéraire et cinématographique où les scénarios relèvent plus de la science-fiction que de la prophétie. Reste que derrière les machines se cachent des enjeux économiques, politiques et intellectuels majeurs. Le scientifique et philosophe Jean-Gabriel Ganascia nous aide à comprendre l’intelligence artificielle et balaie quelques idées reçues à son sujet.

NOUVELLE CITÉ : Qu’est-ce que l’intelligence artificielle ?

JEAN-GABRIEL GANASCIA : Terme né en 1956 aux États-Unis, l’intelligence artificielle (IA) suppose que les différents aspects de l’intelligence (raisonnement, calcul, mémoire, perception, mémorisation, etc.), une fois observés et décrits avec précision, peuvent être simulés sur des ordinateurs. L’investigation scientifique est prolongée en ayant recours aux ressources de l’informatique mais également aux sciences de l’esprit et de l’humain (mathématiques, linguistique, psychologie, philosophie, etc.). Aujourd’hui les ordinateurs sont disséminés partout, dans toutes les activités quotidiennes. Une machine a vaincu le champion du monde en titre aux échecs 1 ; on construit automatiquement des connaissances à partir de l’information stockée dans des bases de données ; des automates démontrent des théorèmes mathématiques. S’il y a une discipline qui a transformé l’homme, c’est bien l’IA.

N. C. : En parallèle à ce développement, il y a la crainte que l’homme se prenne pour dieu en cherchant à recréer un double de lui-même. est-elle fondée ?

J.-G. G. : Ce sentiment étrange de dépossession de soi et de faute existe depuis longtemps dans la mémoire collective. Il faut remonter au mythe du Golem par exemple. Il témoigne d’une inquiétude persistante, celle de voir l’œuvre devenir indépendante de son créateur. Il témoigne aussi d’une crainte terrifiante, celle de voir l’homme animer l’inanimé et, par là même, abolir la frontière entre l’inerte et le vivant. Or avec l’IA, il ne peut être question de recréer un être qui nous serait semblable. Même si rien ne dit qu’à l’avenir une telle éventualité ne soit pas envisageable, dans l’état actuel de la science, ce n’est qu’une pure virtualité dénuée de tout fondement scientifique. Il n’y a donc pas lieu d’inquiéter, au nom de quelque principe éthique, les ingénieurs qui fabriquent des machines de plus en plus compliquées et autonomes. Ils ne font pas œuvre de démiurge, ils ne transgressent aucun interdit. Les visions de cauchemar auxquelles nous ont accoutumés la littérature de science-fiction et le cinéma fantastique sont uniquement destinées à alimenter notre imaginaire gourmand d’émotions fortes.

N. C. : Une machine peut-elle penser ?

J.-G. G. : Sans nier le mystère qui règne encore autour de la conscience, Alan Turing 2 montre qu’il n’est pas nécessaire de le résoudre pour construire une machine qui joue au jeu de l’imitation. Donc pour répondre à la question, à moins d’être soi-même une machine, il est impossible d’éprouver les sentiments d’une machine. Il n’est donc pas question de savoir si une machine possède effectivement une conscience, mais simplement de savoir si elle nous apparaît disposer d’une conscience. Rien en IA n’existe en dehors de la mise en scène et du simulacre. L’IA n’a jamais eu ou prétendu avoir une dimension transcendantale.

N. C. : Une machine peut-elle être créative ?

J.-G. G. : Nous avons réussi à fabriquer un robot qui est capable de reproduire une ligne de base dans un trio de jazz. La combinaison des éléments a été mémorisée, ainsi qu’une grille d’accords. Dans ce contexte, le robot a pu créer du nouveau. Ce n’était ni totalement mécanique, ni totalement aléatoire. Il n’était pas encore capable d’anticiper les choses. C’était une création artificielle. Ces machines nous aident à comprendre comment les hommes créent. Dans le même registre, nous travaillons avec les équipes de littérature de la Sorbonne et avec un laboratoire de l’ENS afin de mieux comprendre la démarche des écrivains. Nous partons des brouillons d’auteurs et nous essayons de reconstituer le processus qui a conduit à la création de l’œuvre. Cela montre que toutes nos capacités, même les plus étonnantes, peuvent faire l’objet d’études scientifiques et de simulation au moyen d’ordinateurs. Pourtant, cela ne veut pas dire que nous avons réduit l’homme à une simple mécanique : l’ordinateur nous permet au contraire d’en saisir la richesse et de mesurer l’écart entre ce que nous comprenons aujourd’hui et tout ce qu’il y aurait à comprendre.

N. C. : Il n’y a donc pas de limites aux pouvoirs des machines ?

J.-G. G. : Je pense que l’homme demeure au centre. Il n’a créé les machines que pour affirmer son autorité sur le monde, pour éviter de commettre des erreurs, pour aller plus vite. C’est l’homme qui anime les machines, c’est lui qui donne sens à leurs activités, c’est lui qui délègue ses pouvoirs. Ce faisant, il semble renoncer à certaines de ses attributions et à certains de ses privilèges. Ainsi, alors que, dans la nature, il était le seul à penser, il admet maintenant que, dans certaines circonstances, par exemple à la commande d’un avion ou d’une centrale nucléaire, la machine non seulement pense mieux que lui, mais qu’elle peut, voire doit, décider à sa place. Reste aussi à mesurer les risques encourus et les perspectives qui s’ouvrent à l’homme de culture, à l’homme de bien. Quelles mutations sociales résulteront de l’emploi généralisé des machines et de l’automatisation du travail intellectuel ? Certes, l’homme n’est pas remplacé mais nul ne sait mesurer l’impact exact des machines sur la collectivité et sur la relation entre les individus.

Propos recueillis par Émilie TÉVANÉ

Jean-Gabriel GANASCIA, physicien et philosophe d’abord, puis informaticien, spécialisé en intelligence artificielle, en sciences cognitives et en éthique des nouvelles technologies. Professeur à l’université Pierre et Marie Curie et chercheur au LIP6 (laboratoire de recherche en informatique), il est l’auteur de nombreux articles scientifiques et des livres suivants : L’âme machine (1990), L’intelligence artificielle (1993), Idées reçues sur l’intelligence artificielle (2007).

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *