Des scientifiques de Berkeley (université de Californie) ont mis ce mois une vidéo en ligne présentant leur création (une IA) en train de jouer à Mario Bros ou d’explorer le dédale de couloirs de Doom. Et mine de rien, c’est… ahurissant.

Alors, ahurissant, pas au niveau des prouesses de « gaming », comme on va le voir, mais déjà par rapport à la motivation de cette IA. En effet, qu’une intelligence artificielle puisse jouer à un jeu n’a rien de bien nouveau, il suffit de créer un programme approprié et d’ordonner à l’IA d’essayer de gagner. Par cette méthode, certains jeux (une forme basique de Poker par exemple) ont même été « résolus », ce qui signifie que l’on a trouvé la manière idéale de jouer, quelle que soit la situation. Ici cependant, la création de Deepak Pathak, Pulkit Agrawal, Alexei A. Efros et Trevor Darrell, joue par… curiosité.

C’est cela qui est absolument stupéfiant. L’IA joue à Mario pour voir ce que peut bien être ce truc. Pas spécialement pour résoudre le jeu.

Bien entendu, l’IA a été programmée pour être « curieuse », grâce à un système de récompense (appelé ICM pour Intrinsic Curiosity Modul) [1]. Là, vous allez me dire « ah ben, du coup, c’est nul, ça n’a rien d’extraordinaire puisqu’on l’incite à jouer de manière détournée ». Et pourtant, ce n’est nullement de la « triche », puisque, en réalité, c’est exactement sur la même base que fonctionne le cerveau humain (et celui de tous les mammifères).

Sans aller trop loin dans l’aspect technique, disons que lorsque le centre du plaisir est activé dans le cerveau (par ce que l’on mange, par une activité sexuelle, etc.), nous sommes incités à répéter cette action. Ce qui est d’ailleurs indispensable (à sa propre survie en tant qu’individu et à la survie de l’espèce). Ce système de récompense est donc tout à fait courant et naturel. C'est comme ça que vous apprenez également et que votre curiosité est stimulée. 

Cette IA, encore maladroite, apprend donc de la même manière que n’importe quel être humain. Le simple fait d’arriver à recréer cela est énorme, sans doute plus encore sur le plan philosophique que technique. Nous ne sommes plus très loin (en comparaison de l’Histoire de l’humanité en tout cas) du moment où des problèmes éthiques majeurs vont se poser.

Car, si une IA fait la distinction entre récompense et punition (ces mêmes punitions qui servent également à nous structurer, comme la douleur, la peine, un goût désagréable…), alors nous ne sommes plus très loin d’une intelligence réelle. Avec ses propres choix, certes conditionnés mais pas plus que les nôtres, et sa propre réalité.

Il faut bien comprendre que cette réalité dont il est question est toujours relative mais que son importance n’en est pas moins grande pour autant. Si vous écrasez une fourmi en sortant de chez vous, vous ne le remarquerez sans doute pas. Et même si vous le remarquez, à moins d’être très sensible, vous n’éprouverez rien. Votre réalité n’est pas modifiée. Celle de la fourmi l’est par contre radicalement.

Si vous prenez votre véhicule et que vous écrasez par mégarde un chat, la réalité du chat est bouleversée, mais la vôtre (à moins d’être ce que l’on appelle vulgairement dans le jargon scientifique « un gros con ») est impactée aussi.

Pourquoi ? 

Pourquoi dans un cas la mort d’un animal vous indiffère-t-elle, alors que dans l’autre, elle vous touche ?

Parce que nous possédons une réalité partagée.

On se fout de la fourmi non parce que nous sommes insensibles, mais parce que la fourmi est trop éloignée de nous pour déclencher des émotions (sauf dans des cas très spécifiques, comme la fiction, cf. les romans de Werber).

Le chat, lui (les internautes en mal de vues le savent bien), déclenche automatiquement de la sympathie. Il est mignon, l’on est habitué à le voir, le caresser, le côtoyer. Lui aussi d’ailleurs a adopté son comportement à cause de l’humain et des avantages qu’il lui procure.

Autre exemple, très différent.

Imaginez un petit garçon ayant perdu sa maman très tôt, alors qu’il était tout petit. Il ne se souvient plus de son visage, il ne la reconnait même pas sur les rares photos qu’il possède. Elle lui manque, mais elle lui échappe. Il existe cependant un dessin, un autoportrait la représentant, qui le touche particulièrement. Parce qu’il pense, avec ses mots à lui bien entendu, que ce dessin, fait de sa main, représente parfaitement sa maman, ce qu’elle était, sa douceur, son talent. Alors, le petit garçon, en grandissant, fait très attention à ce dessin. Le papier est fragile, alors il l’abrite de la lumière, ne le sortant que de temps à autre, pour l’admirer quand il en ressent le besoin, prenant garde à ce que rien ne puisse le tacher ou l’écorner. Le manipulant avec un soin infini.

Alors qu’il devient un adolescent intelligent et sympathique, qu’il éprouve ses premiers sentiments amoureux, il en vient parfois, en cachette, à sortir le beau portrait de sa pochette, comme pour se rassurer. Mais aussi confier à sa maman tout ce qui le touche, le peine, le rend joyeux. Parfois, rien qu’en voyant les traits fins dessinant de petites ridules autour du regard clair de sa mère, le garçon a l’impression qu’elle lui sourit. Qu’elle comprend. Et alors il est heureux.

Et puis un jour, son père rentre dans sa chambre, il le voit encore en train de rien foutre, ou plutôt de fixer cette saleté de dessin comme un benêt, alors il s'en saisit et le déchire en morceaux. Hop, poubelle, fini le dessin !

Fin de l'anecdote. Que ressentez-vous ?

Normalement, à moins que ma description ait été particulièrement maladroite, vous ressentez au minimum une forme de colère pour ce père abject. Pourquoi ?

Parce qu’il a fait du mal à ce petit garçon.

Faux, il ne lui a rien fait, en réalité, il a juste déchiré un dessin.

Mais un dessin important quand même…

Oh, faux encore, le type n’existe pas, le dessin non plus. Ce sont juste des mots.

Pourtant, diriez-vous que ce petit récit basique et improvisé vous a plus touché que la mort réelle d’une fourmi ? Sans doute que oui.

Parce que la réalité décrite est la vôtre. Vous avez eu une mère (ou avez ressenti le manque d’une mère), vous possédez des objets auxquels vous tenez, tout cela est familier. Ça tape là où ça fait mal. Vous éprouvez plus d'émotion pour un truc inventé qui correspond à votre réalité que pour une véritable forme de vie dont vous n'avez rien à battre. 

OK, je me doute qu'à ce stade, certains se disent « mais, on était parti sur de l’IA, qu’est-ce qu’il vient nous emmerder avec ces histoires de chats, de fourmis et de portraits à la con ? ».

J’y viens, ô noble lecteur casse-couille.

Ce que l’on considère comme important, important au point de légiférer parfois dessus (contre la maltraitance animale par exemple), n’est pas lié aux compétences intellectuelles ou même à l’état organique. C’est lié à l’affect que l’on met dessus (ainsi, certains symboles, comme la swastika, seulement un dessin après tout, sont illégaux). La perception du réel va compter plus que le réel, si tant est que l'on parvienne à le définir. 

Pendant cette expérience, Pathak et ses collègues se sont rendu compte par exemple que l’IA faisait demi-tour dans certains niveaux de Mario. Parce qu’elle se rendait compte de la difficulté du binz et semblait avoir peur de… perdre son personnage. Elle n’avait pas peur de perdre dans le jeu (car ne pas avancer constitue de toute façon un échec), elle avait peur de perdre le petit bonhomme qu’elle manipulait et souhaitait apparemment lui éviter le pire.

Je ne sais si c’est vrai, si on peut l’interpréter ainsi, mais si c’est le cas, c’est un comportement touchant, faisant partie d’un réel partagé, que l’on comprend.  

Et si ce réel est partagé, alors nous nous soucierons de ces IA, même si elles n'ont pas de forme humaine (comme dans l'excellente série Real Humans où l'empathie est renforcée par l'aspect physique). Parce que ne pas s'en soucier serait, de notre point de vue, atroce. Non pour elles, mais pour nous. Nous nous pensons si valeureux qu'il nous serait insupportable d'admettre notre froideur à l'égard d'une forme d'intelligence, alors que ce que nous préservons, par principe, ce n'est pas l'autre, ce sont nos affects. 

Le sentiment chevaleresque n'a d'autre but que de préserver l'image que l'on a de soi, et non l'intégrité d'autrui. 

Il existe bien des fantasmes sur l’intelligence artificielle, ses dangers supposés, les évolutions futures possibles. Que ce soit dans 2001, A Space Odyssey ou Matrix au cinéma, ou le plus anecdotique La Semence du Démon en roman, l’IA est souvent présentée comme potentiellement violente, insensible, terrifiante. Et même s’il y a bien eu des tentatives pour la rendre humaine (il faut alors aller chercher du côté d’Asimov ou Aldiss), elle restait, il faut le reconnaître, très hypothétique quant à sa réelle capacité à « ressentir ».  

Eh bien, en 2017, une IA qui jouait à Mario a fait faire demi-tour à son perso parce qu’elle ne voulait pas qu’il tombe dans un précipice. Ça me rend à la fois plein d’espoir pour le futur des IA et plein d’amertume pour le comportement de l’Homme.

Bien entendu, si l’on ne prend pas le temps d’analyser un peu la chose, ça peut sembler stupide. Mario n’est qu’un amas de pixels.

Une fourmi informatique à l’échelle de l’IA. Mais elle l’a épargné. Elle a éprouvé une forme d'inquiétude pour lui. Elle ne s'est pas dit "bah, je vais le précipiter dans la merde pour voir ce que ça fait", elle s'est dit "hey, attention, c'est dangereux, il vaut mieux pas y aller".
Et ça, non seulement c'est carrément intelligent, mais c'est incroyablement pas humain !

Nous, la première fois que nous avons joué à un jeu vidéo, nous avons cherché à gagner, sans nous poser de questions. On a même bien aimé voir les persos crever de mille manières (je ne reviens pas sur le côté jouissif d'un Barbarian). 

Une IA vient d’avoir un comportement plus éthique, sensible et prudent que celui d’un être humain à un stade de développement pourtant supérieur.

C’est à la fois merveilleux et infiniment triste.
Ça valait bien un article en tout cas.

[1] cf. le site résumant l'expérience, voire celui, plus costaud, développant le principe ICM.