« Servitudes virtuelles » – 4 questions à Jean-Gabriel Ganascia

Jean-Gabriel Ganascia est professeur à la faculté des sciences de Sorbonne Université et chercheur au LIP6 (laboratoire d’informatique de Sorbonne Université), où il mène des recherches sur l’intelligence artificielle. Il a été président du comité d’éthique du CNRS de 2016 à 2021. Il vient de publier « Servitudes virtuelles » aux éditions du Seuil.

Vous reformuler la formule de Sartre : « La présence en ligne précède et conditionne l’existence sociale »…

La célèbre formule de Sartre « l’existence précède l’essence » signifie d’abord que, pour l’existentialiste, l’être humain ne découvre pas sa nature propre dans les décrets révélés d’un Dieu qui l’aurait conçu, mais au fil de son existence, dans ses actes, sa vie et ce qu’il en a fait. Il s’ensuit, et c’est le second sens que Sartre donne à cette formule, que l’homme est totalement libre parce que le bien et le mal ne résultent pas de la conformité, ou de la non-conformité, des comportements à des commandements divins ou à une morale. L’enfer dans la pièce « Huis clos » vient non d’une torture physique infligée à ceux qui n’ont pas obéi aux injonctions divines, mais d’une existence vouée entièrement aux regards et aux jugements d’autrui.

Dans le monde numérique, cette condamnation à n’exister que sous et par le regard des autres prend une dimension singulière du fait que la plupart de nos activités se déroulent en ligne et se convertissent en flux d’information. Dès lors, les autres nous perçoivent presque uniquement à travers les indices que nous laissons, consciemment ou non, dans ces flux. L’image que nous donnons de nous-mêmes se construit par agrégation des traces de nos actions sur le Web. La réputation s’établit à partir de ce que nous y laissons. Les réseaux sociaux, les moteurs de recherche, les recruteurs et les policiers en font leur miel. En cela, notre présence en ligne, à savoir l’ensemble de nos activités dans l’univers numérique conditionnent et précèdent notre existence sociale.

Au-delà, au plan moral, pour Sartre, nous sommes radicalement libres et pleinement responsables ; nos actes individuels et nos existences nous engagent totalement et engagent l’humanité toute entière. Or, puisque notre présence en ligne précède et conditionne notre existence sociale, elle engage pleinement notre responsabilité individuelle et celle de l’humanité entière. À l’heure actuelle, il convient plus que jamais d’en prendre conscience !

Vous êtes assez optimiste sur le fait que les machines ne prendront pas le pouvoir sur l’humanité…

Un grand écrivain de science-fiction, Ray Bradbury, à qui l’on demandait parfois s’il craignait les robots, avait coutume de répondre qu’il en avait moins peur que des hommes qui se cachent derrière. En tant que scientifique, je souscris totalement à cet argument : rien dans les progrès actuels de l’intelligence artificielle ne laisse entendre que les machines prendront un jour leur essor, s’affranchiront de notre tutelle et s’animeront d’intentions hostiles à notre égard.

Leur fonctionnement résulte de consécutions réglées d’opérations élémentaires. Les progrès récents ont grandement multiplié le nombre de ces opérations. Des ordinateurs dits « exaflopiques » exécuteront bientôt 10¹⁸ flops, c’est-à-dire des milliards de milliards de multiplications par seconde… L’intelligence artificielle en tirera un grand parti pour fabriquer des machines capables d’extraire, par apprentissage automatique, la substantifique moelle d’immenses quantités d’exemples annotés par des hommes. Entraînées de la sorte, les machines reproduiront à merveille les comportements humains et automatiseront des tâches quotidiennes.

Pour autant, elles ne possèderont pas de conscience propre. Hans Jonas, le promoteur de « l’heuristique de la peur », à qui l’on avait demandé s’il y avait lieu de craindre l’autonomisation des ordinateurs, expliquait que la conscience se trouve aux deux extrémités, chez ceux qui conçoivent les machines et chez ceux qui les observent et qui projettent sur elles une intentionnalité ; mais jamais dans les machines elles-mêmes…

Il n’en demeure pas moins qu’on laisse très souvent aux ordinateurs le soin de décider à notre place. Songeons à l’établissement automatique des procès-verbaux à partir des alertes données par les radars sur le bord des routes. Cette délégation du pouvoir d’arbitrage à des automates contribue à mettre en place une machinerie sociale autonome qui se déploie d’elle-même, par-devers nous. De cette machinerie-là, j’ai peur et j’invite à se prémunir contre elle ; en revanche, de la machine matérielle elle-même, je crois qu’il n’y a pas lieu de s’inquiéter.

Le projet d’Elon Musk de greffer des dispositifs de stockage d’informations sur le cerveau n’est-il pas inquiétant ? Est-il réalisable ?

Elon Musk prétend qu’il faudra équiper nos cerveaux pour nous aider à rivaliser avec les machines, car sinon, leur essor inexorable mettra l’humanité en péril. Dans cette perspective, la société NeuraLink qu’il a montée en 2017 développe des implants cérébraux destinés à accroître nos capacités mnésiques et à nous connecter directement au réseau, pour nous permettre d’échanger sans parole ni langage, de cerveau à cerveau.

Si elle parvenait à la réalisation de cet objectif, la société NeuraLink prendrait un empire considérable sur l’humanité, puisqu’elle régirait, par l’entremise de ses technologies, tous les contenus de nos têtes et tous les échanges interhumains…

Heureusement, pour de multiples raisons, ce projet n’a aucune chance d’aboutir, du moins à court terme. En effet, il repose sur l’hypothèse simpliste selon laquelle la mémoire, au sens psychologique, se réduirait à un dispositif de stockage d’information — à savoir à une mémoire informatique —. Or, on sait depuis longtemps qu’outre sa fonction de stockage, une mémoire encode l’information, la transforme au cours de multiples phases de consolidation, aide à y accéder, toute chose qu’une simple mémoire informatique ne permet pas de faire.

Mark Zuckerberg, sous prétexte de satisfaire plus rapidement les désirs de chacun, pourrait lui aussi rentrer de nos cerveaux…

Mark Zuckerberg souhaite aussi développer des interfaces cerveau-ordinateur. Il ne recourt pas, comme le fait Elon Musk, à des implants invasifs pour « écrire » dans nos cerveaux et accroître nos facultés cognitives. Son projet est plus modeste : il se contente de nous mettre à nu en lisant dans nos cerveaux avec des électrodes placées sur nos crânes, afin d’identifier nos pensées et, surtout, de détecter nos désirs dans le but, louable s’il en est, de les satisfaire… Mais, là encore, on peut craindre le pire de cette philanthropie consumériste !