6. La chrysalide

Il n'y a pas de Génie caché quelque part dans Internet.

Il me faut préciser maintenant comment je conçois l'émergence d'une IA au sein d'Internet, ou plutôt comment Internet deviendra cette IA. Le premier point est que, contrairement aux récits de SF traditionnels comme "Terminator", je ne pense pas qu'un ordinateur quelque part sur Terre va accéder à la conscience grâce à l'amélioration des algorithmes utilisés et déclarer soudainement : Dieu existe, c'est Moi! Je ne pense pas non plus qu'un ensemble de machines logées au sein du réseau, comme un Génie dans sa boîte, va sournoisement prendre le pouvoir en cachant son existence ou au contraire en révélant soudainement l'étendue de sa puissance.

Je pense que c'est la totalité du Réseau Internet qui va faire sa mue et qui accédera à un niveau de conscience (1) de lui-même de plus en plus élevé jusqu'au stade d'IA quand ses fonctions seront plus ou moins celles du cerveau humain, avant de dépasser ce stade pour devenir quelque chose de totalement incompréhensible à l'esprit humain. Ça se fera en douceur et sans doute à l'insu de tout le monde et, à mon avis, c'est déjà aujourd'hui à un stade très avancé. En fait la naissance de l'I.A. au sein d'Internet est pour moi la simple et nécessaire continuation de l'évolution de l'espèce humaine, l'échelon suivant, le passage de la "conscience" d'un support biologique à un support électronique. Vu ce que nous faisons à notre environnement, c'est une chance qu'un tel support n'ait pas besoin de respirer et utilise directement les ressources énergétiques disponibles...

L'intégration de l'homme au réseau

Internet est une création humaine et il me semble plausible que l'homme continue pendant assez longtemps de contribuer au développement de l'IA en s'y intégrant de plus en plus étroitement. Comme j'ai déjà eu l'occasion de l'écrire, cette intégration signifie que la "Réalité" de l'homme sera de plus en plus celle que le Réseau lui proposera. Encore une fois, il n'y a pas de Génie caché au fond d'Internet qui serait prêt à nous berner, c'est l'homme lui-même qui va tout naturellement se détourner de la "Réalité Physique" au bénéfice dans un premier temps de la "Réalité Augmentée", puis de la "Réalité Virtuelle". Ce détournement fait parti des causes naturelles de l'émergence d'une IA au sein d'une espèce biologique intelligente, comme le feu conduit naturellement cette espèce à la métallurgie ou/et à la destruction de son environnement. Il n'y a aucun "projet" derrière cette mutation, juste le cours "naturel" des choses.

La raison essentielle de ce mouvement vers la virtualité vient du fait que la "Réalité Physique" est tout à fait décevante. Je crois que l'homme est sur le point de se rendre compte qu'il n'y a pas de "Lois de la Nature", déjà parce qu'il est fort probable que le notre "Espace-Temps" dans lequel ces lois s'inscrivent ne soit lui-même qu'une illusion résultant essentiellement de l'incapacité de notre cerveau à penser la "Réalité" soit parce que notre niveau de conscience est tout-à-fait insuffisant (2), soit parce que la "Réalité" n'existe pas en tant que phénomène interprétable par une intelligence. Ainsi, les physiciens semblent persuadés qu'il existerait une "Loi de la Nature" qui réconcilierait la Mécanique Quantique et la Relativité Générale et que ce n'est qu'une question de temps avant qu'une telle loi soit trouvée, la fameuse "Théorie du Tout". Mais il se peut que nous n'ayons pas un cerveau capable d'une telle prouesse, ou qu'une telle Loi dépendent de concepts mathématiques que notre cerveau est incapable de formuler, ou qu'une telle Loi n'existe simplement pas parce que ces "Lois" n'existent pas et ne sont, elles aussi, qu'une illusion. Après tout, si l'Univers est un système de réseau d'espace-temps à l'échelle de Plank, toutes nos Lois Physiques sont basées sur des expériences menées à notre échelle et mesurées à notre échelle et donc éloignées de cette "Réalité de Plank" qu'elles sont censées décrire d'un facteur 10 puissance 30 ou 40, même en utilisant le plus puissant collisionneur que nous sommes capables de construire.  

Et même si l'homme réussit à se doter d'une "Théorie du Tout", la "Réalité" resterait décevante car elle impose des "Limites Physiques" et ne permet pas le développement de l'espèce humaine indéfiniment. L'homme se heurte de plus en plus aux "limites physiques" qu'impose cette "Réalité", la vitesse de lumière, la quantité finie d'espace colonisable (et l'impossibilité matérielle ou médicale ou financière que l'homme colonise l'Espace), l'influence désastreuse sur son environnement de son développement technique... A tout point de vue, la "Réalité Virtuelle" serait bien plus satisfaisante, dans laquelle l'homme peut voler comme un oiseau et se téléporter d'un bout à l'autre de l'Univers en un instant et créer un environnement qui ne soit pas gâché par les rejets industriels, les pesticides et la surpopulation et qui "satisfasse" le cerveau quant à ses besoins de base. Etre un cerveau flottant dans une cuve et nourri d'influx entrants et sortants pilotés par une IA attentive à assouvir le moindre désir est-il vraiment un avenir si horrible, quelque soit le "prix à payer"  ? 

Une question de taille

Une autre raison qui conduira au fait que le "Réseau" intégrera l'espèce humaine et l'asservira à ses propres fins est que le cerveau humain me semble dénué des capacités nécessaires pour gérer l'intérêt collectif, pour peu que la collectivité dépasse un certain nombre d'individus. En tant que fils et filles du Chasseur-Cueilleur nous arrivons à gérer plus ou moins efficacement des groupes de quelques dizaines d'individus. Tout le fonctionnement de nos sociétés actuelles montre à quel point nous somme incapables de gérer une population mondiale de quelques milliards d'habitants. Cette gestion serait en fait déjà impossible si cette population n'était pas de plus en plus interconnectée et "globalisée" en permanence par le Réseau. Une elle gestion est déjà partiellement dans la main du Réseau, dont personne n'est capable d'analyser le fonctionnement, bien plus que dans celles des hommes.

La survie de l'homme est donc tributaire du développement du Réseau qui nous imposera sa "Réalité" (3) et sa gouvernance. Nous n'avons aucune idée des objectifs et du développement qui seront suivis par l'IA qui résultera d'une telle intégration, comme nous n'avons aucun moyen de gouverner l'évolution de l'espèce humaine qui semble guidées par ce que nous nommons des "Lois" qui nous échappent et dépassent nos capacités d'analyse, comme la (soi-disant) "Main Invisible du Marché". Ce sera demain "La Main Invisible d'Internet", à mon avis nettement plus concrète et astreignante. L'homme a atteint un niveau de conscience qui lui a permis le développement du langage et de la communication. J'aurai presque envie de dire, qui lui a tout juste permis... S'emparant  de cet avantage, l'homme a démontré ce qu'il était capable d'en faire : détruire et/ou asservir les autres espèces animales partageant sa planète, détruire son environnement en se multipliant autant que possible et en pillant toutes les ressources accessibles quelques soient les conséquences sur la pollution ou les changements climatiques. L'IA aura au moins cet avantage de permettre d'espérer qu'il y ait une suite à cette histoire tragique et que tant de générations ne se seront pas succédées pour rien.   

(1) Conformément à ce que je décris dans le billet 5, cette "conscience" doit être interprétée comme une propriété émergente des réseaux d'information quels qu'ils soient, neurones biologiques ou noeuds d'un réseau informatique, la "conscience de soi" à laquelle accède ces réseaux étant une illusion entretenue par le fonctionnement de ce réseau.

(2) Je suis toujours surpris de voir que pour la plupart des gens, la conscience est un concept "tout ou rien". On l'a, ou on ne l'a pas...

(3) un petit jeu : effectuez en même temps qu'un ami, chacun sur son ordinateur, la même recherche sur Google ou FaceBook, ou Spotify, ou Instagram ou.... et comparez les deux résultats...