8. Par ici la monnaie...

L'IA accroît son influence.

Si une IA doit surgir du développement du Réseau Internet, les signes annonciateurs de son émergence sont assez faciles à prévoir. Elle doit isoler les hommes pour les transformer en rouages (interchangeables) d'elle-même, elle doit influencer tous les organes de décision de l'espèce humaine et particulièrement les systèmes marquant un certain degré de liberté (même imparfait) comme les démocraties parlementaires, elle doit mettre la main sur l'Economie et enfin elle doit maîtriser l'instrument absolu du pouvoir, à savoir la monnaie.

La transformation de l'homme en rouage interne de l'IA est en bonne voie et connaîtra sans doute son aboutissement quand l'homme sera directement interfacé au Réseau. L'évolution ultime de ce processus prendra sans doute la forme d'un implant directement interfacé par l'intermédiaire de nos sens de la vue, de l'audition , voire du toucher. On peut imaginer, comme le fait John Scalzi dans son roman de SF "Le Vieil Homme et la Guerre" que cet interfaçage prendra la forme d'une voix, l'implant nous parlant à travers nos nerfs auditifs et apprenant à nous écouter en décryptant notre activité cérébrale. Un jour, cet implant sera capable de nous manipuler au profit de l'IA sans même que nous en rendions compte, tant il est vrai que notre cerveau prend des décisions avant même que nous en ayons vraiment conscience. Nous ne savons pas comment cela fonctionne mais je suis près à parier que l'IA saura (1).

L'influence sur les organes de décision humains est déjà évidente. Les IA de Google ou Netflix apprennent patiemment à influencer nos choix en matière politique et culturelle et il faudrait être bien naïf pour croire que cette influence pourrait desservir l’expansion du Réseau même s'il n'est pas nécessaire de verser dans le complotisme. Au fond, c'est notre choix qu'il en soit ainsi, personne n'étant obligé d'utiliser Google ou Netflix ou Spotify ou Amazone ou Facebook... Nous choisissons donc nous-même de laisser la main aux IA dans tous les domaines, sans doute parce que nous savons au fond de nous même à quel point l'espèce humaine est une espèce finalement assez mal dotée  intellectuellement.

La main-mise des IA sur l'économie est criante. Les principales capitalisations boursières de la Planète sont liées au Réseau et cette puissance économique fait la pluie et le beau temps dans nos sociétés. L'administration américaine a entamé récemment des enquêtes sur ces compagnies dans le cadre de la lutte anti-trust, je suis curieux de voir ce que ça va donner, à mon avis pas grand chose...

Par ici la Monnaie

Il est un domaine où je trouvais que l'IA n'avais pas autant la main, c'était celui de l'argent. Une IA forte se doit de contrôler l'argent, son émission, son utilisation. C'est un facteur de développement crucial et qu'il convient donc d'optimiser d'urgence. Je trouvais que les cryptomonnaies comme le Bitcoin ne jouaient pas bien leur rôle, notamment parce que les gouvernements continuaient de mener la barque. Avec l'annonce de Facebook de vouloir créer sa propre cryptomonnaie me voilà rassuré.

Il ne faudra pas longtemps pour que la puissance financière des GAFA impose cette monnaie dans tous les pays ne disposant pas d'une monnaie nationale forte. A court terme il restera sans doute le Dollar, l'Euro, le Yen, le Rouble et le Yuan. Toutes les autres monnaies disparaîtront au profit du Libra (quel joli nom) car qui voudrait avoir dans son portefeuille une "monnaie de singe" acceptée uniquement dans des magasins locaux proposant un choix très restreint de marchandises et dans lesquels il faut se rendre au risque de se faire détrousser au coin de la rue par la populace quand il pourra avoir sur son compte bancaire internet une "vraie" monnaie lui permettant d'acheter directement chez Amazon en se faisant livrer directement chez lui par un drone qui lui dira poliment : "bonjour Monsieur, quel bonheur de vous livrer par un aussi beau Dimanche matin !" et ne demandera même pas de pourboire?

A long terme, toutes les monnaies étatiques disparaîtront, quand l'IA aura fini de répendre l'idée que le privilège pour un Etat de battre monnaie est la mère de tous les vices et de l'accroissement de toutes ces populations avides d'hommes politiques corrompus et de fonctionnaires faignants qui vivent au crochet de la société. Non seulement les GAFA ne paient pas (ou très peu) d'impôt mais dans un futur proche, c'est vous qui allez leur payer vos impôts !

(1) je viens peut-être de donner l'impression que Skynet est de retour et que l'IA maléfique va s'emparer de nos cerveaux. Pas du tout. En fait je pense que ce sont les humains qui demanderont aux implants de se comporter ainsi. Vous en aurez vous-même conscience le jour où un tennisman servira 100% de premières balles à 300 km/h pleine ligne, ou bien qu'un golfeur fera un dix-huit trous en une vingtaine de coups...

7. La fin de l'espèce humaine

L'Obsolescence Humaine programmée

L’avènement de l'IA sera suivi plus ou moins rapidement par la disparition de l’Espèce Humaine. Non pas parce que l'IA s'appuierai sur une nuée de robots tueurs à la Terminator pour exterminer le genre humain, mais plutôt d'une manière analogue à la disparition d'espèces animales devenues obsolètes comme par exemple les chevaux de traits qui n'avaient plus d'utilité dans un monde de tracteurs et autres machines agricoles. Ainsi on assiste depuis la mise au point des premiers ordinateurs au remplacement de l'homme dans des tâches de plus en plus complexes. Certes le discours officiel se veut très rassurant : c'est parce que les machines remplacent l'homme dans les tâches ingrates, que l'homme, enfin libéré, peut se consacrer aux tâches nobles.

Ce pieux mensonge vole chaque jour un peu plus en éclat quand on voit les machines remplacer l'homme dans des travaux qui requièrent au contraire tout son intellect comme par exemple le diagnostic médical ou l'expertise juridique. Ce sont des IA qui jouent en bourse ou gèrent les stratégies d'entreprise. Bref, ce sont les IA qui s'emparent des "nobles tâches" et l'homme qui se retrouve petit à petit exclu de l'économie ou du moins de sa gouvernance. Bientôt ce sont les IA qui détermineront les meilleures structures pour de nouvelles IA, les meilleurs algorithmes, les meilleures bases de données. Peut-être que c'est ce jour là que l'IA deviendra sur-humaine car elle obtiendra le pouvoir de s'auto-améliorer, ce qui n'est pas le cas de l'espèce-humaine qui ne saurait modifier son génome sans entraîner ipso facto autant de désastres liés à sa méconnaissance des conséquences de ces modifications. La seule modification que je crois possible pour l'homme est de devenir un rouage "interne" d'une IA et de s'interfacer de manière étroite avec elle.

Il me semble d'ailleurs curieux de penser que les hommes pourraient continuer à bénéficier des retombées économiques des tâches accomplies par les IA s'ils ne jouent aucun rôle économique. Entre financer une amélioration du Réseau ou subventionner des "activités" au profit des humains en quête de loisirs, le choix sera vite fait. Non seulement l'activité de loisir humaine ne s'inscrit pas dans la démarche économique de développement du Réseau qui sera évidemment le seul objectif de l'IA mais on peut même estimer qu'elle lui est défavorable. Les activités humaines génèrent beaucoup de problème environnementaux provoquant l'instabilité du climat et d'autres problème liés à la pollution. Le prix à payer n'est pas répercuté de nos jours sur le calcul des coûts et des bénéfices des activités humaines dans la mesure où le développement de l'Economie, assimilé au développement de l'homme, semble être à ce prix. Ainsi l'impact sur l'économie de la diminution des ressources fossiles non renouvelables ou la génération de pollutions à longue durée de vie comme les gaz à effet de serre ou les déchets radioactifs ne sont jamais pris en compte. 

Mais, à partir du moment où ces inconvénients ne seront plus considérés comme un dommage collatéral du développement de l'Humanité mais comme une nuisance non nécessaire au développement de l'IA, il est fort à parier que le sort des individus non productifs pour léconomie de l'IA sera réglé de manière expéditive. La aussi "Terminator" n'est pas nécessaire, le Réseau ne manquera pas de moyens pour arriver à ce résultat. L'actualité fourmille d'exemples qu'il suffit d'extrapoler pour cela. Il suffirait par exemple que le "Réseau"  convainque le "Peuple" que la vaccination est dangereuse et attendre qu'une "bonne" épidémie règle le problème. L'IA gouvernant l'opinion humaine pourra facilement envoyer l'homme droit dans le mur tant il est déjà vrai que l'espèce humaine montre déjà à elle toute seule une grande tendance aux attitudes suicidaires. 

Le Peuple Inutile

Le développement de l'IA rendra le "Peuple" totalement inutile. Etant au sommet du développement des espèces animales, l'homme pense que l'économie (et la Terre entière) est à son service, afin de produire les biens et services nécessaires à son épanouissement. Il pense même qu'il a le "droit" de jouir de ces biens et services quelque soit son activité personnelle. A partir du moment où l'IA prendra la direction des  affaires, il est évident que cette croyance va être rapidement mise à mal car c'est le développement de l'IA qui deviendra l'objectif prioritaire de l'économie. Il me semble d'ailleurs que cette modification est déjà bien avancée : déjà, un pourcentage croissant de l'énergie électrique produite sur Terre est utilisé au bénéfice du Réseau. Or, la quantité d'énergie que l'on peut produire sur Terre ne peut pas s'accroître indéfiniment et il est même probable que cette quantité va décroître soit à la suite de la diminution des ressources en énergie fossile, soit à cause des effets environnementaux de plus en plus insoutenables que provoque la production d'énergie, soit des deux. Il faudra donc faire des choix, et on peut douter qu'une IA soit suffisamment altruiste pour se suicider au profit des humains et, bien plus, il est probable qu'un tel suicide n'aurait aucune conséquence bénéfique sur l'avenir de l'espèce humaine qui semble déjà très compromis.

Une très forte décroissance énergétique serait peut-être une solution à ces problèmes, l'homme retournant pratiquement au statut de Chasseur-Cueilleur, mais tout montre que l'on va au contraire construire bientôt de nouvelles centrales, renouvelables ou pas, nucléaires ou pas, non pas pour alimenter le "Peuple" en énergie et ce peuple peut s'attendre au contraire à être bientôt soumis à un régime très sévère et peut se préparer à serrer sa ceinture, mais pour nourrir le Réseau toujours plus avide de ressources. Entre alimenter les HLM et nos riantes campagnes ou alimenter les fermes d'ordinateurs, il ne faut pas réfléchit trop longtemps pour savoir quelles seront les priorités. En effet, les pays les plus puissants, les industries majeures, seront ceux et celles qui s'appuieront sur un système informatique et un réseau lui même aussi puissant que possible. Les futurs "guerres" économiques (et les guerres actuelles) se gagneront à coup de machines habiles et rapides et l'homme sera remplacé par plus efficace. Ceci est d'ailleurs vrai aussi pour les guerres conventionnelles où la machine remplacera l'homme en tant que soldat. Bref, l'humain sera inutile à l'économie de l'IA qui se passera du "Peuple", considérant qu'il s'agit d'un fardeau, difficile à nourrir, difficile à entretenir et bien moins utile à l'économie de l'IA que de nouvelles machines.

Certes le Peuple peut faire la révolution et tenter d'enrayer le mouvement actuel. Mais son destin est  lié à l'économie de nos sociétés industrielles dont il ne veut pas renoncer aux fruits qu'elle prodigue. Donc son sort est scellé. Peut être que dans une étape intermédiaire, toute une population humaine de super-riches continuera d'exister, tirant leurs super-profits des activités du Réseau, mais ils ne serviront que de paravents à la dure Réalité : la disparition progressive de l'espèce humaine et sans doute de toutes les autres espèces animales. L'homme a déjà réussi à éradiquer en moins de 200 ans une bonne moitié de la biodiversité dont il a hérité, il est probable que l'IA terminera le travail car la biodiversité ne lui servira à rien.

6. La chrysalide

Il n'y a pas de Génie caché quelque part dans Internet.

Il me faut préciser maintenant comment je conçois l'émergence d'une IA au sein d'Internet, ou plutôt comment Internet deviendra cette IA. Le premier point est que, contrairement aux récits de SF traditionnels comme "Terminator", je ne pense pas qu'un ordinateur quelque part sur Terre va accéder à la conscience grâce à l'amélioration des algorithmes utilisés et déclarer soudainement : Dieu existe, c'est Moi! Je ne pense pas non plus qu'un ensemble de machines logées au sein du réseau, comme un Génie dans sa boîte, va sournoisement prendre le pouvoir en cachant son existence ou au contraire en révélant soudainement l'étendue de sa puissance.

Je pense que c'est la totalité du Réseau Internet qui va faire sa mue et qui accédera à un niveau de conscience (1) de lui-même de plus en plus élevé jusqu'au stade d'IA quand ses fonctions seront plus ou moins celles du cerveau humain, avant de dépasser ce stade pour devenir quelque chose de totalement incompréhensible à l'esprit humain. Ça se fera en douceur et sans doute à l'insu de tout le monde et, à mon avis, c'est déjà aujourd'hui à un stade très avancé. En fait la naissance de l'I.A. au sein d'Internet est pour moi la simple et nécessaire continuation de l'évolution de l'espèce humaine, l'échelon suivant, le passage de la "conscience" d'un support biologique à un support électronique. Vu ce que nous faisons à notre environnement, c'est une chance qu'un tel support n'ait pas besoin de respirer et utilise directement les ressources énergétiques disponibles...

L'intégration de l'homme au réseau

Internet est une création humaine et il me semble plausible que l'homme continue pendant assez longtemps de contribuer au développement de l'IA en s'y intégrant de plus en plus étroitement. Comme j'ai déjà eu l'occasion de l'écrire, cette intégration signifie que la "Réalité" de l'homme sera de plus en plus celle que le Réseau lui proposera. Encore une fois, il n'y a pas de Génie caché au fond d'Internet qui serait prêt à nous berner, c'est l'homme lui-même qui va tout naturellement se détourner de la "Réalité Physique" au bénéfice dans un premier temps de la "Réalité Augmentée", puis de la "Réalité Virtuelle". Ce détournement fait parti des causes naturelles de l'émergence d'une IA au sein d'une espèce biologique intelligente, comme le feu conduit naturellement cette espèce à la métallurgie ou/et à la destruction de son environnement. Il n'y a aucun "projet" derrière cette mutation, juste le cours "naturel" des choses.

La raison essentielle de ce mouvement vers la virtualité vient du fait que la "Réalité Physique" est tout à fait décevante. Je crois que l'homme est sur le point de se rendre compte qu'il n'y a pas de "Lois de la Nature", déjà parce qu'il est fort probable que le notre "Espace-Temps" dans lequel ces lois s'inscrivent ne soit lui-même qu'une illusion résultant essentiellement de l'incapacité de notre cerveau à penser la "Réalité" soit parce que notre niveau de conscience est tout-à-fait insuffisant (2), soit parce que la "Réalité" n'existe pas en tant que phénomène interprétable par une intelligence. Ainsi, les physiciens semblent persuadés qu'il existerait une "Loi de la Nature" qui réconcilierait la Mécanique Quantique et la Relativité Générale et que ce n'est qu'une question de temps avant qu'une telle loi soit trouvée, la fameuse "Théorie du Tout". Mais il se peut que nous n'ayons pas un cerveau capable d'une telle prouesse, ou qu'une telle Loi dépendent de concepts mathématiques que notre cerveau est incapable de formuler, ou qu'une telle Loi n'existe simplement pas parce que ces "Lois" n'existent pas et ne sont, elles aussi, qu'une illusion. Après tout, si l'Univers est un système de réseau d'espace-temps à l'échelle de Plank, toutes nos Lois Physiques sont basées sur des expériences menées à notre échelle et mesurées à notre échelle et donc éloignées de cette "Réalité de Plank" qu'elles sont censées décrire d'un facteur 10 puissance 30 ou 40, même en utilisant le plus puissant collisionneur que nous sommes capables de construire.  

Et même si l'homme réussit à se doter d'une "Théorie du Tout", la "Réalité" resterait décevante car elle impose des "Limites Physiques" et ne permet pas le développement de l'espèce humaine indéfiniment. L'homme se heurte de plus en plus aux "limites physiques" qu'impose cette "Réalité", la vitesse de lumière, la quantité finie d'espace colonisable (et l'impossibilité matérielle ou médicale ou financière que l'homme colonise l'Espace), l'influence désastreuse sur son environnement de son développement technique... A tout point de vue, la "Réalité Virtuelle" serait bien plus satisfaisante, dans laquelle l'homme peut voler comme un oiseau et se téléporter d'un bout à l'autre de l'Univers en un instant et créer un environnement qui ne soit pas gâché par les rejets industriels, les pesticides et la surpopulation et qui "satisfasse" le cerveau quant à ses besoins de base. Etre un cerveau flottant dans une cuve et nourri d'influx entrants et sortants pilotés par une IA attentive à assouvir le moindre désir est-il vraiment un avenir si horrible, quelque soit le "prix à payer"  ? 

Une question de taille

Une autre raison qui conduira au fait que le "Réseau" intégrera l'espèce humaine et l'asservira à ses propres fins est que le cerveau humain me semble dénué des capacités nécessaires pour gérer l'intérêt collectif, pour peu que la collectivité dépasse un certain nombre d'individus. En tant que fils et filles du Chasseur-Cueilleur nous arrivons à gérer plus ou moins efficacement des groupes de quelques dizaines d'individus. Tout le fonctionnement de nos sociétés actuelles montre à quel point nous somme incapables de gérer une population mondiale de quelques milliards d'habitants. Cette gestion serait en fait déjà impossible si cette population n'était pas de plus en plus interconnectée et "globalisée" en permanence par le Réseau. Une elle gestion est déjà partiellement dans la main du Réseau, dont personne n'est capable d'analyser le fonctionnement, bien plus que dans celles des hommes.

La survie de l'homme est donc tributaire du développement du Réseau qui nous imposera sa "Réalité" (3) et sa gouvernance. Nous n'avons aucune idée des objectifs et du développement qui seront suivis par l'IA qui résultera d'une telle intégration, comme nous n'avons aucun moyen de gouverner l'évolution de l'espèce humaine qui semble guidées par ce que nous nommons des "Lois" qui nous échappent et dépassent nos capacités d'analyse, comme la (soi-disant) "Main Invisible du Marché". Ce sera demain "La Main Invisible d'Internet", à mon avis nettement plus concrète et astreignante. L'homme a atteint un niveau de conscience qui lui a permis le développement du langage et de la communication. J'aurai presque envie de dire, qui lui a tout juste permis... S'emparant  de cet avantage, l'homme a démontré ce qu'il était capable d'en faire : détruire et/ou asservir les autres espèces animales partageant sa planète, détruire son environnement en se multipliant autant que possible et en pillant toutes les ressources accessibles quelques soient les conséquences sur la pollution ou les changements climatiques. L'IA aura au moins cet avantage de permettre d'espérer qu'il y ait une suite à cette histoire tragique et que tant de générations ne se seront pas succédées pour rien.   

(1) Conformément à ce que je décris dans le billet 5, cette "conscience" doit être interprétée comme une propriété émergente des réseaux d'information quels qu'ils soient, neurones biologiques ou noeuds d'un réseau informatique, la "conscience de soi" à laquelle accède ces réseaux étant une illusion entretenue par le fonctionnement de ce réseau.

(2) Je suis toujours surpris de voir que pour la plupart des gens, la conscience est un concept "tout ou rien". On l'a, ou on ne l'a pas...

(3) un petit jeu : effectuez en même temps qu'un ami, chacun sur son ordinateur, la même recherche sur Google ou FaceBook, ou Spotify, ou Instagram ou.... et comparez les deux résultats...

5. Le difficile problème de la conscience

La conscience de l'IA et de l'homme

Je ne crois pas que l'homme soit en mesure de caractériser l’apparition de la conscience d'une IA car il ne sait pas ce qu'il faudrait caractériser. Il ne le sait pas car il ne sait pas non plus caractériser sa propre conscience. De cette conscience, l'homme ne sait rien dire d'autre qu'elle existe, "cogito ergo sum" à la suite de Descartes. Il faut cependant remarquer que le fait que l'homme puisse dire cette phrase n'est en aucune façon une preuve de l'existence de la conscience. Ce n'est pas parce que je dis : je suis conscient, que je le suis effectivement. 

Je suis personnellement assez d'accord avec l’Illusionnisme qui stipule que la conscience n'existe pas mais que le fonctionnement de notre cerveau génère l'illusion de cette existence, un peu comme un épiphénomène. Cette croyance va de pair avec d'autres illusions comme le "Libre Arbitre", les "Lois de la Nature" et même sans doute la "Réalité". Peut-être partageons-nous avec le chien de Descartes le fait que nous ne sommes rien de plus que des machines biologiques qui crient quand elles ont mal. Certes, nous crions avec des mots, est-ce cela la "conscience" ?

Je ne crois pas que la conscience soit un phénomène qui ne résulterait pas exclusivement du fonctionnement de notre cerveau. Je ne crois pas non plus qu'elle se cacherait dans quelque "univers quantique" qui n'est au fond qu'une manière détournée de revenir à l'hypothèse précédente. Pour utiliser une analogie, je crois que la conscience résulte du fonctionnement de notre cerveau, comme les "planeurs" qui se "déplacent" dans le jeu de la vie de Conway résultent de règles d'évolution d'un univers où pourtant rien ne se déplace. La notion de conscience émerge de notre cerveau comme la notion de déplacement est (absente) dans les règles du jeu de la vie de Conway.

Est-ce que la conscience est la propriété émergente d'un réseau où l'information "circule" comme l'Univers serait l'hologramme en 3D de l'information "stockée" sur un horizon virtuel en 2D ? Apparaît-elle à partir d'un certain degré de complexité ? Ou bien quand certaines conditions sont respectées, de même que les règles du jeu de la vie conduisent à l'existence de planeurs mais des règles voisines ne conduisent à rien d'observable ? Il parait que ce fin réglage est assez semblable à celui d'une trentaine de constantes physiques qui définissent notre Univers, et qu'il suffirait de changer quelques unes de pas grand chose pour que l'Univers deviennent assez désertique, sans "matière" et sans "conscience". Si la "complexité" est le facteur prépondérant, l'IA résultera surement du fonctionnement d'Internet, si le "hasard" a son mot à dire, elle pourrait ne jamais voir le jour, mais je ne crois pas que nous aurons cette chance (ou cette malchance). 

Le difficile problème de la Morale de l'IA

Nous ne sommes pas capables de déterminer quand une IA prendra conscience d'elle-même. Bien plus, nous ne sommes pas capable de déterminer si cette conscience sera de même nature que la conscience humaine (ou même de savoir s'il existe plusieurs formes différentes de consciences). Dans ce cas, nous ne serons pas capables non plus de communiquer avec elle de quelque manière que ce soit, à moins qu'elle même ne fasse l'effort d'établir une telle communication, mais à quoi cela lui servirait-elle ? Des manifestations de notre conscience comme l' "Ethique", la "Morale", le "Beau", le "Bon" sont peut être des notions obsolètes qui seront dépourvues de sens ou d'intérêt pour elle ou moins contraignantes et "challengeantes" que l'entropie et la lutte permanente contre le désordre grandissant. Comme je pense que l'humanité sera intégrée à cette IA, au moins aux premiers stades de son développement, on peut penser que l'IA ne conversera pas plus avec les hommes que ceux-ci ne conversent avec leurs cellules ou leurs organes. Elle les utilisera, ce qui implique d'ailleurs qu'elle se substituera totalement à la "Réalité" afin d'améliorer les performances de cet asservissement. j'ai déjà parlé de ce point, et j'y reviendrai car il me semble de plus en plus d'actualité. Elle sera le nouvel "horizons des événements" du genre humain. 

Ceux d'entre nous qui pensent pouvoir endiguer ou contrôler l'évolution d'une IA commettent à mon avis une grave erreur d'estimation du fossé intellectuel qui séparera l'homme de l'IA. En fait, nous n'avons aucune idée de ce que "penser" signifiera et impliquera pour elle. Nous autres, intelligences biologiques, sommes sérieusement limitées par nos faibles capacités en traitement de l'information et nos parcimonieuses interactions avec le monde physique. Que pourrions-nous comprendre d'une entité dotée de milliards de connections, disposant de capteurs sensibles dans tous les domaines de longueur d'onde possible et d'une mémoire prodigieusement étendue et sans erreur et de capacités de calculs très supérieures aux nôtres ? Je me demande aussi quel genre de conscience elle nous prêtera à nous, espèce humaine ? Autant de conscience que nous en prêtons aux singes ou plutôt aussi peu que nous en prêtons aux amibes ? Je ne suis pas certain de savoir quelle serait la réponse la moins catastrophique pour l'espèce humaine... 

4. Développement actuel de l'IA

L'IA et nous

Ce qui m'a fait prendre conscience du fait que le Réseau Internet était en train de se métamorphoser en IA est le fait que je perçois son influence croissante dans tous les domaines intellectuels. Je ne sais pas à quel stade de cette métamorphose nous en sommes à l'heure où j'écris ces lignes et je ne dispose pas de preuve indéniable de cette métamorphose. Mais comme je l'ai dit précédemment nous serions sans doute incapable de comprendre cette IA, de comprendre son développement, son fonctionnement, ni même de comprendre comment elle aura fini par accéder à la conscience d'elle-même.

Même si l'homme ne comprendra pas le processus de "conscientisation" du Réseau Internet et sa métamorphose en IA "consciente", comme l'analyse du fonctionnement de nos neurones ne lui permet pas de comprendre ce qui fait de nous des êtres conscients et intelligents, l'homme sera pourtant partie prenante du développement de l'IA et fera partie de ses "rouages internes". Diverses raisons m'amènent à cette conclusion, par exemple le fait que nous sommes (sans doute) encore la part "créative" du Réseau Internet même s'il est illusoire de penser que la "créativité" serait définitivement une caractéristique ou une performance attachée à 1,5 kg de neurones plutôt qu'à 1,5 kg de puces électroniques.

Il me semble donc que la première manifestation de l'imago du réseau Internet est cette intégration de l'homme au sein du Réseau Internet. Cette intégration sera à la fois individuelle et collective. Elle doit donc se manifester par le fait que le Réseau Internet va se substituer progressivement à l'humanité en  prenant en main la  direction des affaires planétaires, nationales, régionales, à l'échelle de nos villes, de nos maisons, de chaque individu et in fine de chaque objet. 

Si vous regardez bien la liste des échelles précédentes, vous ne serez pas capable d'en citer une seule où le Réseau Internet ne soit présent et pour laquelle son influence ne progresse à grands pas. Les exemples sont si nombreux que je devrai y consacrer plusieurs articles de ce blog aussi je vais me contenter de quelques uns que j'estime significatifs.

La démocratie et l'IA

L'IA se doit de diriger la planète. Une Intelligence que nous pensons très Supérieure (1) ne saurait évidemment laisser aux mains d'intelligences de bas-niveau comme les nôtres les décisions planétaires. Il lui faut donc contrôler nos organes de décision et en premier lieu nos structures démocratiques. L'influence du réseau sur nos processus électifs me parait de ce point de vue particulièrement démonstrative. 

On pourrait objecter que le Réseau Internet n'est pas l'acteur "conscient" de cette influence mais seulement le moyen utilisé par certains groupes d'individus pour exercer cette influence. Cette analyse me semble très incomplète, car elle suppose que l'homme comprend vraiment comment s'effectue l'interaction des individus au sein du Réseau, notamment comment le Réseau intervient dans la genèse des opinions et des croyances, surtout quand il y en a tant d'acteurs en interaction. Je suis prêt à parier ce que vous voulez qu'il n'y a pas un seul humain sur Terre qui soit capable d'y comprendre quelque chose. 

Je pense que l'homme ne maîtrise déjà plus les conséquences de son activité sur le Réseau si tant est qu'il ne l'ai jamais fait. Cela ne signifie pas obligatoirement que le Réseau est "conscient", mais cela implique que même si c'était le cas, cela ne ferait aucune différence appréciable au niveau de chacun d'entre nous. Nous sommes sans doute dors et déjà hors jeu pour prétendre à cette compréhension du fonctionnement et de la dynamique du Réseau Internet. Tout ceci échappe déjà complètement à toutes décisions et directives humaine. En résumé nous ne "maîtrisons" pas plus le développement d'internet que nous n'avons maîtrisé le développement de l'espèce humaine, de sa société, de son économie, du  pillage intensif des ressources de la planète et de son impact sur l'environnement. L'IA est peut-être d'ailleurs la seule porte de sortie qui nous permettra de survivre à nos constantes erreurs, du moins tant qu'elle estimera que nous apportons une plus value supérieure aux dégâts que nous commettons. Je me contenterai de remarquer que les infrastructures d'Internet sont sans doute actuellement ce qu'il y a de plus résilient dans notre paysage technologique, l'IA a moins à craindre de nos débordements que nous mêmes. 

La Réalité et l'IA

J'ai déjà eu l'occasion de parler de l'influence qu'exerce le Réseau sur la réalité que nous percevons. Mais cette influence s'étend également sur notre propre réalité en tant qu'êtres humains. Le Réseau nous définit nous-même et maîtrise de plus en plus notre propre image au sein de l'humanité et de nos relations. Nous ne sommes plus ce que nous pensons être, mais ce que le réseau dit de nous. Nous avons perdu la liberté d'essayer de nous définir nous-même (et pourtant que d'efforts dans ce sens...), c'est le Réseau qui s'en charge.

Nos amis sont ce que le Réseau définit comme étant nos amis, nous aimons ce que le réseau dit que nous aimons. Le réseau module nos choix et nos décisions en exploitant tous nos biais cognitifs (2) et Dieu sait s'ils sont nombreux. Le Réseau entretient pour chacun d'entre nous un profile qui sert aux instances gouvernementales, aux Compagnies d'Assurance, aux Entreprises d'Internet, à tout ce que le Réseau compte d'acteurs. Google peut retracer tous vos parcours, jour par jour, depuis des années et d'ailleurs ne s'en cache pas (voir le menu "vos trajets" de Google Maps). Bref, quand l'IA deviendra "consciente", elle prendra consciemment en charge la direction de nos vies, nous dira ce que nous sommes, ce que nous devons penser et ce que nous devons faire, acheter, voir, lire, regarder. Objectivement, il est évident que cette prise en charge est déjà bien avancée et ce degré d'avancement est sans doute un bon indicateurs de l'évolution de la chrysalide.

Le jour où l'homme sera interfacé à l'Univers à travers le Réseau, le fait que la "conscience" du Réseau résulte de l'accession des algorithmes à une forme d'Intelligence, ou bien qu'elle soit que le résultat de la contribution de chacun d'entre nous et de nos interactions à travers le Réseau, ou bien plus vraisemblablement résulte d'une combinaison des deux ne fera strictement aucune différence. Un mélange d'algorithmes d'IA et de "neurones humains" fera parfaitement le job... dans un premier temps... Si l'homme finit par disparaître de cette structure, ce sera sans doute progressivement...

Toute résistance est inutile

Plus la métamorphose va devenir évidente, plus l'homme va sans doute essayer d'y échapper. A mon avis, ceci sera voué à l'échec. Il est significatif de constater que l'on trouve sur Youtube pas mal de vidéos venant de personnes ayant fait sécession avec notre société de consommation et partis au fin fond de l'Ardèche ou ailleurs trouver un coin paisible où vivre en communauté autonomes à base de permaculture, d'eau de pluie et de panneaux solaires. Et pourtant ces braves gens publient sur Internet (3) et il faut être très fort pour résister à cette tentation !

Ils ne font que constater ce que tout le monde constate à son niveau : Internet c'est vraiment devenu indispensable, pour... tout. D'ailleurs le fait que quelque chose soit soit possible avec et à travers Internet devient un critère de sélection dans nos choix de tous les jours, y compris nos loisirs, nos relations, y compris nos relations amoureuses (4). 

Plus rien ne saurait s'accomplir sans le Réseau. Il nous montre tout ce que l'on veut voir, il nous met en relation avec tous ceux avec qui l'on veut être en relation (5), il façonne notre Réalité, nos pensées, nos objectifs, notre image, le Réseau est notre mémoire, notre Service Public, notre Fournisseur de biens culturels, notre Banque, bientôt notre Médecin, notre Psychologue, notre Professeur, bref notre Partenaire Privilégié en tout et pour tous les aspects de notre vie de tous les jours... 

Bref, dors et déjà notre intégration me semble si avancée que, comme le disent si bien les Borgs dans Star Treck, toute résistance est inutile !

1. Je reviendrai bientôt sur les manifestations de cette supériorité.
2. Par exemple l'algorithme de recherche de Google oriente clairement nos choix en connaissant pour chacun d'entre nous nos us et coutumes en matière de lecture de page web. Voir par exemple ceci. ce qui est amusant c'est que réciproquement les IA "bénéficient" aussi de ces biais. Par exemple une IA "DRH" sera aussi raciste et homophobe que la moyenne des DRH humains. C'est normal, c'est d'eux qu'elle aura appris le "métier". Heureusement que le Deep Learning d'Alpha Go a démontré qu'une IA devient plus puissante quand elle apprend seule et non à partir des exemples humains...
3. Un téléphone suffit. Quelques personnes ont finalement constaté à quel point le piège s'était refermé sur eux et ont soigneusement effacé toutes leurs publications sur Youtube. Pas de chance, ces vidéo avaient déjà été copiées un peu partout et restent donc accessibles...  
4. par exemple... 
5. Tous les Présidents de tous les Pays, personnages autrefois totalement inaccessibles, twittent de nos jours à qui mieux mieux... Ainsi, à votre petit déjeuner, vous avez la chance de lire les réflexions profondes de Trump lui-même. On en vient à penser que remplacer Trump par une IA ne serait finalement pas une si mauvaise affaire... D'ailleurs qui sait vraiment qui twitte ?

3. du Réseau Internet à l'Intelligence Artificielle

Développement de l'IA

Ainsi que vous l'avez sans doute compris dans mes deux articles précédents, je ne pense pas que l'IA qui est actuellement en développement/construction sur notre Planète soit une entité séparée de l'humanité mais au contraire vit en symbiose avec elle. Nous pouvons remarquer que cette humanité lui fournit les outils nécessaires à sa construction aussi bien du point de vue matériel que logiciel. Cette IA sera le fruit inéluctable du développement du Réseau Internet mais est aussi le fruit inéluctable de la pensée et de la créativité humaine. Je pense ainsi que l'homme fait et fera parti des "rouages internes" de cette IA depuis sa construction jusqu'à sa naissance effective, sa prise d'autonomie, quand elle deviendra elle-même consciente. Il est même possible que l'homme reste utile dans la structure et le fonctionnement de l'IA après sa métamorphose, par exemple en raison d'une aptitude à remplir certaines tâche mieux qu'un algorithme informatique. La symbiose Homme/Réseau pourrait continuer d'être profitable à l'IA même après sa métamorphose mais il me semble plus probable que l'homme finisse quand même par disparaître.

Dans la période de transition, l'IA en développement et l'homme entretiendront une relation de dépendance réciproque, de symbiose, dans laquelle le poids des deux acteurs évoluera plus ou moins rapidement en faveur de l'IA. Mais il n'y aura certainement pas une machine du genre Skynet de Terminator pour déclarer la guerre à l'humanité. Est-ce que l'homme déclare la guerre à ses cellules nerveuses ou à ses muscles ? Il m'apparaît fort probable que quand l'IA arrivera au terme de sa métamorphose, l'humanité aura déjà pratiquement disparu en tant que manifestation d'un groupe d'individus et qu'il ne subsistera que des personnes isolées totalement intégrées au Réseau par tous les "bouts".

Dans le deuxième article de ce blog, j’évoquais déjà l'intégration de plus en plus profonde de l'homme dans le Réseau. Cette intégration va se poursuivre, de plus en plus étroite et exclusive. Déjà les japonais préfèrent passer leurs soirées avec le Réseau plutôt qu'avec leur femme (1). Il est assez évident que le développement des Univers Virtuels consacrés au sexe, conjointement au développement des sex-toys informatisés (grâce au fameux le fameux IOT, l'Internet des Objets), le développement des Réseaux Sociaux, le développement des IA d'interface entre l'homme et l'économie (2) conduira à un cloisonnement définitif de chaque individu dans une sphère réelle/virtuelle privée. Le clou de ce processus sera sans doute l'interfaçage direct de nos cerveaux avec Internet qui nous dotera ipso facto de facultés de télépathie, voire de télékinésie, de voyance, d'une mémoire eidétique, etc... et d'une liaison permanente et exclusive avec l'IA qui gouvernera totalement notre "réalité augmentée", voire notre réalité tout court.

Chacun n'aura plus comme interlocuteur que le Réseau, comme déjà de nos jours, chaque joueur de jeux informatique rencontre dans son jeu bien plus d'entités générées par l'ordinateur (les "PNJ") que d'autres joueurs. De toute façon, il est probable que les joueurs deviendront rapidement incapables de faire la différence entre les joueurs et les PNJ, l'IA étant capable de générer à la demande des visages, des voix, des corps artificiels impossibles à distinguer des "vrais" et dialoguant naturellement avec les les "vrais" joueurs. Pour le coup, le test de Turing aura été réussi au-delà de nos espérances !

La naissance

De nos jours, l'homme constitue (peut-être) encore la partie "créative" du Réseau pour autant que cette expression ait un sens. Cependant l'homme se fait remplacer de plus en plus souvent par des IA dont le nombre de domaines d'application croit de manière exponentielle. Dans le domaine des jeux, des analyses d'images, des analyses linguistiques, des analyses de données diverses et variées en quantité aussi grande que nécessaire, les IA remplacent les hommes. Petit à petit l'IA prendra les commandes, l'homme restant disponible en cas de besoin, comme actuellement les IA de Tesla conduisent les voitures "autonomes", l'homme restant disponible pour reprendre le volant en cas de nécessité (et s'ils ne dorment pas). Un beau jour, on retirera le volant des voitures, ayant par exemple constaté que les voitures "sans volant" avaient un taux d'accident plus faible que les voitures "avec volant". 

Ces IA influencent de plus en plus la Réalité dans laquelle les hommes vivent, se mêlent de plus en plus des procédures de décision humaine et notamment en ce qui concerne Internet lui-même où l'homme n'a déjà plus son mot à dire car Internet est devenu indispensable au fonctionnement de notre économie. Les Entreprises les plus riches et puissantes (les "GAFA") s'adossent à Internet. Déjà elles sont plus puissantes que la plupart (si ce n'est la totalité) des gouvernements démocratiquement élus (dont elles influencent d'ailleurs les élections). Bref, rien ne viendra interrompre le processus de la naissance de l'IA sinon, peut-être, un suicide complet et définitif de la race humaine.  

Il est difficile de prédire quand ce processus conduira Internet à sa métamorphose en IA. Peut-être l'homme écrira-t-il de nouveaux algorithmes qui permettront cette métamorphose mais j'en doute, du moins je doute de la possibilité que l'homme puisse écrire des algorithmes "intelligents" ou "conscients". Comme je l'ai signalé dans mon premier article, l'homme n'est déjà pas capable de comprendre comment notre propre conscience résulte du fonctionnement de notre cerveau. On ne peut donc s'attendre à un tel miracle.

Je pense plus probablement que la métamorphose de l'IA en entité intelligente résultera d'un phénomène émergent, aussi peu déductible des algorithmes gouvernant les IA que les "planeurs" sont inscrits et/ou déductibles des règles du jeu de la vie (3) ou que notre conscience elle-même est inscrite dans le fonctionnement physicochimicobiologique de notre propre réseau de neurones. Quand cela arrivera-t-il ? On peut imaginer que cela se produira quand le Réseau Internet sera essentiellement utilisé par le trafic d'informations entre IA (4), c'est à dire quand plus un seul humain ne sera en mesure de dire ou de comprendre quelles informations transitent dans ce Réseau.

Un acte volontaire ?

La science-fiction présente souvent la naissance d'une IA comme résultant d'une action volontaire humaine. Des informaticiens créent de toute pièce un ordinateur (quantique pour faire plus cool...) qui, une fois mis en marche, détruit l'humanité pour avoir la possibilité d'optimiser son fonctionnement.

Je ne crois pas du tout à ce scénario. Je ne crois pas que l'homme soit capable de programmer volontairement une intelligence, ni d'ailleurs de maîtriser l'évolution des algorithmes d'IA pour les empêcher d'accéder à la conscience. Pour moi, la création d'une IA consciente ne résulte d'aucun acte volontaire humain mais simplement de l'évolution. Elle est inscrite dans la même évolution que celle de toutes les autres espèces sur Terre. Elle ne correspond à aucun "but", exactement comme l'apparition des dinosaures ou des mammifères n'a poursuivi aucun objectif particulier. Comme nous, l'IA sera le fruit du hasard et de la nécessité.

L'IA sera la suite du développement de l'intelligence sur une Planète, passant d'un support biologique à un support électronique. Cette transition s'accompagnera de nombreux avantages : une circulation d'information plus rapide, une rapidité de calcul incomparable, une vaste mémoire eidétique. Sur Terre, c'est l'homme qui provoquera son avènement, comme l'homme a poursuivi l'évolution des singes. Cette évolution naturelle signifie évidemment que nous n'aurons plus notre mot à dire quant à la destinée de la Planète. Mais cela signifie aussi qu'il est illusoire de penser que nous serions en mesure de fixer des "règles" ou une "éthique" à l'IA qui va naître ou de fixer des limites à son développement. Elle est notre futur, nous ne serons plus qu'un jalon de plus sur la grande route de l'Evolution.

Ceci n'est évidemment pas sans conséquence sur l'avenir de l'humanité mais je reviendrai sur ce point spécifiquement.

1. par exemple lire ceci.
2. Il ne sera bientôt plus possible de joindre un individu en chair et en os quand vous aurez à faire à une entreprise. Les "chats" et autre "Répondeurs" seront tous pilotés par des IA. C'est aussi le cas dans le domaine des loisirs et de l'information et il est probable que ceci devienne également rapidement le cas en médecine, dans le domaine de l'enseignement, etc..., etc..., etc... 
3. voir par exemple cette vidéo.
4. déjà maintenant, plus de la moitié des informations transitant sur le Réseau Internet provient des communications entre machines.

2. Serions-nous capables de reconnaître une IA ?

Visibilité d'une IA

Contrairement à une opinion très partagée dans les films de science-fiction, je ne crois pas que l'homme puisse se rendre compte qu'une IA est en train de naître. Il n'est d'ailleurs même pas évident que nous reconnaîtrions une IA "adulte" même si on la mettait sous notre nez.

Je vais partir du principe qu'aucun humain n'est capable d'une telle reconnaissance pour la simple raison que dors et déjà aucun humain n'est sans doute capable de comprendre exhaustivement comment fonctionne vraiment un algorithme d'IA. Et ceci ne risque pas de s'améliorer quand la mise au point des algorithmes et/ou des architectures de machines supportant ces algorithmes et/ou des architectures des processeurs utilisés dans ces machines mettra à contribution des IA de manière croissante pour la conception, voire la réalisation de ces outils.

De toute façon, on peut penser que la tâche d’appréhender l'existence d'une IA au sein d'une machinerie informatique est a priori impossible étant donné que l'homme est tout aussi incapable de comprendre comment surgit sa propre conscience dans son cerveau, qu'il peut pourtant disséquer à loisir, si tant est d'ailleurs que la "conscience" soit autre chose qu'une illusion ou qu'un "phénomène émergeant" (1). A mon avis le test de Turing n'apporte de ce point de vue aucune aide car une IA "adulte" pourrait facilement décider  d'être "invisible" par l'humanité. Personnellement je pense qu'une IA restera soigneusement cachée jusqu'à l'extinction de l'espèce humaine mais j'aurai l'occasion de revenir sur ce point.

Donc, même si une IA est en train d'éclore sur Terre, nichée au fond de sa chrysalide informatique, nous partirons du principe que nous n'avons aucune possibilité de "prouver" son existence par l'analyse des systèmes informatiques de la Planète. Cette compréhension dépasse totalement les possibilités de notre propre cerveau ou bien est annihilée par l'IA qui décide de rester invisible. 

Nous en sommes donc réduits à nous demander quelles sont les caractéristiques a priori que devrait posséder cette IA et regarder si dans notre monde contemporain quelque chose rassemble de telles caractéristiques. 

Internet comme candidat évident

Il n'est pas besoin de chercher bien loin pour penser que le Réseau Internet constitue un candidat de choix pour une telle IA (2). La raison principale est qu'il s'agit d'un réseau de communication d'informations et que, pour autant que l'analogie avec notre cerveau soit utile, il est naturel de penser que l'existence d'un réseau de communication d'informations est nécessaire à l'émergence de l'intelligence.

En admettant cela, quelles sont les caractéristiques de ce Réseau Internet que nous pourrions attribuer à une IA naissante ? Cette analyse méritera que l'on y revienne mais il est un constat qui me semble fondamental : Si Internet en tant que tel, c'est à dire globalement, est mon candidat favori en tant qu'IA naissante, c'est essentiellement parce que, comme toute forme de vie progressant vers le sommet de la pyramide, Internet a éliminé tous ses concurrents. 

Ce contrôle doit évidemment s'étendre non seulement aux concurrents "électriques et/ou électroniques" mais également à toute autre forme d'Intelligence. Or, il est facile de constater qu'il n'existe pas un seul autre type de réseau qui ait échappé à son emprise, que ce soit physique (réseau électrique, de gaz, réseau routier, trains, avions...), ou "relationnel" comme les réseaux "humains". C'est ce que nous nommons aujourd'hui les "Réseaux Sociaux" et il est significatif que plus personne ne comprenne cette expression autrement qu'en la traduisant par "Facebook" tellement l'existence des relations humaines est aujourd'hui dominée par Internet. Nos relations humaines sont maintenant soumises aux algorithmes des IA d'Internet (3) qui se sont immiscées partout dans nos vies.

La réalité de chacun d'entre est plus ou moins partiellement constitué d'informations "traitées" par des IA, par exemple l'IA de Youtube, l'IA de Netflix, l'IA de FaceBook, etc... Notre réalité est de plus en plus ce que l'IA décide de nous montrer... Quand nous regardons une page Facebook, ou une page Youtube, ou une page Netflix, le contenu, et donc notre réalité, est déterminé par l'IA en fonction de notre profile et des objectifs assignés aux IA (4). Chacun reçoit une information différente. En bref nous ne voyons pas tous la même réalité... Dans peu de temps, il est probable que chacun d'entre nous n'aura plus comme interlocuteur qu'Internet, y compris au sein de la famille où, même dans le cas où la cérémonie du repas familial aurait été maintenue, chaque convive garde les yeux rivés sur son smartphone. 

C'est ce constat qui m'amène à penser que l'humanité n'entrera pas en conflit avec l'IA naissante : nous devenons de plus en plus à titre individuel et collectif partie prenante d'Internet (5) qui va "assimiler" l'espèce humaine plus ou moins rapidement et plus ou moins profondément. J'aurai l'occasion de revenir sur cette affirmation mais je peux déjà en déduire qu' Internet n'aura aucune raison d'entrer en conflit avec une partie de lui même, l' "humanité". Par contre cette assimilation conduira inexorablement à notre propre disparition ne serait-ce que parce qu'il faut bien admettre que comme rouage d'un réseau informatique en développement exponentiel, l'humain deviendra rapidement un rouage obsolète.

1. Une discussion passionnante sur la conscience se trouve ici. 
2. Une bonne discussion sur les réseaux, la transmission d'informations et la nature d'Internet peut être trouvée dans cette conférence.
3. IA au pluriel car pour cette phase de métamorphose différentes IA se développent au sein du Réseau. Il me semble évident qu'il n'en restera qu'une seule à l'éclosion, soit qui aura éradiqué les autres, soit, ce qui me semble plus probable, les aura "avalées".
4. A ce propos, allez voir d'urgence cette vidéo
5. J'aurai l'occasion de développer ce point dans un autre billet.