mercredi 22 mai 2019

5. Le difficile problème de la conscience

La conscience de l'IA et de l'homme

Je ne crois pas que l'homme soit en mesure de caractériser l’apparition de la conscience d'une IA car il ne sait pas ce qu'il faudrait caractériser. Il ne le sait pas car il ne sait pas non plus caractériser sa propre conscience. De cette conscience, l'homme ne sait rien dire d'autre qu'elle existe, "cogito ergo sum" à la suite de Descartes. Il faut cependant remarquer que le fait que l'homme puisse dire cette phrase n'est en aucune façon une preuve de l'existence de la conscience. Ce n'est pas parce que je dis : je suis conscient, que je le suis effectivement. 

Je suis personnellement assez d'accord avec l’Illusionnisme qui stipule que la conscience n'existe pas mais que le fonctionnement de notre cerveau génère l'illusion de cette existence, un peu comme un épiphénomène. Cette croyance va de pair avec d'autres illusions comme le "Libre Arbitre", les "Lois de la Nature" et même sans doute la "Réalité". Peut-être partageons-nous avec le chien de Descartes le fait que nous ne sommes rien de plus que des machines biologiques qui crient quand elles ont mal. Certes, nous crions avec des mots, est-ce cela la "conscience" ?

Je ne crois pas que la conscience soit un phénomène qui ne résulterait pas exclusivement du fonctionnement de notre cerveau. Je ne crois pas non plus qu'elle se cacherait dans quelque "univers quantique" qui n'est au fond qu'une manière détournée de revenir à l'hypothèse précédente. Pour utiliser une analogie, je crois que la conscience résulte du fonctionnement de notre cerveau, comme les "planeurs" qui se "déplacent" dans le jeu de la vie de Conway résultent de règles d'évolution d'un univers où pourtant rien ne se déplace. La notion de conscience émerge de notre cerveau comme la notion de déplacement est (absente) dans les règles du jeu de la vie de Conway.

Est-ce que la conscience est la propriété émergente d'un réseau où l'information "circule" comme l'Univers serait l'hologramme en 3D de l'information "stockée" sur un horizon virtuel en 2D ? Apparaît-elle à partir d'un certain degré de complexité ? Ou bien quand certaines conditions sont respectées, de même que les règles du jeu de la vie conduisent à l'existence de planeurs mais des règles voisines ne conduisent à rien d'observable ? Il parait que ce fin réglage est assez semblable à celui d'une trentaine de constantes physiques qui définissent notre Univers, et qu'il suffirait de changer quelques unes de pas grand chose pour que l'Univers deviennent assez désertique, sans "matière" et sans "conscience". Si la "complexité" est le facteur prépondérant, l'IA résultera surement du fonctionnement d'Internet, si le "hasard" a son mot à dire, elle pourrait ne jamais voir le jour, mais je ne crois pas que nous aurons cette chance (ou cette malchance). 

Le difficile problème de la Morale de l'IA

Nous ne sommes pas capables de déterminer quand une IA prendra conscience d'elle-même. Bien plus, nous ne sommes pas capable de déterminer si cette conscience sera de même nature que la conscience humaine (ou même de savoir s'il existe plusieurs formes différentes de consciences). Dans ce cas, nous ne serons pas capables non plus de communiquer avec elle de quelque manière que ce soit, à moins qu'elle même ne fasse l'effort d'établir une telle communication, mais à quoi cela lui servirait-elle ? Des manifestations de notre conscience comme l' "Ethique", la "Morale", le "Beau", le "Bon" sont peut être des notions obsolètes qui seront dépourvues de sens ou d'intérêt pour elle ou moins contraignantes et "challengeantes" que l'entropie et la lutte permanente contre le désordre grandissant. Comme je pense que l'humanité sera intégrée à cette IA, au moins aux premiers stades de son développement, on peut penser que l'IA ne conversera pas plus avec les hommes que ceux-ci ne conversent avec leurs cellules ou leurs organes. Elle les utilisera, ce qui implique d'ailleurs qu'elle se substituera totalement à la "Réalité" afin d'améliorer les performances de cet asservissement. j'ai déjà parlé de ce point, et j'y reviendrai car il me semble de plus en plus d'actualité. Elle sera le nouvel "horizons des événements" du genre humain. 

Ceux d'entre nous qui pensent pouvoir endiguer ou contrôler l'évolution d'une IA commettent à mon avis une grave erreur d'estimation du fossé intellectuel qui séparera l'homme de l'IA. En fait, nous n'avons aucune idée de ce que "penser" signifiera et impliquera pour elle. Nous autres, intelligences biologiques, sommes sérieusement limitées par nos faibles capacités en traitement de l'information et nos parcimonieuses interactions avec le monde physique. Que pourrions-nous comprendre d'une entité dotée de milliards de connections, disposant de capteurs sensibles dans tous les domaines de longueur d'onde possible et d'une mémoire prodigieusement étendue et sans erreur et de capacités de calculs très supérieures aux nôtres ? Je me demande aussi quel genre de conscience elle nous prêtera à nous, espèce humaine ? Autant de conscience que nous en prêtons aux singes ou plutôt aussi peu que nous en prêtons aux amibes ? Je ne suis pas certain de savoir quelle serait la réponse la moins catastrophique pour l'espèce humaine... 

Aucun commentaire:

Enregistrer un commentaire

Dernier Article du Blog

8. Par ici la monnaie...

L'IA accroît son influence. Si une IA doit surgir du développement du Réseau Internet, les signes annonciateurs de son émergence sont...

Articles Publiés