Humain ou machine, telle est la question....

"L’être humain est la seule créature intelligente vivant sur la planète Terre. Le stade le plus évolué de l’évolution." Ces enseignements appartiendront bientôt au passé, si l’on en croit cette véritable usine à penser, installée dans le Massachusetts...

Dès le hall d’entrée, on comprend la philosophie de l’entreprise : concevoir des logiciels informatiques intelligents. Au mur est accroché un tableau composé de graphiques informatiques. De nouvelles œuvres d’art sont produites sans relâche devant le spectateur, sans que personne n’en donne l’ordre explicite.

Mais il s’agit seulement d’une réalité virtuelle, qui n’existe que dans le regard d’une créature bien vivante. Cette société est dirigée par Ray Kurzweil. Un visionnaire auquel le prestigieux Wall Street Journal a récemment décerné le titre "d’infatigable génie“. Kurzweil a été fasciné par les progrès fulgurants des techniques informatiques alors qu’il était encore étudiant en littérature et en informatique au Massachussets Institute of Technology. C’était au début des années 50, période charnière, aube d’une incroyable révolution technique. À l’époque, chaque nouvel ordinateur était encore perçu comme un miracle.

Les calculateurs à bande et les cartes perforées ont laissé la place aux ordinateurs électroniques, dont les dimensions gigantesques ont été réduites au fil des années. Kurzweil a fait partie de ceux qui ont profité de cette nouvelle technique et, surtout, qui ont su en exploiter toutes les possibilités.

En 1974, il a ainsi inventé un appareil de lecture destiné aux aveugles. Utilisant le même principe qu’une photocopieuse, un ordinateur scanne le texte d’une page et la lit ensuite à haute voix. Une révolution pour les aveugles du monde entier, car elle leur permettait d’accéder soudain au contenu de n’importe quel ouvrage, même s’il n’était pas disponible en Braille.

Parmi les utilisateurs enthousiastes de cet appareil, Stevie Wonder. Il contacte le jeune visionnaire, une rencontre aux conséquences durables. Kurzweil invente ensuite un clavier qui permet à Stevie Wonder de créer sur un ordinateur le son de tout un orchestre, chœur compris. Le monde de la musique connaît, lui aussi, sa révolution Kurzweil, et Stevie Wonder s’est fait un ami.

Kurzweil n’a rien d’un illuminé ; il fait partie des scientifiques les plus estimés des États-Unis. Sa dernière thèse est d’autant plus controversée. Selon lui : "L’être humain perd sa position centrale de créature la plus intelligente et la plus performante sur la Terre“. Dans son livre "The Age of Spiritual Machines“, il décrit cette révolution de façon détaillée.

Beaucoup de choses vont se passer dans les cent ans à venir. Les avancées technologiques accélèrent et le prochain siècle apportera autant que les dix précédents. Bien avant 2099, nous aurons les moyens de scanner le cerveau humain, de scanner mon cerveau par exemple et d’en enregistrer le moindre détail, chaque connexion neuronale, chaque concentration de neurotransmetteurs, chaque fente synaptique, chaque cellule. Puis nous pourrons le reproduire, le copier dans un ordinateur neuronal de capacité suffisante, afin de fabriquer une copie parfaite de mes pensées, de mes souvenirs, de tout ce que je sais faire.

Cette perspective de la copie d’un cerveau peut sembler incroyable ; Kurzweil la justifie pourtant avec force détails. Il ne parle pas de l’invasion subite de machines intelligentes, il décrit une évolution insidieuse, née il y a déjà longtemps.

Sa nouvelle invention, par exemple, traduit presque en simultané d’anglais en allemand – avec une qualité étonnante. Conséquence : nous parlons aux machines et les machines nous parlent. Pour ses thèses, Kurzweil a également analysé d’autres disciplines scientifiques et constate que les paradigmes changent à un rythme sans cesse plus rapide : Qui aurait imaginé il y a dix ans que des scientifiques seraient en mesure de cloner des individus ? Depuis la brebis Dolly, rien ne peut plus arrêter le génie génétique.

En médecine, des puces remplaceront bientôt la fonction de certains organes. Des expériences ont déjà permis à des aveugles de voir les contours des objets. Des innovations comme celle-ci ne cesseront de faire leur apparition dans notre quotidien – pour Kurzweil, ce sont autant d’éléments d’une immense mosaïque qui va ouvrir la voie à de nouvelles formes d’intelligence.

C’est un phénomène progressif. Nous n’allons pas nous réveiller un jour et inventer des machines intelligentes à partir de rien. Ce sera très progressif. Vers 2019, dans 20 ans, nous disposerons déjà des capacités matérielles. Un ordinateur personnel à mille dollars aura la même mémoire et la même vitesse qu’un cerveau humain – à peu près 20 millions de milliards de calculs par seconde. C’est une condition nécessaire, mais non suffisante pour créer des machines intelligentes. Avec un tel ordinateur aujourd’hui, nous pourrions exécuter une feuille de calcul en un millionième de seconde, nous pourrions calculer à des vitesses folles, mais cela ne conférerait pas nécessairement une intelligence humaine à cet ordinateur.

L’étape suivante résidera dans la conquête et la maîtrise des nanotechnologies. Ce sont elles qui permettront la prochaine grande avancée en matière d’ordinateurs. D’après Kurzweil, plusieurs milliards de minuscules scanners, appelés nanorobots, de la taille d’un globule rouge, pourront être envoyés dans le cerveau, afin d’en relever tous les détails depuis l’intérieur. Ils communiqueront sans fil sur un réseau local et établiront ainsi le plan complet d’un cerveau humain. Cette première étape est indispensable à la duplication ultérieure de ce cerveau.

Projetons-nous dans trente ans, vers 2029 ; nous aurons le matériel et les logiciels de l’intelligence humaine. Si l’on combine une intelligence de niveau humain aux domaines dans lesquels les machines sont déjà supérieures – elles sont beaucoup plus rapides, elles peuvent partager leur mémoire... Si un ordinateur apprend quelque chose, il peut instantanément en faire profiter d’autres machines – les humains en sont incapables. Donc en combinant les deux, on aura quelque chose de très puissant. Dans trente ans, nous aurons des machines aussi intelligentes que les êtres humains. Et une fois qu’un ordinateur aura atteint ce niveau, il aura vite fait d’aller beaucoup plus loin. Car l’intelligence non biologique s’accroît de manière exponentielle.

Les nanorobots seront en mesure d’établir de nouvelles connexions entre les neurones, ce qui augmentera plusieurs millions de fois nos facultés de mémoire. Nous penserons plus vite, nous reconnaîtrons les choses beaucoup plus vite. Notre imagination sera décuplée et nous disposerons de capacités cognitives nettement supérieures. D’après Kurzweil, tout cela devrait intervenir vers la fin des années 2020.

Vers les années 2040 - 2050, nous aurons une grande quantité d’intelligence non biologique dans notre cerveau, et elle aura été introduite sans intervention chirurgicale – juste grâce à ses petits nanorobots, qui suivront la circulation sanguine pour pénétrer dans notre cerveau. Donc quand on rencontrera un être humain, on se trouvera bien sûr face à une personne biologique, mais dont les facultés mentales auront été améliorées par des moyens non biologiques.

Où se termine dès lors l’être humain et où commence la machine ? L’intelligence humaine fusionnerait donc avec l’intelligence technique pour donner une sorte de super intelligence ?

Le cerveau humain continuera à vivre dans l’ordinateur, et l’intelligence artificielle dans l’être humain.

Fascinant et effrayant à la fois. Dans l’ordinateur, une personne accèdera à l’immortalité, car le corps humain, ce support matériel qui peut mourir et entraîner dans la tombe toutes les informations contenues dans le cerveau, appartiendra au passé. L’ordinateur est beaucoup plus sûr, puisque même après une catastrophe aérienne, on peut généralement récupérer les logiciels et les données. L’être humain deviendra donc immortel – si l’on accepte qu’il poursuive son existence dans l’ordinateur.

Tout dépend comment on définit l’immortalité. On arrivera à un point où mes pensées, mes compétences, mes souvenirs – tout cela, c’est de l’information, qui est représentée dans mon cerveau sous la forme d’un immense réseau – ma connaissance de l’allemand, mes souvenirs d’un livre que j’ai lu, tout cela est représenté par des informations dans mon cerveau. Et j’estime qu’il y a des milliers de milliards de milliards d’octets d’informations dans le cerveau. Aujourd’hui, quand une personne meurt, toutes ces informations disparaissent. Pourtant elles représentent nos souvenirs, nos savoirs, nos personnalités et elles pourront donc vivre indépendamment du matériel, car nous pourrons les réintroduire sur un support non biologique. Cela ne veut pas dire nécessairement qu’elles vivront éternellement. Pensez aux logiciels aujourd’hui – quand on achète un nouvel ordinateur, on ne jette pas tous les fichiers de l’ancien, on les recopie sur la nouvelle machine. Mais ça ne veut pas dire qu’ils vivront éternellement. Si on en oublie au passage, ou si certains ne servent plus et qu’on change d’ordinateur plusieurs fois, on finit par perdre ces anciens fichiers. L’information n’est pas éternelle. Elle vit tant qu’elle est pertinente et importante.

Mais quelle idée devons-nous nous faire de cette vie dans l’ordinateur ? Que deviendront nos sentiments ? Le chagrin, la douleur, la joie, l’affection ? Un cerveau copié dans un ordinateur et complété d’intelligence artificielle continue-t-il à vivre comme dans un corps humain, ou bien n’est-il plus qu’une intelligence morte, dépourvue de toute créativité ?

On peut faire mentalement l’expérience de copier tout ce qui est important dans mon cerveau dans une autre entité. Et bien, cette entité se comportera exactement de la même manière, elle agira comme moi. Et quelles que soient mes capacités en termes d’humour, ou d’affection, on aura la même chose, les mêmes rêves et les mêmes sentiments. Si on lui donne un corps – et il faudra bien le faire – cette entité agira exactement avec la même subtilité pour vous convaincre qu’elle traite correctement les émotions.

Une vie normale dans l’ordinateur, sur Internet... L’être humain devenu fichier personnifié, il court le risque de devenir l’animal de compagnie de l’ordinateur. Cet aspect soulève naturellement la question de la dignité humaine. Et les thèses de Kurzweil soulèvent des interrogations sur les limites de la science. Les spécialistes de l’informatique ne s’intéressent actuellement qu’aux immenses possibilités de leur discipline – pas aux questions d’éthique. Et la recherche ne connaît de frontière ni juridique ni géographique. Nous assistons à une évolution impossible à arrêter – qu’elle nous plaise ou non.

Il ne s’agit pas d’un projet unique dans un laboratoire, où l’on pourrait se demander : est-ce qu’on se lance ou pas ? Il s’agit de dizaines ou de centaines de milliers de projets qui prennent des formes très diverses. Dans toute l’industrie informatique et dans le monde entier, tout le monde essaie de créer des ordinateurs plus puissants et des logiciels plus intelligents. Quand une société à laquelle j’appartiens développe un logiciel de reconnaissance vocale plus intelligent, c’est-à-dire plus précis, qui comprend mieux la parole, il rend obsolète tous les autres logiciels. Ce logiciel plus intelligent délivre une plus grande valeur, donc il est impossible de stopper cette évolution sans mettre un terme au capitalisme et à la libre entreprise. Il faudrait supprimer le moindre reste de compétition économique, car les machines intelligentes créent plus de valeur. Cela fait avancer l’économie du monde entier. Et c’est une route pavée d’or, les avantages sont considérables.

La vie dans l’ordinateur, avec ses nanorobots et son intelligence artificielle, va transformer notre manière de vivre. Les structures de la société, fruits de plusieurs siècles d’histoire, vont devoir être revues. La vision euphorique que Kurzweil décrit pour l’an 2099 doit servir de signal d’alarme pour la science et la société. Car même un utopiste comme Kurzweil a conscience des dangers de ses recherches et de la catastrophe qu’elles pourraient entraîner.

Un scénario désastreux, ce serait un emballement dans la réplication des nanorobots. Pour qu’ils soient utilisables, il faut des milliards ou des milliers de milliards de ces petits nanorobots. Pour atteindre ces ordres de grandeur, il faut qu’ils se répliquent automatiquement. Le corps fonctionne précisément de cette manière : on part d’une cellule puis, à la fin, le corps humain compte des millions de milliards de cellules. Comment passe-t-on de un à plusieurs millions de milliards ? Par autoréplication. Ce sera pareil avec les nanorobots. Que se passe-t-il quand l’autoréplication d’une cellule biologique dérape ? Certaines cellules oublient de cesser de se répliquer et cela produit un cancer. On aura l’équivalent dans les milieux non biologiques. Un emballement de l’autoréplication des nanorobots provoquerait un cancer non biologique – et ce serait très destructif. Un autre scénario catastrophe serait la centralisation du pouvoir de contrôle – comme dans le livre « 1984 », où un gouvernement totalitaire contrôle tout –.

Cette technologie pourrait conduire également à cela. Un gouvernement pourrait implanter des nanorobots dans les cerveaux de tout le monde et lire les pensées des gens pour asseoir son pouvoir totalitaire. Ce serait un autre scénario catastrophe.

no micro chip