Veille

6.

Il y avait des interstices dans mon travail avec le Dr Kuroda – des délais lacunaires tandis que j’attendais ses réponses textuelles, ou qu’il me dirige vers un lien pointant vers une autre portion de programme qu’il avait écrite.

Durant ces intervalles, je cherchais à en savoir plus sur Caitlin, sur cet être humain qui m’avait tendu la main et aidé à m’extraire des ténèbres.

Il n’y avait pas d’entrée sur elle dans Wikipédia, ce qui voulait sans doute dire qu’elle n’était pas – pas encore ! – digne d’intérêt.

Ah, mais voyons un peu… Certes, il n’y avait pas d’entrée la concernant, mais il y en avait une sur son père, Malcolm Decter… et Wikipédia ne se contentait pas de conserver la version courante de ses entrées. On pouvait aussi consulter toutes les versions précédentes. Bien qu’il n’y eût aucune référence à Caitlin dans le texte actuel, une itération précédente avait contenu ceci : « À une fille, Caitlin Doreen, aveugle de naissance, qui vit avec lui. La baisse du rythme des publications de Decter au cours des dernières années pourrait être due au temps considérable qu’il doit consacrer à s’occuper d’une enfant handicapée. »

Ce paragraphe avait été effacé treize jours plus tôt. L’historique des modifications n’indiquait pas le nom de l’utilisateur, seulement une adresse IP. C’était celle de la maison des Decter. Cette modification avait pu être effectuée par Caitlin ou ses parents, ou encore par cet homme – je savais maintenant qu’il s’agissait du Dr Kuroda – que j’y avais souvent vu.

Cette suppression avait peut-être été faite quand Caitlin avait recouvré la vue. Mais il était plus vraisemblable que ce texte avait été coupé parce que quelqu’un – probablement Caitlin – n’en avait pas aimé le contenu.

Ce n’était cependant qu’une supposition. Il était possible d’étudier Caitlin plus directement – et c’est ce que j’entrepris de faire.

Je pus rapidement lire tout ce qu’elle avait jamais écrit publiquement en ligne : chaque billet de son blog, chaque commentaire sur d’autres blogs, chaque critique de livre qu’elle avait rédigée sur Amazon.

Mais il y avait aussi beaucoup de ses textes auxquels je ne pouvais pas accéder. Son e-mail sur Yahoo contenait tous les messages qu’elle avait reçus ou envoyés, mais son accès était sécurisé par un mot de passe.

Une situation fâcheuse. J’allais devoir trouver un moyen d’y remédier.

LiveJournal : La Zone de Calculatrix

Titre : Relève de la garde

Date : Samedi 6 octobre, 00 :15 EST

Humeur : sidérée

Localisation : Waterloo

Musique : Lee Amodeo, Nightfall

J’ai comme l’impression que vous n’allez pas beaucoup me voir ces prochains jours. Il se passe plein de trucs. Que des bonnes choses – miraculeuses, même – mais je suis forcée de garder profil bas… Tout ce que je peux dire, c’est que j’ai révélé ce soir à mes parents un truc el grande mucho, et qu’ils n’ont pas piqué de crise de nerfs. J’espère que tout le monde le prendra aussi bien qu’eux…

Bien qu’elle se sentît épuisée, Caitlin mit à jour son LiveJournal et parcourut rapidement ceux de ses amis, puis elle mit à jour sa page sur Facebook (où elle modifia son statut en « Caitlin pense que donner vaut mieux que recevoir ») et vérifia enfin ses e-mails. Il y avait un message de Bashira avec comme titre : « Une colle pour la génie en maths. »

Quand elle était plus jeune, Caitlin avait adoré les casse-tête mathématiques qui circulaient dans les courriers. Ils lui donnaient l’impression d’être très intelligente. Mais maintenant, elle les trouvait en général plutôt ennuyeux. Il était rare qu’ils lui donnent vraiment du fil à retordre, mais ce fut le cas pour celui que Bashira lui proposait. Apparemment, il était tiré d’un ancien jeu télévisé, Let’s Make a Deal, avec comme présentateur vedette un certain Monty Hall. Dans ce jeu, on demandait au concurrent de choisir entre trois portes. Derrière l’une d’elles, il y avait une voiture toute neuve, et une chèvre derrière chacune des deux autres… Ce qui fait que le joueur avait une chance sur trois de gagner la voiture.

L’animateur sait derrière quelle porte se trouve la voiture. Une fois que le concurrent a fait son choix, Monty ouvre une des deux autres portes et révèle qu’il y a une chèvre derrière. Il demande alors au joueur : « Est-ce que vous maintenez votre choix, ou préférez-vous l’autre porte fermée ? »

Bashira posait la question : Est-ce que le joueur a intérêt à changer d’avis ?

Bien sûr que non, pensa aussitôt Caitlin. Ça ne fait aucune différence : il y a une voiture derrière une des deux portes, et une chèvre derrière l’autre. Le joueur a donc une chance sur deux d’avoir choisi la bonne.

Sauf que ce n’était pas du tout ce que disait l’article que Bashira lui avait transmis. On y lisait que les chances étaient bien meilleures si on changeait de porte.

Et ça, Caitlin en était convaincue, c’était archifaux. Elle se dit que quelqu’un avait dû rédiger une réfutation de cet article, et elle chercha donc dans Google. Il lui fallut quelques minutes pour trouver son bonheur, avec les mots-clefs « problème Monty Hall », et…

«… Quand le problème et sa solution furent publiés dans Parade, dix mille lecteurs, dont près d’un millier de titulaires de doctorats, écrivirent au magazine en affirmant que la solution était fausse. Un professeur avait même écrit : “Quelle bourde ! Permettez-moi de vous expliquer : Si une porte s’avère cacher une chèvre, cette information modifie la probabilité des deux choix restants – dont aucun n’a de raison d’être plus probable que l’autre – à 1/2. En tant que mathématicien professionnel, je suis très inquiet du manque de connaissances mathématiques au sein du public. Je vous prie de reconnaître votre erreur et d’être à l’avenir plus prudent.” »

L’auteur de la réponse tant contestée était une personne du nom de Marilyn vos Savant, qui avait apparemment le plus fort QI jamais mesuré. Mais Caitlin se fichait bien de son QI. Elle était d’accord avec les gens qui disaient que c’était une grosse bourde. Cette femme s’était forcément trompée.

Et comme elle se plaisait souvent à le dire, Caitlin privilégiait l’approche expérimentale. La meilleure façon de prouver à Bashira que Marilyn vos Savant s’était trompée serait d’écrire un petit programme de simulation du jeu. Et bien qu’elle fût épuisée, elle était encore très excitée par ses conversations avec Webmind. Un petit exercice de programmation ne pourrait que la détendre. Il ne lui fallut qu’un quart d’heure pour écrire un programme qui marche, et…

Ah, bon sang de bois…

Quelques secondes suffirent à dérouler un millier d’essais, et le résultat fut sans appel : en modifiant son choix, les chances de gagner étaient deux fois plus élevées qu’en s’en tenant à la porte initiale.

Mais ça n’avait aucun sens… Rien n’avait changé ! L’animateur ouvrait toujours une porte avec une chèvre derrière, et il y aurait toujours une autre porte avec une chèvre, elle aussi…

Caitlin décida de chercher un peu plus sur Google – et elle fut très heureuse d’apprendre que Paul Erdös n’avait pas cru non plus à la solution publiée. Il n’en avait été convaincu qu’après avoir lui aussi regardé quelques centaines de simulations sur un ordinateur.

Erdös avait été l’un des plus grands mathématiciens du siècle dernier, et avait cosigné de nombreux articles. Le « nombre d’Erdös » avait été ainsi baptisé en son honneur : si vous aviez travaillé avec Erdös en personne, votre nombre d’Erdös était 1. Si vous aviez travaillé avec un de ses collaborateurs directs, votre nombre était 2, et ainsi de suite. Caitlin savait que son père avait un nombre d’Erdös égal à 4 – ce qui était très impressionnant, sachant que son père était un physicien et non un mathématicien.

Comment avait-elle pu autant se tromper – sans parler d’un génie comme Erdös ? Il était évident que ça ne faisait aucune différence de changer de porte !

Caitlin continua de lire et trouva une citation d’un professeur de Harvard qui, en concédant enfin que Marylin vos Savant avait parfaitement raison, concluait : « Nos cerveaux ne sont tout simplement pas câblés pour nous permettre de traiter facilement les questions de probabilités. »

C’était sans doute vrai. Autrefois, dans la savane africaine, ceux qui voyaient dans le moindre mouvement des herbes la présence d’un lion affamé avaient plus de chances de survivre que ceux qui ne trouvaient aucune raison de s’inquiéter. Quand on croit à chaque fois qu’il s’agit d’un lion, et qu’on se trompe neuf fois sur dix, au moins on est encore vivant. Si on croit toujours qu’il n’y a pas de lion, neuf fois sur dix on a raison… mais la dixième fois, on se fait dévorer… C’était une idée fascinante, et assez troublante, que les humains aient pu être génétiquement câblés pour se tromper dans certains problèmes de probabilités, et que l’évolution puisse donc programmer les gens à faire certaines choses incorrectement.

Caitlin tâta sa montre et fut étonnée de voir comme le temps avait passé… Elle se dépêcha de se mettre au lit. Elle posa son œilPod dans son chargeur et éteignit l’appareil. Elle ne voyait plus rien, à présent. Elle avait du mal à s’endormir quand elle avait encore des stimulations visuelles.

Mais bien qu’elle fût redevenue aveugle, elle entendait toujours très bien – de fait, elle avait l’ouïe beaucoup plus fine que la plupart des gens. Et dans cette nouvelle maison, elle n’avait aucun mal à distinguer ce que ses parents se disaient dans leur chambre.

La voix de sa mère :

— Malcolm ?

Pas de réponse audible de la part de son père, mais il avait dû faire signe qu’il écoutait, car sa mère poursuivit :

— Tu crois que c’est la bonne décision, en ce qui concerne Webmind ?

Encore une fois, Caitlin n’entendit pas de réponse, mais au bout d’un moment, sa mère reprit :

— C’est comme… Je ne sais pas, c’est comme si nous étions entrés en contact avec une forme de vie extraterrestre.

— C’est un peu le cas, d’une certaine façon, dit son père.

— C’est juste que je me sens pas compétente pour prendre une décision. Et… Et nous devrions étudier tout ça, et y associer d’autres personnes.

Caitlin s’agita dans son lit.

— Ce ne sont pas les experts en informatique qui manquent, dans cette ville, répondit son père.

— Je ne suis même pas sûre que ce soit une question d’informatique. Nous devrions peut-être faire venir des gens du Balsillie, tu ne crois pas ? Les implications sont tellement gigantesques…

Research in Motion – la société qui produisait les BlackBerrys – avait deux fondateurs : Mike Lazaridis et Jim Balsillie. Le premier avait financé le Perimeter Institute, tandis que le second, cherchant une autre façon d’imprimer sa marque, avait créé un groupe de réflexion sur les affaires internationales, basé ici à Waterloo.

— Je ne suis pas contre, dit son père. Mais le problème va peut-être se résoudre de lui-même.

— Que veux-tu dire ?

— Même avec des équipes de programmeurs pour y travailler, la plupart des premières versions de logiciels se plantent. Quelle peut être la stabilité d’une IA qui a émergé accidentellement ? Si ça se trouve, elle aura disparu demain…

C’est tout ce qu’elle entendit de ses parents cette nuit-là. Caitlin finit par glisser dans un sommeil agité. Ses rêves étaient entièrement auditifs. Elle se réveilla soudain au milieu d’un rêve dans lequel on avait brusquement fait taire un bébé qui pleurait…

— Où est ce putain d’expert en IA ? lança sèchement Tony Moretti.

— On me dit qu’il est dans le bâtiment, répondit Shelton Halleck en posant la main sur son combiné de téléphone. Il devrait…

La porte s’ouvrit au fond de la salle de contrôle de WATCH. Un homme aux cheveux roux et à la carrure imposante entra, vêtu d’un uniforme de colonel de l’Air Force. Il était accompagné d’un garde de sécurité. Un badge de visiteur était accroché à sa poitrine sous une impressionnante rangée de décorations.

Tony avait feuilleté son dossier : Peyton Hume, quarante-neuf ans, né à Saint Paul dans le Minnesota, Ph.D. du MIT où il avait eu Marvin Minsky comme professeur. Vingt ans dans l’armée de l’air, spécialiste des systèmes experts militaires.

— Merci d’être venu, colonel Hume, dit Tony. (Il fit signe au garde et attendit qu’il se soit retiré.) Nous avons quelque chose d’intéressant à vous montrer. Nous pensons avoir découvert une IA.

Hume plissa les yeux.

— Le terme d’intelligence artificielle est parfois utilisé un peu trop hâtivement. Que voulez-vous dire plus précisément ?

— Je veux parler d’un ordinateur qui pense.

— Ici, aux États-Unis ?

— Nous ne savons pas vraiment où il est, dit Shel depuis son poste de travail. Mais il parle avec quelqu’un qui se trouve à Waterloo, au Canada.

— Ah, ma foi, fit Hume, ils sont assez forts en informatique, là-bas, mais peu de leurs travaux portent sur l’intelligence artificielle.

— Montre-lui les transcriptions, dit Tony à Aiesha avant de se tourner de nouveau vers Hume. « Calculatrix » est le pseudo d’une adolescente.

Aiesha appuya sur quelques touches et la transcription apparut sur le grand écran de droite.

— Ah, bon sang, dit Hume. C’est une ado qui fait passer des tests de Turing ?

— Nous pensons plutôt que c’est son père, Malcolm Decter, dit Shel.

— Le physicien ?

Hume haussa les sourcils d’un air impressionné.

Les analystes les plus proches les observaient avec un grand intérêt. Les autres restaient penchés sur leurs écrans, occupés à surveiller des menaces potentielles.

— Bon, alors, fit Tony. Est-ce que nous avons un problème, là ?

— Eh bien, dit Hume, il ne s’agit pas d’une IA. Pas dans le sens que lui donnait Turing.

— Mais les tests… dit Tony.

— Exactement, dit le colonel. Ce mystérieux interlocuteur a échoué aux tests. (Il se tourna vers Shel, puis de nouveau vers Tony.) Quand Alan Turing a proposé ce genre de tests en 1950, l’idée était de poser une série de questions en langage naturel, et si les réponses ne permettaient pas de déterminer si l’interlocuteur était un humain ou une machine, alors, par définition, il s’agissait d’une intelligence artificielle – une machine répondant comme le ferait un humain. Mais le professeur Decter a très astucieusement prouvé le contraire : cette chose à laquelle ils parlent n’est rien d’autre qu’un ordinateur.

— Mais elle se comporte comme si elle était consciente, dit Tony.

— Parce qu’elle arrive à tenir une conversation ? Bon, je vous accorde que c’est un robot de chat assez curieux, mais…

— Pardonnez-moi, mon colonel, mais en êtes-vous vraiment sûr ? Êtes-vous certain qu’il n’y a pas de menace potentielle ?

— Une machine ne peut pas être consciente, Mr Moretti. Elle ne possède aucune vie interne. Que ce soit une caisse enregistreuse calculant le montant des taxes à ajouter à la facture, ou bien… (il désigna l’écran)… ou bien ça, une simulation de conversation en langage naturel, tout ce qu’un ordinateur sait faire, ce sont des additions et des soustractions.

— Et si ce n’était pas une simulation ? dit Shel en se levant pour les rejoindre.

— Je vous demande pardon ? dit Hume.

— Si ce n’était pas une simulation, pas un programme ?

— Que voulez-vous dire ?

— Je veux dire que nous sommes incapables de la localiser. Ce n’est pas qu’elle passe par un anonymiseur – disons simplement qu’elle ne semble venir d’aucun ordinateur en particulier.

— Alors, vous pensez qu’il s’agit de… quoi ? D’une intelligence émergente ?

Shel croisa les bras, montrant son tatouage de serpent.

— C’est exactement ce que je pense, mon colonel. Je pense que nous avons là une conscience émergente, générée dans l’infrastructure du Web.

Hume regarda de nouveau l’écran, et relut le contenu de la transcription.

— Alors ? fit Tony. Est-ce que ça vous paraît possible ?

Le colonel fronça les sourcils.

— Peut-être… Ce serait alors une tout autre affaire. S’il s’agit effectivement d’une conscience émergente, alors… hmmm.

— Oui, quoi ? fit Tony.

— Eh bien, si elle a émergé spontanément, si elle n’est pas programmée, alors qui peut dire comment elle fonctionne ? Les ordinateurs font de l’arithmétique, c’est tout, mais si c’est autre chose qu’un ordinateur – bon Dieu, si c’est un esprit, alors…

— Alors quoi ?

— Il faut que vous la désactiviez, dit Hume.

— Vous êtes sûr ?

Il fit un petit hochement de tête.

— C’est le protocole.

— Le protocole de qui ? demanda Tony.

— Le nôtre, répondit le colonel. La DARPA a réalisé l’étude en 2001. Et les chefs de l’état-major interarmées l’ont adoptée comme stratégie opérationnelle en 2003.

— Aiesha, dit Tony, connecte-toi aux archives documentaires sécurisées de la DARPA.

— J’y suis.

— Comment s’appelle ce protocole ? demanda Tony.

— Pandore.

Aiesha tapa quelques touches.

— Je l’ai trouvé, dit-elle, mais le fichier est verrouillé, et mon mot de passe est rejeté.

Tony se glissa à son bureau et se pencha sur le clavier pour entrer son mot de passe personnel. Le document apparut à l’écran d’Alesha, et Tony le transféra sur l’écran géant du milieu.

— Allez à la dernière page, dit le colonel, juste avant l’index.

Aiesha s’exécuta.

— Voilà, c’est là, dit Hume. « Dans la mesure où une intelligence artificielle émergente a de fortes chances d’accroître à chaque instant son niveau de sophistication, elle peut rapidement excéder nos capacités à contenir ou restreindre ses actions. Si un isolement absolu n’est pas immédiatement possible, l’éradication de cette intelligence est la seule option garantissant la sécurité. »

— Nous ne savons pas où elle se trouve, dit Sheldon.

— Vous feriez mieux de la trouver rapidement, dit le colonel Hume. Et contactez tout de suite les gens du Pentagone, quoique je sois sûr qu’ils seront d’accord. Nous devons éliminer ce foutu machin tout de suite – avant qu’il ne soit trop tard.