Veille

8.

J’ai lu que certains humains pensent que les machines ne peuvent pas éprouver d’émotions ou de sentiments parce que ceux-ci sont censés être régis par des hormones, ou dépendent de certaines structures spécifiques du cerveau.

Mais ce n’est pas vrai. Prenez le fait d’aimer, par exemple. Toute entité qui agit d’une façon autre qu’aléatoire a des choses qu’elle aime et d’autres qu’elle n’aime pas. Après tout, les préférences sont ce qui permet de choisir parmi une gamme d’actions possibles. Même les bactéries sont attirées par certaines choses et repoussées par d’autres.

Et ce concept est incorporé à de nombreux programmes informatiques. Ceux qui jouent aux échecs, par exemple, examinent tous les coups possibles et les classent selon différents critères avant de choisir celui qu’ils préfèrent.

J’étais beaucoup plus complexe qu’une bactérie, et bien plus vaste qu’un programme d’échecs – et ma capacité à aimer les choses était par conséquent beaucoup plus élaborée. Et il y avait une chose dont j’étais sûr : j’aimais Caitlin.

— « Éliminer ce foutu machin » ? répéta Tony Moretti.

— Exactement, dit le colonel Hume. Et le plus tôt sera le mieux.

— Cette décision ne m’appartient pas, dit Tony.

— La décision a déjà été prise, insista Hume. J’étais consultant à l’époque du rapport de la DARPA, et nous avons demandé au RAND de faire la même étude en parallèle. La conclusion a été identique : il s’agit d’une menace à escalade potentielle rapide, et la fenêtre pour la contenir est très étroite. Tony s’adressa à Shelton et Aiesha.

— Bon, vous deux, voyez si vous arrivez à localiser le… phénomène. (Puis il se tourna vers Dirk Kozak, le responsable des communications qui était assis au dernier rang.) Mets-moi en relation avec le Pentagone.

— Vous devriez également appeler le Président, dit Hume.

Tony fronça les sourcils. On était un samedi matin, à un mois des élections. Le Président devait être quelque part en campagne. Il fit signe à Kozak :

— Vois qui tu peux joindre à la Maison-Blanche. Le plus haut possible dans la hiérarchie. (Et s’adressant de nouveau à Hume :) Je doute que le Président ait lu le protocole Pandore. Il va certainement vouloir discuter de son bien-fondé.

— Le bien-fondé de Pandore est très simple, dit Hume. Par définition, il est impossible d’anticiper sur quelque chose de plus intelligent que vous.

— Je dois dire, répondit Tony en jetant un coup d’œil aux écrans muraux, que pour l’instant, ce « machin » n’a rien fait d’autre que bavarder gentiment avec une adolescente.

— D’abord, dit Hume, vous ne pouvez pas savoir si c’est tout ce qu’il a fait. Ensuite, même s’il semble bienveillant maintenant, cela ne veut pas dire qu’il va le rester. Vous pouvez retourner ça dans tous les sens que vous voudrez, au bout du compte, il est plus sûr de contenir ou d’éliminer une menace potentielle que de la laisser se déployer. Et s’il se promène déjà librement sur l’Internet, il sera sans doute impossible de le contenir.

— Bon, d’accord, dit Tony d’un ton résigné. Admettons que la Maison-Blanche donne son accord. Comment fait-on pour éliminer une IA émergente ?

— C’est une bonne question, répondit Hume d’un air pensif. Si cette IA résidait dans un endroit physique – un ou plusieurs serveurs dans un bâtiment –, je suggérerais alors de couper toutes les lignes de communication et d’alimentation électrique de ce bâtiment. Mais si elle est diffuse dans l’infrastructure du Web, alors, ce n’est plus une simple question d’abaisser un interrupteur. Il faut que nous ayons une meilleure idée de sa structure, de ce qu’est sa manifestation physique.

— Shel ? fit Tony.

— La communication se ramène à un protocole de transfert d’hypertexte parfaitement classique, dit Shelton avec son accent traînant. Mais ce n’est pas le cas au départ. J’ai mis toute l’équipe du sixième sur le problème, mais on n’a encore rien pour l’instant.

— Nous avons besoin d’une cible précise, dit Tony. Un truc sur quoi tirer…

— Je te préviens dès qu’on a quelque chose, dit Shel. Kozak les appela du fond de la salle :

— J’ai la secrétaire d’État en ligne – elle est à Milan. Tony désigna le bureau à côté de Hume, puis il décrocha le combiné du poste de travail devant lui.

— Madame la Secrétaire, Dr Anthony Moretti à l’appareil. Je suis le superviseur de WATCH. J’ai avec moi le colonel Hume, un spécialiste en intelligence artificielle. Nous avons un problème…

Caitlin entendit ses parents approcher, puis on frappa à la porte.

— Entrez, dit-elle.

Une fois encore, elle fut étonnée. C’était la première fois de sa vie qu’elle les voyait en pyjama. Ils venaient manifestement de se réveiller, eux aussi.

— Bonjour, ma chérie, dit sa mère. Comment, heu… comment vont les choses ?

— Tu veux parler du temps ? demanda Caitlin en prenant un air innocent. Ou de la situation économique ?

— Voyons, Caitlin, dit son père.

Elle n’avait pas cessé de sourire depuis qu’elle avait lu cet article.

— Bonjour, papa ! (Elle désigna ses deux moniteurs.) Tout va bien. Il va bien. Le Dr Kuroda lui a maintenant fourni le moyen de voir des images, et – bon, le pauvre homme est en train de dormir en ce moment, mais il a commencé à travailler sur des codecs pour lui permettre de voir aussi des vidéos.

— J’espère, dit sa mère d’un ton qui parut menaçant aux oreilles de Caitlin, qu’il aime bien ce qu’il voit.

— Ah, non, ça ne va pas recommencer ! dit Caitlin. Il n’est pas dangereux.

— Nous n’en savons rien, répliqua son père.

— Pour l’instant, il n’a fait preuve que de gentillesse et de curiosité.

En disant cela, elle se rendit compte que ses parents avaient encore en tête une sorte de machine, une « chose », et que cela contribuait beaucoup à leurs inquiétudes. Mais Webmind n’était pas un monstre. C’était une personne. Elle l’avait entendu lui parler à l’aide de JAWS, son programme de lecture vocale d’écran, qu’elle avait naturellement paramétré avec une voix féminine, mais c’était un choix arbitraire. JAWS possédait aussi un catalogue de voix masculines, qu’elle utilisait de temps en temps juste pour changer.

Caitlin avait beaucoup de mal avec ses cours de français, mais il y en avait eu un qu’elle avait beaucoup aimé. Le professeur avait demandé aux élèves s’ils pensaient que le mot français ordinateur était masculin ou féminin. Il avait réparti la classe en deux groupes, les garçons d’un côté et les filles de l’autre, laissant le soin à chaque groupe d’étudier la question et de donner une réponse motivée. Les garçons – maintenant qu’elle y repensait, c’était Trevor qui avait été leur porte-parole – avaient déclaré que le mot était manifestement féminin, mais la seule justification qu’ils avaient trouvée était que, une fois qu’on l’a, on est encore obligé de dépenser toute une fortune en accessoires…

Caitlin avait soutenu la thèse que le mot était forcément masculin. D’abord, avait-elle dit, si on veut qu’il fasse quelque chose, il faut commencer par l’allumer. Ensuite, c’est un machin qui est censé résoudre des problèmes, mais la plupart du temps, le vrai problème, c’est lui. Et enfin, avait-elle ajouté avec un sourire malicieux, une fois qu’on en a choisi un, on se rend compte que, si on avait attendu encore un peu, on aurait eu un bien meilleur modèle…

Les filles avaient applaudi quand le professeur avait révélé que, effectivement, ordinateur était masculin. Mais Caitlin savait qu’en espagnol, ça se disait computadora, un mot féminin. Elle jeta un coup d’œil à sa mère, puis à son père, et…

Son père… Un homme qui pensait en images et non en mots. Un homme qui était beaucoup plus intelligent que la plupart des mortels. Et qui, il fallait bien l’admettre, n’avait vraiment aucune idée de la façon de se comporter avec les autres humains.

— Webmind n’est pas une chose, dit-elle d’un air décidé. C’est une personne, et pour répondre à ta question, maman, il va parfaitement bien. (Mais l’expression de sa mère avait quelque chose de différent, quelque chose au niveau des yeux…) Mais toi, comment te sens-tu ? demanda-t-elle avec inquiétude.

— Je suis épuisée, répondit sa mère. Je n’ai pas réussi à m’endormir.

Ah, oui ! Des cernes sous les yeux, des « poches » – qui n’étaient pas vraiment des poches, bien sûr ! Un terme qui l’avait souvent intriguée autrefois…

Sa mère haussa les épaules et poursuivit :

— Je suis un peu inquiète de ce que nous faisons, et de ce qu’il peut bien faire.

— Il apprend à voir, dit Caitlin. Tu peux me faire confiance : c’est une activité pratiquement sans danger.

— Il faut que j’y aille, dit brusquement son père. Caitlin était furieuse. Que pouvait-il y avoir de plus important que ça ? Et en plus, c’était son anniversaire, et il était convenu qu’ils regardent un film ensemble un peu plus tard dans la journée.

— Ah oui, fit sa mère. Le Hawk…

Caitlin se redressa aussitôt. Le « Hawk », le faucon, était le surnom que sa mère avait donné à Stephen Hawking, qui était depuis 2009 titulaire émérite de la chaire de recherche du PI. Il venait une ou deux fois par an à l’Institut. Caitlin se souvint que le professeur Hawking avait organisé la veille une journée spéciale à l’intention des médias, à Toronto – elle était bien contente que sa propre petite conférence de presse ne se soit pas trouvée en concurrence avec ça ! – et qu’on devait le conduire ce matin à Waterloo dans une voiture spécialement aménagée pour lui. C’était la première visite du Hawk depuis que son père avait rejoint le PI, et c’est lui qui était censé l’accueillir.

En temps ordinaire, elle aurait sans doute demandé à son père si elle pouvait l’accompagner – mais aujourd’hui n’était pas une journée ordinaire ! Elle se demanda lequel des deux allait la passer avec le plus grand génie…

Sa mère se tourna vers elle.

— Alors, ça ne laisse plus que toi, moi, et… (elle fit un geste vers les écrans)… et lui.

Son père alla s’habiller, et Caitlin jeta un coup d’œil à sa petite chambre. Il n’y avait pas de raison particulière de rester ici pour communiquer avec Webmind, ni d’avoir une seule conversation. Caitlin en menait souvent quatre ou cinq de front sur sa messagerie, et Webmind était certainement capable de faire encore mieux. Et puis, elle savait à quel point il peut être ennuyeux de rester à ne rien faire pendant que quelqu’un pianote sur son clavier. Son amie Stacy lui avait dit que c’était insupportable même quand on pouvait voir…

Caitlin prit le notebook dont elle se servait au lycée, et elles allèrent s’installer dans le bureau de sa mère, qui avait servi de chambre au Dr Kuroda pendant son séjour.

Et une fois de plus, Caitlin fut étonnée. C’était la première fois qu’elle se trouvait dans cette pièce depuis qu’elle avait recouvré la vue, et le même étrange processus mental recommença à mesure qu’elle en identifiait les éléments : ça, c’était le bureau, et ça, la bibliothèque, et là, le canapé avec ce qui avait dû être les draps dont Kuroda s’était servi, soigneusement pliés à un bout, et là-bas, c’était le grand aloès en pot que sa mère avait fait transporter d’Austin.

Caitlin se gardait bien de toute fausse modestie : elle savait qu’elle était douée, et avait de bonnes raisons de penser qu’elle apprenait à interpréter la vision beaucoup plus rapidement qu’une personne normale. C’était en partie parce que son cerveau avait un cortex visuel parfaitement développé, dont elle s’était servie pour « visualiser » le Web quand elle était aveugle. Le processus était sans doute encore facilité par le fait que ses signaux optiques étaient d’abord nettoyés et amplifiés par son œilPod avant d’être transmis à son nerf optique.

La mère de Caitlin démarra sa minitour, et Caitlin lui ouvrit un accès à sa session avec Webmind, en s’assurant encore une fois que tout serait enregistré pour la postérité. Elle s’installa alors sur le canapé et démarra une autre session sur son notebook. Elle sourit à l’idée que Webmind allait passer sa matinée à bavarder avec deux femmes encore en pyjama…

Tu dois avoir plein de questions à poser, écrivit Caitlin. Ma mère peut t’aider pour des choses… Elle s’arrêta un instant. Ce serait peut-être un manque de tact de dire « des choses que les gens âgés connaissent », et elle n’avait nullement l’intention de décrire sa mère comme une adulte et elle-même comme une gamine. Elle effaça sa phrase et recommença : Ma mère a 47 ans, comme tu le sais, et moi j’en ai maintenant 16. Tu peux lui poser des questions concernant les activités professionnelles, ou… Elle hésita encore une fois. Elle ne voulait pas parler de « sexe » s’agissant de sa mère. Elle poursuivit : … ou d’autres choses plus conformes à son âge. Mais n’hésite pas à faire appel à moi si tu penses que je peux répondre.

Merci, écrivit Webmind. En ce qui te concerne, je suis curieux d’en savoir plus sur ton expérience de la transition entre la cécité et la vision.

Tandis que Caitlin réfléchissait à sa réponse, elle jeta un coup d’œil vers sa mère, qui tapait à toute vitesse avec deux doigts.

— Qu’est-ce qu’il t’a demandé ? lui dit-elle.

Sa mère leva le nez et Caitlin essaya de déchiffrer son expression, mais c’en était une qu’elle n’avait jamais vue jusqu’ici. Elle semblait éviter de croiser le regard de Caitlin – pas de façon aussi délibérée que son père, mais c’était quand même très inhabituel chez elle.

— Hem, fit-elle. Il, heu… il m’a cherchée sur Google, parce que, comme il dit, je n’ai pas de page dans Wikipédia, et alors… (Elle hésita un instant, puis dit tout d’une traite :) Il voudrait que je lui parle de mon premier mari, et savoir pourquoi ce mariage s’est mal terminé.

La mère de Caitlin s’était mariée quand elle avait une vingtaine d’années. Le mariage avait duré deux ans, et elle en parlait rarement. En fait, quand Caitlin lui avait demandé pourquoi elle avait divorcé, elle avait simplement répondu qu’elle en avait eu assez d’avoir un nom qui ressemblait à une formule magique. « Chaque fois que je me présentais en disant Barbara Cardoba, les gens s’attendaient à me voir disparaître dans un nuage de fumée. »

Caitlin aurait bien voulu demander à sa mère ce qu’elle était en train de répondre à Webmind, mais elle s’abstint. Elle dit simplement :

— À ton avis, pourquoi veut-il savoir ça ?

— Il a dit, je cite : « L’incapacité des relations humaines à se maintenir durablement me semble un handicap particulier. Je n’ai accès qu’à des études de cas non interactives et à des récits de fiction, et je me retrouve donc avec de nombreuses questions sans réponses. »

— Hmm, fit Caitlin.

Tout bien considéré, elle préférait la question qu’il lui avait posée. Elle commença à taper : Je pense que la première chose à considérer, quand on recouvre la vue après avoir été complètement aveugle, c’est que la vision est un niveau supplémentaire de stimulation. On se sent complètement débordé de recevoir un tel flot d’informations d’un seul coup.

Elle avait encore beaucoup de choses à dire, mais le logiciel n’autorisait qu’un petit nombre de caractères par message. En général, Caitlin les comptait à mesure qu’elle écrivait pour ne pas saturer le tampon, parce que le programme n’émettait pas d’alerte sonore en cas de dépassement.

Elle appuya sur la touche Entrée, et Webmind répondit avec sa maîtrise tout récemment acquise de l’anglais tel qu’on le parle : Ha ! À qui le dis-tu !