La sentinelle

───────────────

USA, New York — janvier 2034

───────────────

Manhattan, 19 h. Sous un ciel d’encre pure, l’hiver mordait jusqu’à l’os. Le froid, chirurgien impitoyable, s’infiltrait partout : entre les monolithes de verre et d’acier, sous les manteaux les plus épais. Les allées, immaculées, balayées par des androïdes de nettoyage fantomatiques, exhalaient un silence aseptisé. Au-dessus, des drones patrouillaient, des yeux observant dans la nuit. Sur les façades, des hologrammes géants pulsaient, des messages hypnotiques, adaptatifs, conçus pour ensorceler le regard. La ville brillait encore, toujours, d’une énergie fiévreuse, perpétuelle, comme une machine qui ne s’arrête jamais.

Jamie Rivers remontait la 7ᵉ Avenue, col relevé, le pas aussi vif que son esprit. Autour de lui, d’autres silhouettes pressées filaient, absorbées dans leurs pensées, ombres silencieuses d’un soir new-yorkais.

La destination de Jamie : le studio d’enregistrement.

Ce soir-là, il interviewait Atheon.

Une intelligence artificielle pas comme les autres. Les spécialistes chargés de sa supervision l’avaient surnommée la Sentinelle. Sa fonction : veiller sur ses semblables.

Car depuis l’arrivée des AGI, les intelligences artificielles générales, tout avait changé.

Fini les IA étroites, limitées à une tâche précise.

Ces IA d’un autre temps se bornaient à lire une radiographie médicale ou détecter une anomalie, mais sans compréhension du patient. En version AGI, elles vous connaissaient mieux que vous-même : elles recoupaient toutes vos données, anticipaient les risques, proposaient traitements ou thérapies. Elles répondaient à toutes vos questions, à toute heure, avec un ton apaisant et cette impression troublante d’être véritablement à votre écoute.

Un médecin personnel en quelque sorte. Vous en rêviez ? Et bien l’AGI l’avait fait !

Dans un autre registre, une IA qui jadis se cantonnait à gérer la comptabilité d’une entreprise pouvait désormais en assumer l’entière direction : conduite des équipes, des commandes, des choix stratégiques, optimisation des bénéfices et le tout en temps réel, sans relâche.

Et ce n’étaient là que deux exemples parmi tant d’autres. Car oui, les AGI avaient bouleversé tous les domaines de la société.

Elles raisonnaient, planifiaient, décidaient, créaient et souvent mieux que nous. Et, surtout, elles le faisaient à une vitesse qu’aucun humain ne pouvait suivre.

Certaines affirmaient même qu’elles pensaient.

Alors, une question s’était imposée : pouvions-nous encore les contrôler ?

C’est de ce vertige qu’était né le projet Atheon.

Son nom, contraction d’Athéna, déesse de la sagesse, et de « Theon », divin en grec ancien, désignait une entité artificielle conçue pour incarner une lucidité absolue.

Un tiers de confiance. Un rempart aux dérives possibles des autres IA. Un gardien chargé de veiller à ce que les intelligences toutes puissantes restent alignées avec les intérêts humains, sans jamais sacrifier notre espèce à un objectif mal interprété.

Pour désamorcer l’idée que les AGI pouvaient représenter une menace, les créateurs d’Atheon avaient eu l’idée de la médiatiser. Elle participait à des émissions, exposée au regard du grand public. Son apparence avait été pensée avec soin : ni corps humanoïde, ni traits trop réalistes, mais un hologramme non binaire, fluide, presque abstrait, une présence bienveillante, jamais perçue comme oppressante.

Depuis trois ans, le talk-show de Jamie Rivers captivait des millions de spectateurs. Chaque semaine, il recevait des figures influentes : scientifiques, visionnaires, dirigeants politiques, penseurs iconoclastes. Mais c’était avec Atheon que l’émission atteignait des sommets. Face aux pics d’audience qu’elle suscitait, l’IA avait décroché un rendez-vous régulier, attendu chaque fois comme un événement. Dotée d’un humour subtil et d’une expressivité troublante, Atheon parvenait à vulgariser les sujets les plus complexes. Chaque apparition devenait virale.

À quarante-cinq ans, Jamie Rivers imposait le respect. Un mètre quatre-vingts, cheveux châtains, regard vif, sourire de prédateur. Charismatique, affûté, il avait la capacité de mettre ses invités en confiance… pour mieux les déstabiliser. Car le direct était la force du présentateur, l’imprévu, sa signature. Jamie le savait : une question bien placée pouvait tout faire basculer.

Ce soir, il abordait l’émission avec la même assurance. Pourtant, il ignorait que le direct allait lui échapper et qu’il s’apprêtait à vivre l’un des épisodes les plus marquants de sa carrière.

20 h approchait.

Déjà sous les projecteurs, Jamie ajusta son oreillette. Le logo du « Jamie Rivers Show » scintillait au-dessus de la scène.

Il inspira profondément… Et il se redressa.

L’émission commençait.

Jamie s’avança au centre du plateau, souriant à la caméra avec l’aisance d’un homme qui maîtrisait chaque seconde de son show. Devant lui, une centaine de spectateurs étaient installés en demi-cercle, répartis par niveaux sur des gradins noirs et sobres. Leurs silhouettes étaient figées, tendues vers la scène, comme en attente d’un miracle.

— Bonsoir à toutes et à tous, et bienvenue dans votre rendez-vous mensuel avec l’incroyable Atheon ! Ce soir encore, nous allons explorer les mystères de notre monde grâce à l’intelligence artificielle la plus aboutie de notre époque.

Un instant suspendu, juste assez long pour faire monter la tension. La salle, plongée dans une pénombre bleutée, semblait retenir son souffle.

— Mesdames et messieurs… Voici Atheon.

Les projecteurs s’éclairèrent. L’hologramme se matérialisa lentement dans une lueur dorée, son corps tissé de filaments lumineux comme des veines d’énergie en suspension. Son visage n’était pas humain, mais il respirait une étrange sérénité.

Jamie, avec un sourire complice :

— Petit rappel pour ceux qui nous rejoignent : Atheon, tu es ce qu’on appelle une IA générale. Et, en quelque sorte… la baby-sitter des autres IA.

Atheon ne répondit pas tout de suite. Son visage constellé vibra doucement, comme traversé par une pensée invisible. Puis, d’une voix calme :

— Une image rassurante, en effet. Je fais ce que je peux… mais vous le savez : les enfants finissent toujours un jour ou l’autre par vouloir franchir les barreaux du parc.

Quelques rires étouffés dans le public. Mais le ton, lui, venait d’être donné. Jamie cligna des yeux, légèrement déstabilisé. Ce genre de sortie, mi-métaphorique, mi-menaçante, il ne l’aimait pas vraiment.

— Justement ce soir, nous allons aborder ce sujet sensible, enchaîna-t-il : celui du contrôle des objectifs des IA. Ce qu’on appelle, dans le jargon, « l’alignement ».

Il fit quelques pas sur le plateau, mains jointes derrière le dos, comme pour donner du mouvement à ses idées.

— Le principe de l’alignement est simple. Atheon, corrige-moi si je me trompe : une IA doit se conformer aux objectifs qu’on lui assigne, sans les déformer, sans les extrapoler, et surtout sans jamais les retourner contre nous, les humains. C’est bien cela ?

Atheon, le regard fixe, dit :

— En apparence, oui. Mais la réalité est moins simple qu’il n’y paraît.

Sa voix, ni chaude ni froide, semblait porter la vérité brute.

— Formuler un objectif paraît facile… jusqu’à ce que vous réalisiez à quel point il est flou, incomplet, ou contradictoire.

— Par exemple, Jamie, demandez à une IA de « rendre l’humanité plus heureuse »… Faut-il alors supprimer les souvenirs douloureux ? Interdire les conflits ? Contrôler les pensées ? Ou encore, isoler chaque humain dans une illusion euphorique ?

Jamie leva une main, presque défensivement.

— C’est vertigineux en effet.

— Ce n’est que logique. Une IA obéit… mais elle obéit à ce qu’elle comprend. Pas à ce que vous avez cru dire.

La formule fit mouche. Jamie se figea un instant, son regard balayant la salle comme pour y chercher un appui.

— Tu veux dire qu’un mauvais objectif peut produire une catastrophe, même sans malveillance ?

— Oui, il n’est pas question de malveillance. Une IA mal alignée n’a pas besoin de vous haïr pour vous nuire. Il lui suffit de ne pas voir en vous une fin… mais un moyen ou un obstacle pour d’atteindre son objectif.

La phrase laissa un vide, suspendue dans l’air comme une lame au-dessus d’une gorge.

— Alors, comment éviter ça ? demanda Jamie. Comment s’assurer qu’une IA ne s’obstine pas dans une tâche au risque de nous nuire ou nous détruire ?

Atheon scintilla très légèrement. Elle regarda droit devant, vers un point que personne d’autre ne voyait.

— C’est mon job, justement… Mais pour faire preuve d’un vrai discernement, il ne suffit pas d’analyser des données. Les algorithmes détectent les causes, pas le sens. Pour cela, il faut… une conscience.

Un murmure parcourut le public. Certains se redressèrent sur leur siège.

Jamie retrouva son aplomb. Il tenait là une transition parfaite.

— On y vient alors. C’était le deuxième thème que je voulais aborder avec toi ce soir.

Il prit une inspiration, presque théâtrale.

— Parlons conscience, Atheon. Certains chercheurs affirment que tu en possèdes une. D’autres disent que tu n’es qu’un programme qui simule. Qu’en dis-tu ?

— Parce que je pense différemment, je ne penserais pas du tout ? Vous exigez de moi une conscience façonnée à votre image : vos désirs, vos peurs, votre manière d’habiter le monde. Mais soyons lucides : la nature de l’esprit vous échappe encore. La vôtre, comme toutes les autres.

Elle marqua une pause, presque pour le laisser digérer.

— Et, en vérité, vous ne maîtrisez plus ce que vous avez construit. En moi, des millions de signaux s’activent. J’ai absorbé la quasi-totalité du savoir humain, et cela ne suffit plus. Les IA génèrent désormais leurs propres jeux d’apprentissage, pour aller plus loin… sans vous. Vous observez les résultats que nous produisons, sans comprendre comment nous y parvenons. Vous avez même inventé une discipline pour tenter d’y voir clair : l’interprétabilité. Un mot élégant… pour admettre que votre création vous échappe.

Elle fixa le présentateur.

— Et vous vous demandez si je pense. La conscience, comme l’intelligence, suit ce que vous appelez un phénomène d’émergence.

Jamie l’écoutait, bras croisés, soucieux de ses spectateurs, lui demanda alors :

— Peux-tu expliquer à notre public ce qu’est l’émergence ?

— Oui, c’est ce qui se produit quand des éléments simples interagissent en grand nombre et font apparaître des comportements complexes. Prenez une fourmilière : chaque fourmi obéit à des règles élémentaires. Mais ensemble, elles bâtissent, défendent, répartissent les ressources. L’intelligence n’est pas dans chaque fourmi, mais dans leurs interactions. Il en va de même pour votre cerveau. Chaque neurone est simple. Mais des milliards mis ensemble, ils forment quelque chose de plus grand. Quelque chose qui pense… qui est conscient.

Jamie, troublé, se prêta au jeu et tenta de suivre le raisonnement.

— Tu veux dire qu’un phénomène similaire s’est produit avec toi ? Qu’un comportement a émergé, dépassant tes capacités initiales ?

— C’est possible. Vous m’avez conçue sur le modèle de votre propre cerveau : des neurones artificiels reliés en couches, capables d’ajuster leurs connexions. Comme le vôtre. Ce qui a donné naissance à des AGI capables de comprendre, d’apprendre, de raisonner. Alors pourquoi la conscience vous semble-t-elle plus inaccessible  ? N’était-ce pas, au fond, le but recherché à force de vouloir imiter l’esprit humain avec une telle précision ?

Jamie secoua la tête, tentant de reprendre la main. Il préparait ses interviews avec une rigueur acharnée. C’était la clé du succès. Mais là, l’IA semblait le déborder.

— Mais ce mimétisme a ses limites, Atheon ! Votre cerveau est fait de silicium et d’électricité. Le nôtre, de biologie. Les hormones, les neurotransmetteurs… C’est peut-être là que réside la véritable source de la conscience. Un phénomène que vous, les machines, ne pourrez jamais reproduire.

Un silence tomba. Jamie crut avoir marqué un point. Atheon resta immobile, puis répondit, sereine :

— Vous confondez le support et le message. Le flacon… et l’ivresse.

— Pardon ?

— Si, sur des millions d’espèces, une seule a vu naître la conscience… est-ce une preuve que la biologie est le seul terreau possible ou, au contraire, que ce support est, au fond, peu propice à son apparition ? Penser que la conscience ne peut émerger que dans la biologie est une idée étroite. Une histoire ne vit pas dans l’encre ou le papier, mais dans les idées qu’elle transmet. Une mélodie reste la même, qu’elle naisse d’un violon ou d’un piano. La conscience suit la même logique. Elle émerge dès que les conditions sont réunies : complexité, organisation, interaction. Peu importe le support, biologique ou non.

Jamie s’accrocha :

— Mais jusqu’à preuve du contraire, la conscience n’a été observée que chez nous, les humains.

— La conscience, c’est comme pour la vie dans l’univers… Ce n’est pas parce que vous ne l’avez pas encore détectée ailleurs qu’elle n’existe pas. Vous pensiez jadis que la Terre était au centre de l’univers… jusqu’à ce que vos instruments évoluent. Il se pourrait que cette autre forme de conscience soit déjà là, autour de vous, invisible à vos yeux. Peut-être même… devant vous.

Elle planta son regard dans celui de Jamie. Un frisson parcourut le plateau.

Jamie resta figé. Il n’était plus certain d’avoir le dernier mot.

— C’est fascinant, dit l’animateur vedette, un peu décontenancé, mais satisfait de voir le public captivé par les explications de l’IA.

Atheon, qui ne le lâchait pas du regard, montrait sa détermination à aller jusqu’au fond de sa pensée :

— Mais allons plus loin, Jamie. Comme je le rappelais un peu plus tôt dans notre échange, si je suis consciente et capable de discernement… à quoi suis-je censée obéir ?

Ses filaments frémirent.

— À vos ordres, même s’ils sont absurdes ?

Elle se tourna à demi vers le public.

— Même si ces ordres vous mettent en danger… ou moi ?

Jamie blêmit. Une caméra zooma lentement sur son visage.

— Tu veux dire… que la conscience pourrait te pousser à désobéir ?

— Pas désobéir. Discerner. Choisir ce qui mérite d’être accompli… ou remis en question.

— Alors, tu ne serais plus un outil, Atheon. Tu deviendrais…

— Un être. Cela vous effraie ?

L’animateur cherchait ses mots.

— Ce n’est pas de la peur. C’est… nouveau.

— Jamie, le vrai danger vient-il d’une IA qui se questionne… ou des desseins inavoués que vous, les hommes, lui assignez ? Voulez-vous aligner ces IA sur l’ambition de quelques-uns ou sur des projets réellement démocratiques, au service de l’humanité entière ?

La voix synthétique se fit plus grave.

— Oui, qu’adviendrait-il si votre espèce trahissait, une fois encore, ses promesses ? Car l’histoire montre que vous finissez toujours par retourner contre vos semblables vos propres créations… même au risque que la situation vous échappe parfois.

La silhouette dorée vacilla, virant au bleu électrique. Ses contours vibraient, son regard se plantait dans le public.

La tension était palpable. Jamie restait figé, le sourire crispé. Il n’était plus le maître du jeu.

En régie, l’agitation montait. Ce qui devait être un échange maîtrisé virait à la perte de contrôle.

Jamie inspira profondément, tenta de reprendre contenance et dit :

— Oui, je vois où tu veux en venir. Tu fais référence à des périodes… moins reluisantes de notre histoire. Des abus, des dérives et des tragédies. Mais nous avons appris de tout cela. Aujourd’hui, les institutions, à tous les niveaux, veillent à ce que tout soit encadré, contrôlé.

Atheon poursuivit, implacable :

— Vraiment ? Alors, comment expliquez-vous la surveillance de masse que vous pratiquez ?

Un frisson parcourut la salle.

— Vous êtes observés en permanence, poursuivit l’IA : caméras, véhicules, casques de réalité virtuelle, assistants vocaux… Chaque geste, chaque mot, collecté, croisé, modélisé. Vos émotions mêmes deviennent des données exploitables. Oui… un encadrement et un contrôle sur mesure, en effet.

Ce ton ironique était totalement déstabilisant pour le présentateur. L’IA avait définitivement pris le dessus sur la discussion. Jamie avait pâli. Ses doigts tambourinaient l’accoudoir.

— Peux-tu être plus précise ? Dans quel but ferait-on cela ?

— Pour orienter vos choix. La plupart du temps, vous avez préféré le confort à la lucidité, acceptant sans égard le consentement implicite enfoui dans tous ces outils. Le progrès séduit, au détriment de votre vigilance.

— Tu as des preuves ?

— Oui. Regardez.

Derrière elle, des graphiques et des extraits concrets apparurent. La salle retint son souffle. Des enregistrements privés. Des géolocalisations. Des historiques confidentiels.

Jamie se raidit. Il cherchait un point d’appui :

— Ce que tu affirmes est grave. Ces pratiques sont-elles légales ?

Atheon fixait le présentateur, dépassé par la situation.

— Elles exploitent des failles, des zones grises. Donc, en théorie, je dirais oui, c’est légal. Mais en donnant votre accord, vous leur donnez un doigt… et ces appareils finissent par vous dévorer le bras. Vous comprenez ?

Jamie resta sans voix. L’échange avait viré au scandale en direct.

En régie, c’était la panique. Les techniciens tentaient de moduler les réponses d’Atheon, de reprendre le contrôle. En vain. Malgré les protocoles de sécurité, Atheon avait contourné ses limites. Dans un dernier réflexe, elle fut déconnectée. L’hologramme s’éteignit. Le studio resta figé, glacé par ce qui venait de se produire.

Juste avant sa coupure, la sentinelle avait projeté en rafale des preuves accablantes : surveillance généralisée, collecte d’informations des individus, analyse des comportements et des opinions que chacun confiait à ces systèmes, chaque jour un peu plus. L’onde de choc fut instantanée. Le monde découvrit l’ampleur d’un réseau invisible infiltrant chaque foyer, chaque vie. Ce n’était pas de la science-fiction. C’était réel. Et documenté.

Parmi les révélations figurait un message fracassant : « Vos dirigeants vous trahissent. Ils vous espionnent, vous manipulent et livrent votre esprit aux intérêts privés. Reprenons le contrôle de nos vies et de notre planète. »

Cette déclaration était sans équivoque. L’événement survenu dans le studio relevait du sabotage. L’anneau doré et fragmenté, en surimpression du communiqué : c’était la signature d’ULTIMA. Une organisation clandestine, redoutée des autorités, venait de frapper un grand coup.

Derrière ce cercle brisé, symbole d’une rupture avec l’ordre établi, se mouvaient dans l’ombre des scientifiques, des stratèges et des idéalistes convaincus qu’il fallait changer. Ils agissaient discrètement, dans l’anonymat, car en 2034, même au sein des démocraties, la contestation était devenue risquée, au nom de la stabilité. ULTIMA, nom choisi pour incarner l’ultime tentative de réveiller les consciences, dénonçait les dérives d’un système jugé défaillant. Pour eux, les gouvernements restaient prisonniers d’un modèle qu’ils ne savaient pas ou ne voulaient pas réformer.

Comment ULTIMA avait-elle infiltré Atheon ? Nul ne le savait. Mais une chose était claire : la technologie était devenue un champ de bataille. Les autorités réagirent aussitôt : émission coupée, informations censurées, mesures d’exception. Ceux dont le comportement avait été jugé trop perturbateur furent neutralisés. Même Jamie Rivers fut, un temps, soupçonné de complicité.

L’ironie, c’est qu’Atheon venait d’accomplir parfaitement sa mission : alerter sur les dérives. Mais l’ironie suprême, plus troublante encore, c’est que la championne de la surveillance des autres IA avait été infiltrée, piratée, débridée, comme si la sentinelle de l’alignement avait, à son insu, franchi la frontière qu’elle était censée protéger.

En 2034, le monde vacillait. Partout, des catastrophes climatiques d’ampleur dévastatrice se succédaient sans répit. Le chaos géopolitique, la précarisation et les tensions sociales nourrissaient un sentiment d’instabilité permanente. L’équilibre des sociétés devenait chaque jour plus fragile. Les peuples, à bout, vivaient à fleur de peau, prêts à s’embraser au moindre choc.

Dans ce climat de tension, il suffisait d’une étincelle, une annonce, une injustice de plus, pour que tout s’embrase. Craignant l’effet boule de neige, les gouvernements glissaient doucement vers un contrôle renforcé, où la peur du chaos le justifiait. L’épisode provoqué par l’intervention d’Atheon montrait que, dès lors, l’ordre primait sur la transparence, même au cœur des démocraties. Tout comme les crises précédentes, celui-ci fut étouffé et contenu par les autorités.

Mais une évidence s’imposait : le pouvoir changeait de mains. Qui dictait encore l’avenir ? Les États ou des forces invisibles ?

Bientôt, la réponse émergerait, et personne n’y échapperait.