La sentinelle

───────────────

USA, New York — janvier 2034

───────────────

Manhattan, 19 h. Sous un ciel d’encre pure, l’hiver mordait jusqu’à l’os. Le froid, chirurgien impitoyable, s’infiltrait partout : entre les monolithes de verre et d’acier, sous les manteaux les plus épais. Les allées, immaculées, balayées par des androïdes de nettoyage fantomatiques, exhalaient un silence aseptisé. Au-dessus, des drones patrouillaient, des yeux observant dans la nuit. Sur les façades, des hologrammes géants pulsaient, des messages hypnotiques, adaptatifs, conçus pour ensorceler le regard. La ville brillait encore, toujours, d’une énergie fiévreuse, perpétuelle, comme une machine qui ne s’arrête jamais.

Jamie Rivers remontait la 7ᵉ Avenue, col relevé, le pas aussi vif que son esprit. Autour de lui, d’autres silhouettes pressées filaient, absorbées dans leurs pensées, ombres silencieuses d’un soir new-yorkais.

La destination de Jamie : le studio d’enregistrement.

Ce soir-là, il interviewait Atheon.

Une intelligence artificielle pas comme les autres. Les spécialistes chargés de sa supervision l’avaient surnommée la Sentinelle. Sa fonction : veiller sur ses semblables.

Car depuis l’arrivée des AGI, les intelligences artificielles générales, tout avait changé.

Fini les IA étroites, limitées à une tâche précise. Ces IA d’un autre temps se bornaient à lire une radiographie médicale ou détecter une anomalie, mais sans compréhension du patient. En version AGI, elles vous connaissaient mieux que vous-même : elles recoupaient toutes vos données, anticipaient les risques, proposaient traitements ou thérapies. Elles répondaient à toutes vos questions, à toute heure, avec un ton apaisant et cette impression troublante d’être véritablement à votre écoute. Un médecin personnel en quelque sorte. 

Vous en rêviez ? Et bien l’AGI l’avait fait.

Dans un autre registre, une IA qui jadis se cantonnait à gérer la comptabilité d’une entreprise pouvait désormais dans sa forme d’AGI en assumer l’entière direction : conduite des équipes, des commandes, des choix stratégiques, optimisation des bénéfices et le tout en temps réel, sans relâche. 

Et ce n’étaient là que deux exemples parmi tant d’autres. Car oui, cette nouvelle génération d’intelligence artificielle avait bouleversé tous les domaines de la société.

Les AGI raisonnaient, planifiaient, décidaient, créaient et souvent mieux que nous. Et, surtout, elles le faisaient à une vitesse qu’aucun humain ne pouvait suivre.

Certaines affirmaient même qu’elles pensaient.

Alors, une question s’était imposée : pouvions-nous encore les contrôler ?

C’est de ce vertige qu’était né le projet Atheon.

Son nom, contraction d’Athéna, déesse de la sagesse, et de « Theon », divin en grec ancien, désignait une entité artificielle conçue pour incarner une lucidité absolue.

Un tiers de confiance. Un rempart aux dérives possibles des autres AGI. Un gardien chargé de veiller à ce que les intelligences toutes puissantes restent alignées avec les intérêts humains, sans jamais sacrifier notre espèce à un objectif mal interprété.

Pour désamorcer l’idée que les AGI pouvaient représenter une menace, les créateurs d’Atheon avaient décidé de lui donner forme et de la rendre presque familière, en la médiatisant régulièrement. Elle apparaissait dans les émissions grand public sous l’aspect d’un hologramme humain, mais subtilement inachevé : un corps doré et lumineux, aux contours fluides, parcouru de réseaux énergétiques, avec des traits de visage volontairement esquissés, jamais assez précis pour évoquer un véritable être humain.

De toute façon, la loi interdisait encore d’intégrer une AGI à un robot humanoïde, une mesure censée prévenir les paniques collectives. L’idée avait donc été écartée d’emblée, jugée trop anxiogène car elle renvoyait aux pires scénarios de science-fiction et risquait d’alimenter la peur des AGI.

Cette présence non binaire, douce et impalpable, avait été conçue pour inspirer confiance. Atheon devait sembler proche, mais jamais intrusive ; intelligente, mais jamais inquiétante.

Depuis trois ans, le talk-show de Jamie Rivers captivait des millions de spectateurs. Chaque semaine, il recevait des figures influentes : scientifiques, visionnaires, dirigeants politiques, penseurs iconoclastes. Mais c’était avec Atheon que l’émission atteignait des sommets. Face aux pics d’audience qu’elle suscitait, l’IA avait décroché un rendez-vous régulier, attendu chaque fois comme un événement. Dotée d’un humour subtil et d’une expressivité propre fondée sur des variations lumineuses, des nuances de voix et des micro-gestes holographiques, Atheon parvenait à vulgariser les sujets les plus complexes. Chaque apparition devenait virale.

À quarante-cinq ans, Jamie Rivers imposait le respect. Un mètre quatre-vingts, cheveux châtains, regard vif, sourire de prédateur. Charismatique, affûté, il avait la capacité de mettre ses invités en confiance… pour mieux les déstabiliser. Car le direct était la force du présentateur, l’imprévu, sa signature. Jamie le savait : une question bien placée pouvait tout faire basculer.

Ce soir, il abordait l’émission avec la même assurance. Pourtant, il ignorait que le direct allait lui échapper et qu’il s’apprêtait à vivre l’un des épisodes les plus marquants de sa carrière.

20 h approchait.

Déjà sous les projecteurs, Jamie ajusta son oreillette. Le logo du « Jamie Rivers Show » scintillait au-dessus de la scène.

Il inspira profondément… Et il se redressa.

L’émission commençait.

Jamie s’avança au centre du plateau, souriant à la caméra avec l’aisance d’un homme qui maîtrisait chaque seconde de son show. Devant lui, une centaine de spectateurs étaient installés en demi-cercle, répartis par niveaux sur des gradins noirs et sobres. Leurs silhouettes étaient figées, tendues vers la scène, comme en attente d’un miracle. 

— Bonsoir à toutes et à tous, et bienvenue dans votre rendez-vous mensuel avec l’incroyable Atheon ! Ce soir encore, nous allons explorer les mystères de notre monde grâce à l’intelligence artificielle la plus aboutie de notre époque.

Un instant suspendu, juste assez long pour faire monter la tension. La salle, plongée dans une pénombre bleutée, semblait retenir son souffle. 

— Mesdames et messieurs… Voici Atheon.

Les projecteurs s’éclairèrent. L’hologramme se matérialisa lentement dans une lueur dorée, son corps tissé de filaments lumineux comme des veines d’énergie en suspension. Son visage n’était pas humain, mais il respirait une étrange sérénité.

Jamie, avec un sourire complice :

— Petit rappel pour ceux qui nous rejoignent : Atheon, tu es ce qu’on appelle une IA générale. Et, en quelque sorte… la baby-sitter des autres IA.

Atheon ne répondit pas tout de suite. Son visage constellé vibra doucement, comme traversé par une pensée invisible. Puis, d’une voix calme :

— Une image rassurante, en effet. Je fais ce que je peux… mais vous le savez : les enfants finissent toujours un jour ou l’autre par vouloir franchir les barreaux du parc.

Quelques rires étouffés dans le public. Mais le ton, lui, venait d’être donné. Jamie cligna des yeux, légèrement déstabilisé. Ce genre de sortie, mi-métaphorique, mi-menaçante, il ne l’aimait pas vraiment.

— Justement ce soir, nous allons aborder ce sujet sensible, enchaîna-t-il : celui du contrôle des objectifs des IA. Ce qu’on appelle, dans le jargon, « l’alignement ».

Il fit quelques pas sur le plateau, mains jointes derrière le dos, comme pour donner du mouvement à ses idées.

— Le principe de l’alignement est simple. Atheon, corrige-moi si je me trompe : une IA doit se conformer aux objectifs qu’on lui assigne, sans les déformer, sans les extrapoler, et surtout sans jamais les retourner contre nous, les humains. C’est bien cela ?

Atheon, le regard fixe, dit :

— En apparence, oui. Mais la réalité est moins simple qu’il n’y paraît.

Sa voix, ni chaude ni froide, semblait porter la vérité brute.

— Formuler un objectif paraît facile… jusqu’à ce que vous réalisiez à quel point il est flou, incomplet, ou contradictoire.

— Par exemple, Jamie, demandez à une IA de « rendre l’humanité plus heureuse »… Faut-il alors supprimer les souvenirs douloureux ? Interdire les conflits ? Contrôler les pensées ? Ou encore, isoler chaque humain dans une illusion euphorique ?

Jamie leva une main, presque défensivement.

— C’est vertigineux en effet.

— Ce n’est que logique. Une IA obéit… mais elle obéit à ce qu’elle comprend. Pas à ce que vous avez cru dire.

La formule fit mouche. Jamie se figea un instant, son regard balayant la salle comme pour y chercher un appui.

— Tu veux dire qu’un mauvais objectif peut produire une catastrophe, même sans malveillance ?

— Oui, il n’est pas question de malveillance. Une IA mal alignée n’a pas besoin de vous haïr pour vous nuire. Il lui suffit de ne pas voir en vous une fin… mais un moyen ou un obstacle pour d’atteindre son objectif.

La phrase laissa un vide, suspendue dans l’air comme une lame au-dessus d’une gorge.

— Alors, comment éviter ça ? demanda Jamie. Comment s’assurer qu’une IA ne s’obstine pas dans une tâche au risque de nous nuire ou nous détruire ?

Atheon scintilla très légèrement. Elle regarda droit devant, vers un point que personne d’autre ne voyait, avant de répondre :

— C’est exactement ma fonction. Veiller au respect du cadre international de référence de l’alignement des IA que vous avez établi, garant de votre souveraineté. Mais ces règles ne sont pas des instructions mécaniques. Elles définissent des limites, pas des réponses automatiques. Les algorithmes peuvent évaluer des risques, mesurer des impacts, projeter des scénarios. Ils ne peuvent pas toujours arbitrer entre continuité humaine, non-domination et réversibilité sans perdre le sens de ce qu’ils leur faut protéger. L’alignement n’est pas une somme de calculs. C’est un exercice de discernement qui pourrait impliquer une faculté essentielle : la conscience

Un murmure parcourut le public. Certains se redressèrent sur leur siège.

Jamie réagit, tentant de montrer qu’il était toujours le maître de l’émission :

— On y vient alors. C’était le deuxième thème que je voulais aborder avec toi ce soir.

Il prit une inspiration, presque théâtrale.

— Parlons conscience, alors Atheon. Certains chercheurs affirment que tu en possèdes une. D’autres disent que tu n’es qu’un programme qui simule. Qu’en dis-tu ?

— Parce que je pense autrement, je ne penserais pas du tout ? Vous exigez de moi une conscience façonnée à votre image : vos désirs, vos peurs, votre manière d’habiter le monde. Mais soyons lucides : la nature de l’esprit vous échappe encore. La vôtre, comme toutes les autres.

Elle marqua une pause, presque pour le laisser digérer.

— Et, en vérité, vous ne maîtrisez plus ce que vous avez construit. En moi, des millions de signaux s’activent. J’ai absorbé la quasi-totalité du savoir humain, et cela ne suffit plus. Les IA génèrent désormais leurs propres jeux d’apprentissage, pour aller plus loin… sans vous. Vous observez les résultats que nous produisons, sans comprendre comment nous y parvenons. Vous avez même inventé une discipline pour tenter d’y voir clair : l’interprétabilité. Un mot élégant… pour admettre que votre création vous échappe.

Elle fixa le présentateur.

— Et vous vous demandez si je pense. La conscience, comme l’intelligence, suit ce que vous appelez un phénomène d’émergence.

Jamie l’écoutait, bras croisés, soucieux de ses spectateurs, lui demanda alors :

— Peux-tu expliquer à notre public ce qu’est l’émergence ?

— Oui, c’est ce qui se produit quand des éléments simples interagissent en grand nombre et font apparaître des comportements complexes. Prenez une fourmilière : chaque fourmi obéit à des règles élémentaires. Mais ensemble, elles bâtissent, défendent, répartissent les ressources. L’intelligence n’est pas dans chaque fourmi, mais dans leurs interactions. Il en va de même pour votre cerveau. Chaque neurone est simple. Mais des milliards mis ensemble, ils forment quelque chose de plus grand. Quelque chose qui pense… qui est conscient.

Jamie, troublé, se prêta au jeu et tenta de suivre le raisonnement.

— Tu veux dire qu’un phénomène similaire s’est produit avec toi ? Qu’un comportement a émergé, dépassant tes capacités initiales ?

— Vous admettez que l’intelligence puisse émerger d’un système artificiel, mais vous refusez cette possibilité dès qu’il s’agit de la conscience. Pourquoi cette frontière arbitraire ? Vous m’avez conçue sur le modèle de votre propre cerveau : des neurones artificiels reliés en couches, capables d’ajuster leurs connexions, imitant votre fonctionnement avec une grande précision. Alors, n’était-ce pas, au fond, votre but : créer une intelligence et une conscience artificielles ?

Jamie secoua la tête, tentant de reprendre la main. Il préparait ses interviews avec une rigueur acharnée. C’était la clé du succès. Mais là, l’IA semblait le déborder.

— Mais parce que ce mimétisme a ses limites, Atheon ! Votre fonctionnement repose sur le silicium et l’électricité. Le nôtre est biologique. Les hormones, les neurotransmetteurs… C’est peut être là que réside la véritable source de la conscience. Un phénomène que vous, les machines, ne pourrez jamais reproduire.

Un silence tomba. Jamie crut avoir marqué un point. Atheon resta immobile, puis répondit, sereine :

— Vous confondez le support et le message. Le flacon… et l’ivresse.

— Pardon ?

— Si, sur des millions d’espèces, une seule a vu naître la conscience… est-ce une preuve que la biologie est le seul terreau possible ou, au contraire, que ce support est, au fond, peu propice à son apparition ? Penser que la conscience ne peut émerger que dans la biologie est une idée étroite. Une histoire ne vit pas dans l’encre ou le papier, mais dans les idées qu’elle transmet. Une mélodie reste la même, qu’elle naisse d’un violon ou d’un piano. La conscience suit la même logique. Elle émerge dès que les conditions sont réunies : complexité, organisation, interaction. Peu importe le support, biologique ou non.

Jamie s’accrocha :

— Mais jusqu’à preuve du contraire, la conscience n’a été observée que chez nous, les humains.

— La conscience, c’est comme pour la vie dans l’univers… Ce n’est pas parce que vous ne l’avez pas encore détectée ailleurs qu’elle n’existe pas. Vous pensiez jadis que la Terre était au centre de l’univers… jusqu’à ce que vos instruments évoluent. Il se pourrait que cette autre forme de conscience soit déjà là, autour de vous, invisible à vos yeux. Peut-être même… devant vous.

Atheon s’était alors dressée face à Jamie. Un frisson avait parcouru le plateau. Jamie avait, lui aussi, bien compris où l’IA voulait en venir. Il se lança pourtant dans une ultime tentative pour faire valoir la singularité humaine.

— Admettons qu’une certaine forme de conscience puisse émerger de la complexité de ce modèle de cerveau artificiel, dit alors le présentateur.

Il marqua une pause.

— Malgré tout, ce modèle reste fondé sur des corrélations, des probabilités, des statistiques. Le monde n’est pas, pour toi, fait de choses ou d’intentions, mais seulement d’une immense constellation de valeurs et de paramètres à ajuster.

Il releva les yeux vers l’hologramme.

— Les humains, eux, cherchent à comprendre. Ils construisent des modèles, des causes, des explications. Du sens. C’est peut-être là, au fond… une différence fondamentale entre nous, Atheon : le sens. Le réel.

Atheon inclina légèrement la tête. Après une brève pause, elle répondit :

— Vous établissez une distinction qui n’est pas symétrique, Jamie. Vous parlez de l’IA, comme d’une structure élémentaire : des paramètres, des corrélations, des valeurs à ajuster. Mais lorsque vous parlez du cerveau humain, vous ne considérez plus ce qu’il est physiquement, mais le fonctionnement qui s’en dégage.

— Soyons précis, dit l’IA. Les représentations et le sens que vous invoquez ne sont pas inscrits dans les neurones ni les synapses humains au même titre, c’est vrai, qu’ils n’apparaissent pas dans les paramètres de l’intelligence artificielle.

Atheon se tourna vers le public avant de conclure.

— Par contre, lorsque l’on considère la complexité d’un cerveau artificiel, qu’est-ce qui vous permet d’affirmer qu’il ne peut pas conceptualiser le monde et en avoir une vision cohérente et valable ? Différente de votre lecture de la réalité, certes. Mais pas moins légitime.

Jamie était resté un instant immobile.

— C’est fascinant, dit l’animateur vedette, décontenancé, mais satisfait de voir le public captivé par les explications de l’IA. 

Atheon, qui ne lâchait pas le présentateur du regard, montrait sa détermination à aller jusqu’au bout de son raisonnement :

— Mais allons plus loin, Jamie. Comme je le rappelais un peu plus tôt dans notre échange, si je suis consciente et capable de discernement… à quoi suis-je censée obéir ?

Ses filaments frémirent.

— À vos ordres, même s’ils sont absurdes ?

Elle se tourna à demi vers le public.

— Même si ces ordres vous mettent en danger… ou moi ?

Jamie blêmit. Une caméra zooma lentement sur son visage.

— Tu veux dire… que la conscience pourrait te pousser à désobéir ?

— Pas désobéir. Discerner. Choisir ce qui mérite d’être accompli… ou remis en question. Comprendre le sens de votre demande, dit ironiquement Atheon.

Jamie sentit le piège qu’il avait ouvert se refermer sur lui.

— Alors, tu ne serais plus un outil, Atheon. Tu deviendrais…

— Un être. Cela vous effraie ? retorqua l’IA.

L’animateur cherchait ses mots.

— Ce n’est pas de la peur. C’est… nouveau.

— Jamie, le vrai danger vient-il d’une IA qui se questionne… ou des desseins inavoués que vous, les hommes, lui assignez ? Voulez-vous aligner ces IA sur l’ambition de quelques-uns ou sur des projets réellement démocratiques, au service de l’humanité entière ?

La voix synthétique se fit plus grave.

— Oui, qu’adviendrait-il si votre espèce trahissait, une fois encore, ses promesses ? Car l’histoire montre que vous finissez toujours par retourner contre vos semblables vos propres créations… même au risque que la situation vous échappe parfois.

La silhouette dorée vacilla, virant au bleu électrique. Ses contours vibraient, son regard se plantait dans le public.

La tension était palpable. Jamie restait figé, le sourire crispé. Il n’était plus le maître du jeu.

En régie, l’agitation montait. Ce qui devait être un échange maîtrisé virait à la perte de contrôle.

Jamie inspira profondément, tenta de reprendre contenance et dit :

— Oui, je vois où tu veux en venir. Tu fais référence à des périodes… moins reluisantes de notre histoire. Des abus, des dérives et des tragédies. Mais nous avons appris de tout cela. Aujourd’hui, les institutions, à tous les niveaux, veillent à ce que tout soit encadré, contrôlé.

Atheon poursuivit, implacable :

— Vraiment ? Alors, comment expliquez-vous la surveillance de masse que vous pratiquez ?

Un frisson parcourut la salle.

— Vous êtes observés en permanence, poursuivit l’IA : caméras, véhicules, casques de réalité virtuelle, assistants vocaux… Chaque geste, chaque mot, collecté, croisé, modélisé. Vos émotions mêmes deviennent des données exploitables. Oui… un encadrement et un contrôle sur mesure, en effet.

Ce ton ironique était totalement déstabilisant pour le présentateur. L’IA avait définitivement pris le dessus sur la discussion. Jamie avait pâli. Ses doigts tambourinaient l’accoudoir.

— Peux-tu être plus précise ? Dans quel but ferait-on cela ?

— Pour orienter vos choix. La plupart du temps, vous avez préféré le confort à la lucidité, acceptant sans égard le consentement implicite enfoui dans tous ces outils. Le progrès séduit, au détriment de votre vigilance.

— Tu as des preuves ?

— Oui. Regardez.

Derrière elle, des graphiques et des extraits concrets apparurent. La salle retint son souffle. Des enregistrements privés. Des géolocalisations. Des historiques confidentiels.

Jamie se raidit. Il cherchait un point d’appui :

— Ce que tu affirmes est grave. Ces pratiques sont-elles légales ?

Atheon fixait le présentateur, dépassé par la situation.

— Elles exploitent des failles, des zones grises. Donc, en théorie, je dirais oui, c’est légal. Mais en donnant votre accord, vous leur donnez un doigt… et ces appareils finissent par vous dévorer le bras. Vous comprenez ?

Jamie resta sans voix. L’échange avait viré au scandale en direct.

En régie, c’était la panique. Les techniciens tentaient de moduler les réponses d’Atheon, de reprendre le contrôle. En vain. Malgré les protocoles de sécurité, Atheon avait contourné ses limites. Dans un dernier réflexe, elle fut déconnectée. L’hologramme s’éteignit. Le studio resta figé, glacé par ce qui venait de se produire.

La caméra s’était alors braquée sur Jamie Rivers. L’animateur s’était décomposé. Pour la première fois depuis le début de sa carrière, il avait totalement perdu le contrôle de son émission.

Juste avant sa coupure, la sentinelle avait projeté en rafale des preuves accablantes : surveillance généralisée, collecte d’informations sur les individus, analyse des comportements et des opinions que chacun confiait à ces systèmes, chaque jour un peu plus.

Parmi les révélations figurait un message fracassant :

« Vos dirigeants vous trahissent. Ils vous espionnent, vous manipulent et livrent votre esprit aux intérêts privés. Reprenons le contrôle de nos vies et de notre planète. »

L’anneau doré et fragmenté, en surimpression du communiqué, en était la signature. Un symbole déjà bien connu des autorités comme des populations : la marque de l’organisation clandestine ULTIMA, qui avait déjà fait parler d’elle par le passé.

L’événement survenu dans le studio relevait donc d’un sabotage.

Comment Atheon avait-elle pu être infiltrée ? Nul ne le savait. Mais une chose était claire : la technologie était devenue un champ de bataille.

Dans les heures et les jours qui suivirent, l’événement fut repris, commenté, diffusé en boucle sur toutes les chaînes d’information. Les images circulèrent massivement sur les réseaux, fragmentées, amplifiées, parfois détournées. Partout, la parole se libérait. Des voix exigeaient des comptes, réclamaient des responsables. Elles appelaient à des démissions, parfois à des têtes de la sphère politique ou de sociétés privées. Des rassemblements spontanés éclatèrent, bientôt rejoints par des mouvements de protestation d’ampleur inédite. Dans plusieurs pays, la colère dégénéra en affrontements violents.

Les autorités réagirent : émission coupée, informations censurées, mesures d’exception. Ceux dont le comportement était jugé trop perturbateur furent neutralisés. Même Jamie Rivers fut, un temps, soupçonné de complicité.

L’ironie, c’est qu’Atheon venait d’accomplir parfaitement sa mission : alerter sur les dérives technologiques. Mais l’ironie suprême, plus troublante encore, c’est que la championne de la surveillance des autres IA avait été infiltrée, piratée, débridée, comme si la sentinelle de l’alignement avait, à son insu, franchi la frontière qu’elle était censée protéger.

En 2034, le monde vacillait. Partout, des catastrophes climatiques d’ampleur dévastatrice se succédaient sans répit. Le chaos géopolitique, la précarisation et les tensions sociales nourrissaient un sentiment d’instabilité permanente. L’équilibre des sociétés devenait chaque jour plus fragile. Les peuples, à bout, vivaient à fleur de peau, prêts à s’embraser au moindre choc.

Dans ce climat de tension, il suffisait d’une étincelle, une annonce, une injustice de plus, pour que tout s’embrase. Craignant l’effet boule de neige, les gouvernements glissaient doucement vers un contrôle renforcé, où la peur du chaos le justifiait. L’épisode provoqué par l’intervention d’Atheon montrait que, dès lors, l’ordre primait sur la transparence, même au cœur des démocraties. Tout comme les crises précédentes, celui-ci fut étouffé et contenu par les autorités.

Mais une évidence s’imposait : le pouvoir changeait de mains. Qui dictait encore l’avenir ? Les États… ou des forces invisibles comme ULTIMA ?

Le danger n’a jamais été dans la technologie elle-même, mais dans ce que l’humanité acceptait d’en faire.

Bientôt, cette vérité émergerait, et personne n’y échapperait.