La cybersécurité et l’architecture de l’avenir

L’intelligence artificielle transforme le paysage informatique à un rythme effréné. Alors que de nombreuses organisations se concentrent sur les gains de productivité et la suppression des tâches manuelles, une transformation plus fondamentale se déroule en arrière-plan : une course contre la montre asymétrique en cybersécurité.

L’urgence est claire : les organisations qui n’adaptent pas leur sécurité et leur architecture à ce rythme seront évincées du marché par des cyberincidents ou par leur impossibilité à s’assurer. Pour comprendre et maîtriser cette transformation, il faut examiner les trois vagues successives de la problématique de la sécurité liée à l’IA — ainsi que l’architecture nécessaire pour rester à flot.

Les trois vagues de la transformation de la sécurité de l’IA

Vague 1 : les vulnérabilités techniques du code (2025 – 2027)

• Le problème : L’explosion actuelle des fuites de données et des intrusions est la conséquence d’un rattrapage historique. Les outils d’IA analysent des décennies de code legacy écrit par des humains. Les erreurs classiques — telles que les injections SQL, les fuites de mémoire et les bibliothèques obsolètes — sont détectées à grande échelle par les attaquants.

• La dynamique : Cette phase repose sur le principe du « Shift-Left » et sur l’hygiène automatisée du code. Les entreprises qui nettoient leurs pipelines et les dotent de tests et de correctifs automatisés rendent rapidement leurs bases de code traditionnelles plus sûres que jamais.

• La solution : Correctifs automatisés en continu et nettoyage du code. pipelines CI/CD seront dotées de gardiens basés sur l’IA qui analysent en continu les bases de code, génèrent automatiquement des correctifs et les déploient une fois les tests d’intégration réussis.

Vague 2 : l’exploitation abusive de la logique métier (2026 – 2028)

• Le problème : Une fois la porte d’entrée technique sécurisée, la bataille se déplace vers la logique fonctionnelle. Une API peut être codée de manière techniquement parfaitement sécurisée (aucune injection SQL ni aucun dépassement de tampon), mais si un utilisateur ou un script peut influencer le système en exécutant une séquence spécifique d’actions (comme des conditions de concurrence lors de l’application de remises, des manipulations BOLA ou le contournement d’étapes du processus), cela entraîne un préjudice financier direct.

• La dynamique : Les attaquants ne font plus tomber le système ; ils le font fonctionner d’une manière qui coûte de l’argent à l’organisation. Cela entraîne une érosion continue et invisible des marges.

• La solution : Vérification formelle et machines à états finis (FSM) strictes.

  • Machines à états finis (FSM) : Les processus métier ne sont pas définis sous la forme de points de terminaison API indépendants, mais modélisés mathématiquement comme une machine à états fermée. Le système ne peut passer que de l’état A (CART_CREATED) à l’état B (PAYMENT_PENDING) et C (ORDER_COMPLETED). La manipulation ou le contournement d’étapes est rendu techniquement impossible au niveau du serveur.

  • Idempotence et transactions atomiques : Les actions sont rendues idempotentes et traitées au moyen de niveaux d’isolation stricts dans les bases de données. Conditions de concurrence (soumettre plusieurs requêtes simultanément afin de cumuler des remises) sont automatiquement bloquées au niveau de la base de données ou placées dans une file d’attente.

  • Vérification formelle par l’IA : Des agents d’IA sont intégrés au pipeline de compilation afin de prouver que le logiciel ne puisse adopter que les états logiques prévus, avant même que le code ne soit déployé en production.

Vague 3 : la manipulation des agents d’IA et de la prise de décision (2027 – 2030 et au-delà)

• Le problème : Dans un entièrement agentique monde, des agents d’IA autonomes collaborent et prennent des décisions sur la base de données provenant du monde extérieur (e-mails, factures, documents). À ce stade, les attaquants ciblent Injection indirecte de prompt, Empoisonnement des données et la prise de contrôle des objectifs des agents.

• La dynamique : Le code source et la logique sont corrects, mais l’agent d’IA est induit en erreur par le contexte qu’il lit. La question passe de « le code est-il sécurisé ? » à « la prise de décision de l’agent est-elle fiable ? ».

• La solution : Le modèle de communication A2A en 3 couches (agent à agent).

La solution architecturale pour la vague 3 : le modèle A2A à trois couches

Pour permettre aux agents d’IA de négocier avec flexibilité des situations complexes et des cas limites, sans exposer l’organisation aux risques de la vague 3, une architecture de communication en couches est nécessaire. Le principe est simple : on négocie en langage naturel, mais on exécute au moyen d’un contrat formel.

Les trois couches de l’architecture A2A :

Couche 1 : la couche de négociation libre (expression et créativité)

À ce niveau, les agents communiquent entre eux dans un contexte riche afin d’examiner les problématiques complexes, les prix et les conditions préalables.

• Le risque : Il s’agit de la couche la plus vulnérable à l’influence, à l’injection de prompts et à la manipulation.

• Le dispositif de garantie : À ce niveau, les agents sont autorisés à aucune action directe exécuter des opérations dans l’infrastructure de production. Il s’agit d’un bac à sable isolé. De plus, nous protégeons cette couche à l’aide de Limitation cognitive du débit (pour empêcher un agent de tester un nombre illimité de paramètres) et Validation intermodèles (un deuxième modèle d’IA, entraîné différemment, évalue le résultat de la négociation afin de détecter toute manipulation).

Couche 2 : la couche de formalisation et d’intention (la garantie juridique)

Dès que les agents de la couche 1 parviennent à un accord sur une solution ou une transaction, le résultat est dépouillé de tout langage libre et de tout contenu narratif.

• Le dispositif de garantie : Le résultat est converti en un contrat formel et structuré (au moyen d’un langage spécifique au domaine ou d’un schéma JSON défini). Les obligations, les limites et les conditions y sont définies explicitement. Cette couche joue le rôle de « notaire » numérique, en vérifiant que la proposition respecte les cadres opérationnels prédéfinis.

Couche 3 : la couche d’exécution déterministe (la base immuable)

C’est à ce niveau que la transaction réelle ou la modification du système est mise en œuvre. Ici, les agents d’IA ne communiquent plus entre eux : des systèmes mathématiques rigoureux échangent via la logique contrôlée de la Vague 2.

• Le dispositif de garantie :

  • Vérification cryptographique : Les messages échangés entre les systèmes sont sécurisés au moyen de TLS mutuel (mTLS), dotés de valeurs aléatoires à usage unique (pour empêcher les attaques par rejeu) et signés à l’aide de clés cryptographiques.

  • Passerelles déterministes : Les passerelles API vérifient, sans intervention de l’IA, si une requête reste dans les limites strictes définies, comme un montant maximal de transaction.

Le nouveau rôle des experts humains

Cette approche en couches montre que le rôle des spécialistes humains ne disparaît pas, mais se déplace vers la définition du cadre du système :

• L’acheteur conçoit les stratégies, les paramètres et les limites dans lesquels l’agent de la couche 1 est autorisé à négocier.

• Le juriste conçoit les modèles, les ontologies et les cadres logico-formels de la couche 2.

• L’architecte sécurité construit l’environnement d’exécution surveillé et déterministe de la couche 3 et garantit la logique de la machine à états finis issue du défi 2.

En séparant strictement la phase de « réflexion et de négociation » de la phase d’« exécution », nous préservons la flexibilité des agents d’IA, tout en veillant à ce que le contrôle des opérations reste entièrement entre les mains de l’organisation.

Besoin d’aide pour passer à une cybersécurité pilotée par l’IA et automatiser vos processus ? Prenez dès aujourd’hui contact