Cybersikkerhedscenter

Cybersikkerhed og fremtidens arkitektur

Kunstig intelligens forandrer it-landskabet i højt tempo. Mens mange organisationer fokuserer på produktivitetsgevinster og på at afskaffe manuelt arbejde, finder der i baggrunden en mere fundamental transformation sted: et asymmetrisk kapløb med tiden inden for cybersikkerhed.

Det haster, og situationen er klar: Organisationer, der ikke tilpasser deres sikkerhed og arkitektur til dette tempo, vil blive drevet ud af markedet af cyberhændelser eller manglende mulighed for at tegne forsikring. For at forstå og håndtere denne transformation må vi se på de tre successive bølger i spørgsmålet om AI-sikkerhed – og den arkitektur, der er nødvendig for at kunne stå imod.

AI-sikkerhedstransformationens tre bølger

3 waves of cybercrime

Bølge 1: Tekniske sårbarheder i kode (2025 – 2027)

  • Problemet: Den aktuelle eksplosion i datalæk og indbrud er resultatet af et historisk efterslæb. AI-værktøjer gennemgår årtiers menneskeskrevet legacy-kode. Klassiske fejl – såsom SQL-injektioner, hukommelseslækager og forældede biblioteker – bliver fundet af angribere i stor skala.

  • Dynamikken: Denne fase handler om »Shift-Left« og automatisk kodehygiejne. Virksomheder, der rydder op i deres pipelines og udstyrer dem med automatiserede tests og patches, gør hurtigt deres traditionelle kodebaser sikrere end nogensinde.

  • Løsningen: Kontinuerlig automatiseret patching og kodeoprydning. CI/CD-pipelines udstyres med AI-vogtere, der løbende gennemgår kodebaser, automatisk genererer patches og ruller dem ud, når integrationstestene er bestået.

Bølge 2: Misbrug af forretningslogik (2026 – 2028)

  • Problemet: Når den tekniske hoveddør er lukket, flytter kampen sig til den funktionelle logik. En API kan være 100 % sikkert kodet (uden SQL-injektioner eller bufferoverløb), men hvis en bruger eller et script gennem en bestemt rækkefølge af handlinger (såsom race conditions ved rabatter, BOLA-manipulation eller spring over procestrin) kan påvirke systemet, opstår der direkte økonomisk skade.

  • Dynamikken: Angriberne bryder ikke længere systemet; de får systemet til at fungere på en måde, der koster organisationen penge. Det fører til en konstant, usynlig udhuling af avancerne.

  • Løsningen: Formel verifikation og strikte tilstandsmaskiner (FSM).

    • Endelige tilstandsmaskiner (FSM'er): Forretningsprocesser skrives ikke som separate API-endpoints, men modelleres matematisk som en lukket tilstandsmaskine. Systemet kan kun gå fra tilstand A (CART_CREATED) til tilstand B (PAYMENT_PENDING) og C (ORDER_COMPLETED). Manipulation eller spring over trin gøres teknisk umuligt på serverniveau.

    • Idempotens og atomare transaktioner: Handlinger gøres idempotente og behandles via strenge isolationsniveauer i databaser. Race conditions (flere samtidige anmodninger for at kumulere rabatter) blokeres automatisk på databaseniveau eller placeres i en kø.

    • Formel verifikation via AI: AI-agenter anvendes i build-pipelinen til gennem matematisk verifikation at bevise bevise, at softwaren kun kan antage de tilsigtede logiske tilstande, allerede inden koden sættes i produktion.

Bølge 3: Manipulation af AI-agenter og beslutningstagning (2027 – 2030+)

  • Problemet: I en fuldt agentisk verden arbejder autonome AI-agenter sammen og træffer beslutninger baseret på data fra omverdenen (e-mails, fakturaer, dokumenter). Angribere fokuserer i denne fase på Indirekte promptinjektion, Datamanipulation og overtagelse af agenternes mål.

  • Dynamikken: Kildekoden og logikken er korrekte, men AI-agenten vildledes af den kontekst, den læser. Spørgsmålet skifter fra "er koden sikker?" til "er agentens beslutningstagning pålidelig?".

  • Løsningen: Den 3-lags A2A-kommunikationsmodel (agent-til-agent).

Arkitekturløsningen til bølge 3: 3-lags A2A-modellen

For at give AI-agenter mulighed for fleksibelt at forhandle om komplekse situationer og edge cases uden at udsætte organisationen for risiciene ved bølge 3 er en lagdelt kommunikationsarkitektur nødvendig. Princippet er enkelt: Man forhandler på naturligt sprog, men udførelse sker via en formel kontrakt.

A2A architecture

A2A-arkitekturens tre lag:

Lag 1: Det frie forhandlingslag (udtryk og kreativitet)

Her kommunikerer agenter med hinanden i en rig kontekst for at undersøge komplekse problemstillinger, priser og rammebetingelser.

  • Risikoen: Dette er det mest sårbare lag over for påvirkning, promptinjektion og manipulation.

  • Sikringen: På dette lag må agenter ingen direkte handling udføre handlinger i produktionsinfrastrukturen. Det er en isoleret sandkasse. Derudover beskytter vi dette lag med Kognitiv hastighedsbegrænsning (for at forhindre, at en agent kan afprøve parametre ubegrænset) og Validering på tværs af modeller (en anden, anderledes trænet AI-model vurderer forhandlingsresultatet for manipulation).

Lag 2: Formaliserings- og intentionlaget (den juridiske sikring)

Så snart agenterne i lag 1 når til enighed om en løsning eller transaktion, renses resultatet for alt frit sprog og narrativ.

  • Sikringen: Resultatet omdannes til en formel, struktureret kontrakt (via et Domænespecifikt sprog eller et fastlagt JSON-skema). Heri defineres forpligtelser, begrænsninger og betingelser eksplicit. Dette lag fungerer som den digitale »notar«, der kontrollerer, om forslaget overholder de på forhånd fastlagte virksomhedsrammer.

Lag 3: Det deterministiske eksekveringslag (det urokkelige fundament)

Det er på dette niveau, at den faktiske transaktion eller systemændring gennemføres. Her taler AI-agenterne ikke længere sammen; i stedet kommunikerer faste, matematiske systemer via den overvågede logik fra fase 2.

  • Sikringen:

    • Kryptografisk verifikation: Meddelelser mellem systemer sikres via Gensidig TLS (mTLS), forsynes med unikke noncer (for at forhindre replay-angreb) og signeres med kryptografiske nøgler.

    • Deterministiske gateways: API-gateways kontrollerer uden AI-indblanding, om en forespørgsel holder sig inden for de faste grænser (såsom et maksimumbeløb for en transaktion).

Den nye rolle for menneskelige eksperter

Denne lagdelte tilgang viser, at de menneskelige specialisters rolle ikke forsvinder, men flyttes til systemets rammer:

  • Indkøberen udformer de strategier, parametre og grænser, som agenten i lag 1 må forhandle inden for.

  • Juristen udformer skabelonerne, ontologierne og de formallogiske rammer for lag 2.

  • Sikkerhedsarkitekten opbygger det deterministiske, overvågede eksekveringsmiljø i lag 3 og sikrer FSM-logikken fra golf 2.

Ved strengt at adskille »tænke- og forhandlingsfasen« fra »udførelsesfasen« bevarer vi AI-agenternes fleksibilitet, samtidig med at kontrollen over driften fortsat uden svækkelse forbliver i organisationens hænder.

Har du brug for hjælp til omstillingen til AI-drevet cybersikkerhed og automatisering? Så kontakt os allerede i dag kontakt nu

Gerard

Gerard arbejder som AI-konsulent og -chef. Med stor erfaring fra store organisationer kan han hurtigt gennemskue et problem og arbejde hen imod en løsning. Kombineret med en økonomisk baggrund sikrer det forretningsmæssigt ansvarlige valg.