Cybersikkerhetssenter

Cybersikkerhet og fremtidens arkitektur

Kunstig intelligens endrer IT-landskapet i høyt tempo. Mens mange organisasjoner fokuserer på produktivitetsgevinster og på å fjerne manuelt arbeid, foregår det i bakgrunnen en mer grunnleggende transformasjon: et asymmetrisk kappløp mot tiden innen cybersikkerhet.

Situasjonen haster: Organisasjoner som ikke tilpasser sikkerheten og arkitekturen sin til dette tempoet, vil bli presset ut av markedet av cyberhendelser eller manglende forsikringsmuligheter. For å forstå og håndtere denne transformasjonen må vi se på de tre påfølgende bølgene i spørsmålet om AI-sikkerhet – og arkitekturen som trengs for å stå støtt.

De tre bølgene i AI-sikkerhetstransformasjonen

3 waves of cybercrime

Bølge 1: Tekniske sårbarheter i kode (2025–2027)

  • Problemet: Den nåværende eksplosjonen av datalekkasjer og innbrudd skyldes et historisk innhentingskappløp. AI-verktøy gjennomgår flere tiår med menneskeskrevet eldre kode. Klassiske feil – som SQL-injeksjoner, minnelekkasjer og utdaterte biblioteker – blir funnet av angripere i stor skala.

  • Dynamikken: Denne fasen handler om «Shift Left» og automatisk kodehygiene. Bedrifter som rydder opp i utviklingsrørledningene sine og utstyrer dem med automatiske tester og oppdateringer, gjør de tradisjonelle kodebasene sine sikrere enn noen gang på kort tid.

  • Løsningen: Kontinuerlig automatisert oppdatering og koderengjøring. CI/CD-pipelines utstyres med AI-voktere som kontinuerlig gjennomgår kodebaser, automatisk genererer oppdateringer og ruller dem ut når integrasjonstestene er bestått.

Bølge 2: Misbruk av forretningslogikk (2026–2028)

  • Problemet: Når den tekniske inngangsdøren er sikret, flyttes kampen til den funksjonelle logikken. Et API kan være teknisk 100 % sikkert kodet (uten SQL-injeksjoner eller bufferoverflyter), men hvis en bruker eller et skript kan påvirke systemet gjennom en bestemt rekkefølge av handlinger (for eksempel kappløpstilstander ved rabatter, BOLA-manipulasjoner eller ved å hoppe over prosesstrinn), oppstår det umiddelbar økonomisk skade.

  • Dynamikken: Angriperne bryter ikke lenger ned systemet; de får systemet til å fungere på en måte som koster organisasjonen penger. Dette fører til en kontinuerlig, usynlig uthuling av marginene.

  • Løsningen: Formell verifikasjon og strenge tilstandsmaskiner (FSM).

    • Endelige tilstandsmaskiner (FSM): Forretningsprosesser skrives ikke som separate API-endepunkter, men modelleres matematisk som en lukket tilstandsmaskin. Systemet kan bare gå fra tilstand A (CART_CREATED) til tilstand B (PAYMENT_PENDING) og C (ORDER_COMPLETED). Manipulering eller utelatelse av trinn gjøres teknisk umulig på servernivå.

    • Idempotens og atomiske transaksjoner: Handlinger gjøres idempotente og behandles ved hjelp av strenge isolasjonsnivåer i databaser. Kappløpssituasjoner (flere forespørsler sendes inn samtidig for å stable rabatter) blokkeres automatisk på databasenivå eller legges i en kø.

    • Formell verifikasjon ved hjelp av AI: AI-agenter brukes i byggeprosessen for gjennom matematisk verifikasjon å bevise at programvaren bare kan anta de tilsiktede logiske tilstandene, før koden settes i produksjon.

Bølge 3: Manipulering av AI-agenter og beslutningstaking (2027–2030+)

  • Problemet: I en fullagentisk verden samarbeider autonome AI-agenter og tar beslutninger basert på data fra omverdenen (e-poster, fakturaer, dokumenter). Angripere retter seg i denne fasen mot Indirekte prompt-injeksjon, Datagiftning og overtakelse av agentenes mål.

  • Dynamikken: Kildekoden og logikken stemmer, men AI-agenten blir villedet av konteksten den leser. Spørsmålet skifter fra «er koden sikker?» til «er agentens beslutningstaking pålitelig?».

  • Løsningen: 3-lags A2A-kommunikasjonsmodellen (agent-til-agent).

Arkitekturløsningen for bølge 3: Den tredelte A2A-modellen

For at AI-agenter skal kunne forhandle fleksibelt om komplekse situasjoner og spesialtilfeller, uten å utsette organisasjonen for risikoene i bølge 3, er det nødvendig med en lagdelt kommunikasjonsarkitektur. Prinsippet er enkelt: Du forhandler i et fritt språk, men utfører via en formell kontrakt.

A2A architecture

De tre lagene i A2A-arkitekturen:

Lag 1: Det frie forhandlingslaget (uttrykk og kreativitet)

Her kommuniserer agenter med hverandre i en rik kontekst for å utforske komplekse problemstillinger, priser og rammebetingelser.

  • Risikoen: Dette er det mest sårbare laget for påvirkning, prompt-injeksjon og manipulering.

  • Sikringen: På dette laget kan agenter ingen direkte handling utføre handlinger i produksjonsinfrastrukturen. Det er en isolert sandkasse. I tillegg beskytter vi dette laget med Kognitiv hastighetsbegrensning (for å forhindre at en agent kan teste parametere i det uendelige) og Kryssmodellvalidering (en annen, annerledes trent KI-modell vurderer forhandlingsresultatet for manipulasjon).

Lag 2: Formaliserings- og intensjonslaget (den juridiske sikringen)

Så snart agentene i lag 1 blir enige om en løsning eller transaksjon, renses resultatet for all fri tekst og narrativ.

  • Sikringen: Resultatet omdannes til en formell, strukturert kontrakt (via en Domenespesifikt språk eller et fastsatt JSON-skjema). Her defineres forpliktelsene, begrensningene og betingelsene eksplisitt. Dette laget fungerer som den digitale «notaren» som kontrollerer om forslaget er i samsvar med de forhåndsdefinerte virksomhetsrammene.

Lag 3: Det deterministiske utførelseslaget (det urokkelige fundamentet)

Dette er nivået der den faktiske transaksjonen eller systemendringen gjennomføres. Her kommuniserer ikke lenger KI-agenter, men robuste, matematiske systemer via den overvåkede logikken fra bølge 2.

  • Sikringen:

    • Kryptografisk verifisering: Meldinger mellom systemer sikres via Gjensidig TLS (mTLS), utstyres med unike nonces (for å forhindre replay-angrep) og signeres med kryptografiske nøkler.

    • Deterministiske gatewayer: API-gatewayer kontrollerer uten hjelp fra AI om en forespørsel holder seg innenfor de absolutte grensene, for eksempel et maksimalt transaksjonsbeløp.

Den nye rollen for menneskelige eksperter

Denne lagdelte tilnærmingen viser at menneskelige spesialisters rolle ikke forsvinner, men flyttes til systemets rammeverk:

  • Innkjøperen utformer strategiene, parameterne og grensene som agenten i lag 1 kan forhandle innenfor.

  • Juristen utformer malene, ontologiene og de formallogiske rammene for lag 2.

  • Sikkerhetsarkitekten bygger det deterministiske, overvåkede utførelsesmiljøet i lag 3 og sikrer FSM-logikken fra grøft 2.

Ved å skille strengt mellom «tenke- og forhandlingsfasen» og «utførelsesfasen» beholder vi AI-agentenes fleksibilitet, samtidig som kontrollen over virksomhetens drift fortsatt fullt og helt ligger hos organisasjonen.

Trenger du hjelp med overgangen til AI-drevet cybersikkerhet og automatisering? Ta kontakt i dag

Gerard

Gerard arbeider som AI-konsulent og leder. Med lang erfaring fra store organisasjoner kan han raskt avdekke et problem og arbeide frem mot en løsning. Kombinert med en økonomisk bakgrunn sørger dette for forretningsmessig velbegrunnede valg.