Cybersäkerhet och framtidens arkitektur

Artificiell intelligens förändrar IT-landskapet i snabb takt. Medan många organisationer fokuserar på produktivitetsvinster och att ta bort manuellt arbete, pågår en mer grundläggande omvandling i bakgrunden: ett asymmetriskt kapplöpning mot tiden inom cybersäkerhet.

Brådskan är uppenbar: organisationer som inte anpassar sin säkerhet och arkitektur till detta tempo kommer att slås ut från marknaden av cyberincidenter eller bristande försäkringsbarhet. För att förstå och hantera denna omvandling måste vi se på de tre efterföljande vågorna i AI-säkerhetsfrågan – och den arkitektur som krävs för att klara sig.

AI-säkerhetstransformationens tre vågor

Våg 1: Tekniska sårbarheter i kod (2025–2027)

• Problemet: Den nuvarande explosionen av dataläckor och intrång är resultatet av en historisk ikappkörning. AI-verktyg granskar årtionden av människoskriven äldre kod. Klassiska fel – såsom SQL-injektioner, minnesläckor och föråldrade bibliotek – hittas av angripare i stor skala.

• Dynamiken: Den här fasen handlar om ”Shift Left” och automatisk kodhygien. Företag som rensar sina pipelines och förser dem med automatiserade tester och patchar gör snabbt sina traditionella kodbaser säkrare än någonsin.

• Lösningen: Kontinuerlig automatisk patchning och kodrensning. CI/CD-pipelines utrustas med AI-grindvakter som kontinuerligt granskar kodbaser, genererar patchar automatiskt och distribuerar dem efter godkända integrationstester.

Våg 2: Missbruk av affärslogik (2026–2028)

• Problemet: Så snart den tekniska ytterdörren är stängd förflyttas kampen till den funktionella logiken. Ett API kan vara tekniskt 100 procent säkert kodat (utan SQL-injektioner eller buffertspill), men om en användare eller ett skript genom en specifik följd av handlingar (såsom kapplöpningstillstånd vid rabatter, BOLA-manipulationer eller genom att hoppa över processteg) kan påverka systemet, uppstår omedelbar ekonomisk skada.

• Dynamiken: Angriparna bryter inte längre sönder systemet; de får systemet att fungera på ett sätt som kostar organisationen pengar. Detta leder till en kontinuerlig, osynlig urholkning av marginalerna.

• Lösningen: Formell verifiering och strikta tillståndsmaskiner (FSM).

  • Finita tillståndsmaskiner (FSM): Affärsprocesser skrivs inte som fristående API-slutpunkter, utan modelleras matematiskt som en sluten tillståndsmaskin. Systemet kan bara gå från tillstånd A (CART_CREATED) till tillstånd B (PAYMENT_PENDING) och C (ORDER_COMPLETED). Att manipulera eller hoppa över steg görs tekniskt omöjligt på servernivå.

  • Idempotens och atomära transaktioner: Åtgärder görs idempotenta och behandlas med hjälp av strikta isoleringsnivåer i databaser. Kapplöpningstillstånd (att skicka in flera förfrågningar samtidigt för att stapla rabatter) blockeras automatiskt på databasnivå eller placeras i en kö.

  • Formell verifiering med AI: AI-agenter används i byggprocessen för att med hjälp av matematisk verifiering bevisa att bevisa att programvaran endast kan anta de avsedda logiska tillstånden, redan innan koden går i produktion.

Våg 3: Manipulation av AI-agenter och beslutsfattande (2027–2030+)

• Problemet: I en fullständigt agentisk värld samarbetar autonoma AI-agenter och fattar beslut baserat på data från omvärlden (e-postmeddelanden, fakturor och dokument). Angripare riktar sig i denna fas mot Indirekt promptinjektion, Datagiftning och övertagande av agenternas mål.

• Dynamiken: Källkoden och logiken stämmer, men AI-agenten vilseleds av den kontext den läser. Frågan skiftar från ”är koden säker?” till ”är agentens beslutsfattande tillförlitligt?”.

• Lösningen: Den tredelade A2A-kommunikationsmodellen (agent till agent).

Arkitekturlösningen för våg 3: A2A-modellen i tre lager

För att AI-agenter flexibelt ska kunna förhandla om komplexa situationer och specialfall utan att utsätta organisationen för riskerna i våg 3 krävs en skiktad kommunikationsarkitektur. Principen är enkel: förhandla gör man på ett fritt språk, men verkställande sker via ett formellt avtal.

A2A-arkitekturens tre lager:

Lager 1: Det fria förhandlingslagret (uttryck och kreativitet)

Här kommunicerar agenter med varandra i en rik kontext för att utforska komplexa frågeställningar, priser och randvillkor.

• Risken: Detta är det mest sårbara lagret för påverkan, promptinjektion och manipulation.

• Säkringen: På detta lager får agenter ingen direkt åtgärd verkställa åtgärder i produktionsinfrastrukturen. Det är en isolerad sandlåda. Dessutom skyddar vi detta lager med Kognitiv hastighetsbegränsning (för att förhindra att en agent kan testa parametrar utan begränsningar) och Validering mellan modeller (en andra, annorlunda tränad AI-modell bedömer förhandlingsresultatet med avseende på manipulation).

Lager 2: Formaliserings- och avsiktslagret (den juridiska säkerställningen)

Så snart agenterna i lager 1 når en överenskommelse om en lösning eller transaktion rensas resultatet från allt fritt språk och narrativ.

• Säkringen: Resultatet omvandlas till ett formellt, strukturerat kontrakt (via en Domänspecifikt språk eller ett fastställt JSON-schema). Här definieras skyldigheterna, begränsningarna och villkoren uttryckligen. Detta lager fungerar som den digitala ”notarien” som kontrollerar att förslaget uppfyller de förinställda affärsramarna.

Lager 3: Det deterministiska exekveringslagret (den orubbliga grunden)

Detta är nivån där den faktiska transaktionen eller systemändringen genomförs. Här kommunicerar inte längre AI-agenter, utan hårda, matematiska system via den övervakade logiken från våg 2.

• Säkringen:

  • Kryptografisk verifiering: Meddelanden mellan system skyddas via Ömsesidig TLS (mTLS), förses med unika noncer (för att förhindra replay-attacker) och signeras med kryptografiska nycklar.

  • Deterministiska gateways: API-gateways kontrollerar utan AI-inblandning om en begäran håller sig inom de fastställda gränserna (till exempel ett maximalt transaktionsbelopp).

Mänskliga experters nya roll

Detta skiktade tillvägagångssätt visar att de mänskliga specialisternas roll inte försvinner, utan förskjuts till systemets ramverk:

• Inköparen utformar strategierna, parametrarna och gränserna inom vilka agenten i lager 1 får förhandla.

• Juristen utformar mallarna, ontologierna och de formallogiska ramverken för lager 2.

• Säkerhetsarkitekten bygger den deterministiska, övervakade exekveringsmiljön i lager 3 och säkerställer FSM-logiken från våg 2.

Genom att strikt skilja ”tänke- och förhandlingsfasen” från ”genomförandefasen” behåller vi AI-agenternas flexibilitet, samtidigt som kontrollen över verksamheten oförändrat förblir i organisationens händer.

Behöver du hjälp med omställningen till AI-driven cybersäkerhet och automatisering? Ta kontakt redan idag kontakt med oss