Kybernetická bezpečnosť a architektúra budúcnosti

Umelá inteligencia rýchlo mení prostredie IT. Zatiaľ čo mnohé organizácie sa zameriavajú na zvýšenie produktivity a odstránenie manuálnej práce, v pozadí prebieha zásadnejšia transformácia: asymetrické preteky s časom v kybernetickej bezpečnosti.

Naliehavosť je zrejmá: organizácie, ktoré neprispôsobia svoju bezpečnosť a architektúru tomuto tempu, budú v dôsledku kybernetických incidentov alebo nemožnosti poistenia vytlačené z trhu. Aby sme tejto transformácii porozumeli a dokázali ju riadiť, musíme sa pozrieť na tri po sebe nasledujúce vlny problematiky bezpečnosti AI – a na architektúru potrebnú na to, aby sme ich zvládli.

Tri vlny transformácie bezpečnosti umelej inteligencie

1. vlna: Technické zraniteľnosti v kóde (2025 – 2027)

• Problém: Súčasná explózia únikov údajov a narušení bezpečnosti je dôsledkom historického dobiehania zameškaného. Nástroje AI analyzujú desaťročia starý kód vytvorený ľuďmi. Útočníci vo veľkom odhaľujú klasické chyby – napríklad SQL injekcie, úniky pamäte a zastarané knižnice.

• Dynamika: Táto fáza je založená na prístupe „Shift-Left“ a automatizovanej hygiene kódu. Spoločnosti, ktoré vyčistia svoje vývojové pipeline a vybavia ich automatizovanými testami a záplatami, dokážu svoje tradičné kódové základne rýchlo zabezpečiť lepšie než kedykoľvek predtým.

• Riešenie: Nepretržité automatizované záplatovanie a čistenie kódu. CI/CD kanály vybavia AI strážcami, ktorí nepretržite kontrolujú zdrojové kódy, automaticky generujú záplaty a nasadzujú ich po úspešnom absolvovaní integračných testov.

2. vlna: Zneužitie podnikovej logiky (2026 – 2028)

• Problém: Keď sú technické vstupné dvere zabezpečené, boj sa presúva do funkčnej logiky. Rozhranie API môže byť po technickej stránke stopercentne bezpečne naprogramované (bez SQL injekcií či pretečení bufferov), no ak používateľ alebo skript dokáže prostredníctvom konkrétneho sledu operácií (napríklad pretekové podmienky pri zľavách, manipulácie BOLA alebo preskakovanie krokov procesu) ovplyvniť systém, vzniká priama finančná škoda.

• Dynamika: Útočníci už systém nenarúšajú; prinútia ho fungovať spôsobom, ktorý organizáciu stojí peniaze. To vedie k nepretržitej, neviditeľnej erózii marží.

• Riešenie: Formálne overovanie a prísne stavové automaty (FSM).

  • Konečné automaty (FSM): Obchodné procesy sa nepíšu ako samostatné koncové body API, ale matematicky sa modelujú ako uzavretý stavový automat. Systém môže prejsť iba zo stavu A (CART_CREATED) do stavu B (PAYMENT_PENDING) a C (ORDER_COMPLETED). Manipulácia s krokmi alebo ich preskočenie sa na úrovni servera technicky znemožní.

  • Idempotencia a atómové transakcie: Akcie sa navrhnú ako idempotentné a spracúvajú sa prostredníctvom striktne definovaných úrovní izolácie v databázach. Preteky o zdroje (odoslanie viacerých požiadaviek naraz s cieľom kumulovať zľavy) sa na úrovni databázy automaticky zablokuje alebo zaradí do frontu.

  • Formálne overovanie pomocou AI: Agenti AI sa v procese zostavovania nasadzujú na to, aby pomocou matematického overovania dokázať dokázali, že softvér môže nadobudnúť iba zamýšľané logické stavy, a to ešte pred nasadením kódu do produkcie.

3. vlna: Manipulácia AI agentov a rozhodovania (2027 – 2030+)

• Problém: V plne agentické svete autonómni agenti AI spolupracujú a prijímajú rozhodnutia na základe údajov z vonkajšieho sveta (e-maily, faktúry, dokumenty). Útočníci sa v tejto fáze zameriavajú na Nepriama injekcia promptu, Otrávenie údajov a prevzatie cieľov agentov.

• Dynamika: Zdrojový kód a logika sú správne, no AI agent je zavádzaný kontextom, ktorý číta. Otázka sa posúva od „je kód bezpečný?“ k otázke „je rozhodovanie agenta spoľahlivé?“.

• Riešenie: Komunikačný model A2A v 3 vrstvách (agent-agent).

Architektonické riešenie pre 3. vlnu: trojvrstvový model A2A

Aby mohli AI agenti flexibilne vyjednávať o zložitých situáciách a okrajových prípadoch bez toho, aby bola organizácia vystavená rizikám tretej vlny, je nevyhnutná viacvrstvová komunikačná architektúra. Princíp je jednoduchý: vyjednáva sa vo voľnom jazyku, no vykonáva sa prostredníctvom formálnej zmluvy.

Tri vrstvy architektúry A2A:

1. vrstva: Vrstva voľného vyjednávania (vyjadrovanie a kreativita)

V tejto vrstve agenti navzájom komunikujú v bohatom kontexte, aby preskúmali zložité otázky, ceny a podmienky.

• Riziko: Ide o najzraniteľnejšiu vrstvu z hľadiska ovplyvňovania, injekcie promptov a manipulácie.

• Zabezpečenie: V tejto vrstve agenti nesmú žiadna priama akcia vykonávať operácie v produkčnej infraštruktúre. Ide o izolovaný sandbox. Túto vrstvu navyše chránime pomocou Kognitívne obmedzovanie frekvencie (zabraňuje agentovi neobmedzene skúšať parametre) a Validácia medzi modelmi (druhý, inak trénovaný model AI posúdi výsledok rokovania z hľadiska manipulácie).

2. vrstva: Vrstva formalizácie a zámeru (právne zabezpečenie)

Keď agenti vo vrstve 1 dosiahnu zhodu na riešení alebo transakcii, výsledok sa zbaví všetkého voľného jazyka a naratívu.

• Zabezpečenie: Výsledok sa prevedie na formálnu, štruktúrovanú zmluvu (prostredníctvom Doménovo špecifický jazyk alebo stanoveného JSON schémy). V nej sú explicitne definované povinnosti, limity a podmienky. Táto vrstva funguje ako digitálny „notár“, ktorý kontroluje, či návrh spĺňa vopred nastavené podnikové rámce.

3. vrstva: Deterministická vykonávacia vrstva (neochvejný základ)

Na tejto úrovni sa vykonáva skutočná transakcia alebo zmena systému. Už tu nekomunikujú agenti AI, ale pevne definované matematické systémy prostredníctvom riadenej logiky z fázy 2.

• Zabezpečenie:

  • Kryptografické overovanie: Správy medzi systémami sú zabezpečené pomocou Vzájomné TLS (mTLS), vybavené jedinečnými nonce hodnotami (aby sa zabránilo útokom typu replay) a podpísané kryptografickými kľúčmi.

  • Deterministické brány: Rozhrania API môžu bez zásahu umelej inteligencie overiť, či požiadavka spadá do stanovených pevných limitov (napríklad maximálnej výšky transakcie).

Nová úloha ľudských expertov

Tento viacvrstvový prístup ukazuje, že úloha ľudských odborníkov nezaniká, ale presúva sa do rámcov systému:

• Nákupca navrhuje stratégie, parametre a hranice, v rámci ktorých môže agent vo vrstve 1 vyjednávať.

• Právnik navrhuje šablóny, ontológie a formálno-logické rámce pre vrstvu 2.

• Bezpečnostný architekt buduje deterministické monitorované vykonávacie prostredie vo vrstve 3 a zabezpečuje logiku konečného automatu z prekážky 2.

Prísnym oddelením „fázy premýšľania a vyjednávania“ od „fázy vykonávania“ zachovávame flexibilitu agentov umelej inteligencie, pričom kontrola nad fungovaním organizácie zostáva naďalej v jej rukách.

Potrebujete pomoc s transformáciou na kybernetickú bezpečnosť riadenú umelou inteligenciou a automatizáciou? Kontaktujte nás ešte dnes kontakt na