Avtoriteta za načrtovanje umetne inteligence
Smo na prelomni točki v razvoju programske opreme. Razprava se pogosto vrti okoli tega, katera ali umetna inteligenca piše najboljšo kodo (Claude vs. ChatGPT) ali kje kje naj umetna inteligenca prebiva (IDE ali CLI). Vendar to ni pravilno zastavljeno vprašanje.
Če umetno inteligenco sprejmemo kot »Vibe Coders« – kjer podamo namero, umetna inteligenca pa izvede nalogo – ustvarjamo neizmeren tok nove programske opreme. Rojen preddverij agentov umetne inteligence lahko v eni minuti ustvari več kode, kot jo lahko izkušeni razvijalec pregleda v enem tednu. Človek je postal ozko grlo.
Rešitev ni več več ljudi. Rešitev je avtoriteta za načrtovanje umetne inteligence.
Od obrtnika do direktorja tovarne
Tradicionalno je »avtoriteta za načrtovanje« skupina arhitektov, ki se sestane enkrat tedensko ali mesečno, da odobri ali zavrne načrt. V svetu razvoja umetne inteligence visoke hitrosti je ta model upokojensko zastarel. Je prepočasen in preveč reaktiven.
Če preidemo na »kodo za enkratno uporabo« – programsko opremo, ki je ne preurejamo v neskončnost, temveč jo zavržemo in ponovno ustvarimo, ko se zahteve spremenijo –, se naša vloga korenito spremeni. Nismo več zidarji, ki polagajo kamen za kamnom. Smo arhitekti tovarne, ki tiska stene.
Toda kdo preverja, ali so te stene ravne?
"Gauntlet": Avtomatiziran preizkus z ognjem
Avtoriteta za načrtovanje umetne inteligence (AI Design Authority) ni oseba, temveč cevovod. "Preizkušnja" (Gauntlet), skozi katero se mora vsaka vrstica generirane kode prebiti, da pride v produkcijo. Ta proces ne nadomešča človeškega pregleda kode z nič, temveč z nečim boljšim.
Deluje v treh plasteh:
1. Izvršilna veja oblasti (Generacija)
Ne prosimo ene umetne inteligence za rešitev, ampak tri. Omogočimo, da Gemini 3, GPT-5 in odprtokodni model (kot je Llama) delujejo vzporedno na istem problemu. To preprečuje tunelski vid in presega "lenobo", ki včasih prizadene velikanske jezikovne modele (LLM). Ta pristop je tudi znanstveno raziskan in dokazuje, da lahko preprečite halucinacije umetne inteligence ter gradite zelo dolge verige brez napak
2. Strogi filter (Zakon)
Tukaj ni možna nobena razprava. Koda se mora prevajati. Lintalniki se ne smejo pritoževati. In kar je ključno: Testi črne škatle morajo uspeti. Ne testiramo, ali funkcija deluje navznoter (to lahko umetna inteligenca manipulira), temveč testiramo, ali sistem navzven dela tisto, kar mora delati. Test ni uspel? Takoj v koš za smeti.
3. Mehki filter (žirija AI)
To je prava inovacija. Preostale rešitve so predstavljene specializirani "glasovalni umetni inteligenci" (Voting AI). Ta agent ne piše kode, ampak bere kodo. Usposobljen je za naše arhitekturne načela, varnostne zahteve (OWASP, ISO) in skladnostna pravila (zakon EU o umetni inteligenci).
Glasuje: "Rešitev A je hitrejša, vendar je Rešitev B varnejša in se bolje drži naše arhitekture mikrostoritev."
Zmagovalec gre v produkcijo.
Trias politica programske opreme
Ta model vsiljuje delitev oblasti, ki v mnogih ekipah manjka.
- Zakonodajna oblast (Arhitekt): Arhitekt piše »ustavo«. Pozive, arhitekturne dokumente (
project-description.md, rules.md, skills.md en principles.md), stroge zahteve. Arhitekt določa kaj gradimo, kdo to gradi, kako in zakaj. - Izvršilna oblast (Agenti za kodiranje): Izvajajo. Hitro, poceni in pod okriljem človeških razvijalcev.
- Sodna oblast (Oblikovalska avtoriteta): Neodvisna plast umetne inteligence, ki preverja skladnost z zakonodajo.
Zaključek: nova vloga arhitekta
Osvobaja nas tiranije sintaksnih napak in nam omogoča, da se osredotočimo na tisto, v čemer smo dobri: sistemsko razmišljanje, iskanje resnice, strukturo in sprejemanje odločitev.
Vprašanje ni, ali lahko umetna inteligenca piše našo kodo. O tem je že odločeno. Koda v veliki meri postaja izdelek za enkratno uporabo.
Vprašanje je: si upate opustiti nadzor nad kodo , da bi s tem ponovno pridobili nadzor nad kakovostjo ?
sporočite mi
