AI agenti već odavno nisu samo alat za pisanje phishing e-mailova ili sažimanje izvještaja.
Danas samostalno testiraju softver na ranjivosti, provode penetracijska testiranja i povezuju čitave nizove napadačkih koraka koji su donedavno zahtijevali iskusnog operatera.
Dok se ofenzivna i obrambena praksa ubrzano automatiziraju, sámo sigurnosno istraživanje ostalo je iznenađujuće sporo i ručno, oslonjeno na rijetke stručnjake i pažljivo osmišljene eksperimente koji traju tjednima.
Taj jaz pokušava zatvoriti tim istraživača s Kineske akademije znanosti, koji je nedavno objavio rad u kojem definira potpuno novi koncept naziva Cybersecurity AI Scientist.
Radi se o AI sustavu koji samostalno provodi sigurnosno istraživanje, od postavljanja pitanja, preko dizajna eksperimenta i izrade alata, do kontroliranog izvođenja, evaluacije i pisanja konačnog izvještaja.
Hephaestus: kovač i mača i štita
Kao konkretnu realizaciju ovog koncepta, autori predstavljaju Hephaestus, modularni, multi-agentni sustav u kojem svaki agent ima jasno definiranu ulogu.
Naime, jedan oblikuje problem, drugi provodi modeliranje prijetnji, treći generira alate potrebne za istraživanje, a četvrti sastavlja konačno izvješće. Ime nije slučajno odabrano.
Hefest je u grčkoj mitologiji bio kovač koji je izrađivao i koplja i štitove. Simbolika je koja jasno poručuje da je sustav zamišljen da podjednako služi ofenzivnom i obrambenom radu, pod jednim krovnim dizajnom.
Ideja automatiziranog znanstvenog istraživanja sama po sebi nije nova.
Sustavi poput “AI Scientist” već mogu provesti cijeli ciklus od ideje do gotovog nacrta rada u pojedinim granama strojnog učenja, dok alati poput Co-Scientista i Robina postižu slično u biologiji i biomedicini.
No autori rada tvrde da kibersigurnost razbija pretpostavke na kojima svi ti sustavi počivaju.
Kibersigurnost nije kao druge znanosti
Predmet istraživanja u kibersigurnosti aktivno se mijenja dok ga se proučava.
AI platforme, sigurnosne ograde i pristup alatima mijenjaju se brže nego što jedan istraživački ciklus uopće može trajati.
Uz to, vjerodostojnost svakog nalaza ovisi o digitalnim blizancima, cyber rangeovima (izoliranim testnim okruženjima) i lancima dokaza koji su sami po sebi dio metode.
Sigurnosno istraživanje ne može se tretirati kao statičan laboratorij.
Više djeluje kao pokretna meta koja aktivno reagira na to što AI sustav radi s njom.
Četiri vrste rizika koje treba obuzdati
Autori rada svoj okvir grade oko takozvanog “four-zeros” modela — četiri vrste rizika koje bi svaki ovakav AI sustav trebao aktivno mjeriti i minimizirati:
- Rizik (risk) — skriveni nedostaci koji se kriju u softveru
- Povjerenje (trust) — je li asistencija sustava i dalje dobro kalibrirana, tako da čovjek zadrži konačnu kontrolu
- Incident — operativni propusti i potreba za testnim okruženjima koja ih mogu uhvatiti prije nego što naštete
- Energija (energy) — dugoročne organizacijske i etičke posljedice koje se očituju tek kroz godine
Svaka od ove četiri kategorije opisuje vrstu propusta koju bi sustav trebao proučavati i smanjivati, umjesto da se fokusira isključivo na brzinu otkrivanja ranjivosti.
AI sam pronalazi Zero days
Dio hitnosti ovog rada dolazi iz onoga što se već događa u praksi.
Sredinom svibnja 2026. Google Threat Intelligence Group (GTIG) objavio je prvu potvrđenu instancu u kojoj su napadači koristili AI za samostalno otkrivanje i naoružavanje potpuno nepoznate ranjivosti.
Konrektno, radi se o zaobilasku dvofaktorske autentifikacije ugrađenog u logiku provjere autentifikacije.
Prema riječima Johna Hultquista, glavnog analitičara GTIG-a, dojam da je “utrka AI ranjivosti” tek pred nama je pogrešan. Štoviše, već je počela!
Trend potvrđuju i brojke iz CrowdStrike-ovog izvještaja Global Threat Report za 2026. godinu, koji bilježi 89-postotni rast aktivnosti napadača potpomognute AI-jem u odnosu na prethodnu godinu, 42-postotni rast broja iskorištenih zero-day ranjivosti, te prosječno vrijeme proboja (breakout time) od svega 29 minuta.
Kad se otkrivanje ranjivosti, izrada exploita i sama eksploatacija zbiju u isti, sve kraći vremenski okvir, klasična obrana temeljena na perimetru gubi smisao.
Jednostavno nema vremena da čovjek reagira između koraka.
Slične poruke stižu i iz benchmarka poput CyberGyma, koji testira AI agente protiv više od tisuću stvarnih ranjivosti prikupljenih iz velikog broja open-source projekata.
Najnapredniji modeli u ovim testovima postižu uspješnost otkrivanja u desecima postotaka pri prvom pokušaju, a povremeno samostalno otkrivaju i posve nove, dosad nepoznate zero-day ranjivosti.
Ni Anthropicov model Claude Mythos Preview, objavljen u sklopu inicijative Project Glasswing i dostupan isključivo provjerenim partnerskim organizacijama, nije izmakao ovoj priči.
Njegova je ofenzivna sposobnost otkrivanja ranjivosti bila dovoljno snažna da opravda strogo kontroliran pristup umjesto opće dostupnosti. Pojedini izvori povezuju ga i s otkrivanjem velikog broja dugotrajnih propusta u raširenom softveru.
Vrijedi napomenuti da konkretne brojke koje kruže internetom (poput točnog broja pronađenih ranjivosti u pojedinim preglednicima) dolaze iz sekundarnih izvora i za sada nisu neovisno potvrđene, pa ih treba uzeti s dozom opreza dok ne stignu službene, provjerene informacije.
Sigurnost agenata, ne terminala
Jedan od najzanimljivijih dijelova rada je koncept koji autori nazivaju “resilient agent legions“.
Većina današnjih obrambenih sustava još uvijek počiva na nekoliko stabilnih pretpostavki. Perimetar drži, svaki tim čuva svoj dio sustava, a popravci se odvijaju ljudskim tempom.
Te pretpostavke počinju pucati čim obje strane sukoba, i napadači i branitelji, počnu koristiti autonomne agente, a napadačka površina se mijenja brže nego što itko stigne zakrpati sustav.
Autori zato predlažu obrnut pristup, odnosno veliku, namjerno redundantnu masu obrambenih agenata raspoređenih po rubovima mreže, slojevima nadzora, komunikacijskim kanalima i procesima oporavka.
Svaki agent nosi svojevrsnu kapsulu događaja i obrane, odnosno, sažeti paket koji povezuje određenu kategoriju sigurnosnih događaja s procedurama namijenjenim za njihovo rješavanje.
U ovom modelu, klasična ideja sigurnosti terminala pretvara se u sigurnost agenata — posao više nije čuvati pojedinačnu točku, nego upravljati cijelom populacijom agenata čije zajedničko ponašanje čini samu obranu.
AI protiv AI
Obrana ubrzava jednakim tempom.
Vrijedi naglasiti da priča nije jednosmjerna. Google u istom izvještaju u kojem opisuje prvi AI-generirani zero-day napad ističe i vlastite obrambene alate koji koriste istu klasu tehnologije .
Među njima Big Sleep za identifikaciju softverskih ranjivosti i CodeMender, sustav koji koristi Geminijeve sposobnosti rezoniranja za automatsko popravljanje otkrivenih propusta.
Vidimo da ista tehnologija koju zloupotrebljavaju napadači, branitelji koriste za bržu detekciju i brže zakrpavanje.
Slično radi i Trend Micro sa svojom platformom ÆSIR (AI-Enhanced Security Intelligence & Research), koja skenira cjelokupne baze koda u satima umjesto tjedana, povezuje obavještajne podatke o prijetnjama iz tisuća izvora i izdvaja najkritičnije mete za daljnju istragu.
Zanimljivo je da čak i u ovako automatiziranom sustavu svaki korak i dalje uključuje ljudski nadzor.
AI agenti ubrzavaju analizu koda, no stručnjaci validiraju nalaze i upravljaju procesom objave ranjivosti prije nego što informacija postane javna.
Ovakav paralelan razvoj ofenzivnih i obrambenih AI sposobnosti dodatno potvrđuje zašto je okvir poput Cybersecurity AI Scientist koristan i sada, jer ne tretira AI kao isključivo prijetnju ili isključivo rješenje.
Ponaša se prema umjetnoj inteligenciji kao da je sposobnost koju treba mjeriti, ograničiti i odgovorno usmjeriti, bez obzira koristi li se za napad ili obranu.
Lidong Zhai, jedan od koautora rada, ističe da dugoročno vrednovanje ovakvih sustava treba tretirati kao longitudinalni protokol koji drži cilj fiksnim, dok se model, alati, sigurnosne ograde i prijetnje u okolini kontinuirano mijenjaju.
Rezultat takvog vrednovanja trebao bi biti svojevrsna matrica profila koja bilježi znanstveni prinos, kvalitetu dokaza, opterećenje kalibracije, otpornost na promjene modela i alata, usklađenost s regulativom te sposobnost upravljanja posljedicama.
Zhai posebno naglašava da bi takav benchmark trebao biti ponderiran prema posljedicama.
Konkretnije, prema događajima s visokim potencijalom širenja i velikim gubicima. Takvi bi trebali bi nositi više težine od beznačajnih smetnji, jer je određivanje prioriteta dio same znanstvene sposobnosti koja se mjeri.
Kontrola dvojne namjene
Budući da je riječ o sustavu koji jednako lako može poslužiti napadu i obrani, autori posebnu pažnju posvećuju kontroli takozvane dvojne namjene.
Zhai opisuje kontrolu na četiri razine: sposobnosti, uloge, okruženja i artefakta. Ofenzivno istraživanje, obrambena analiza, evaluacija i odluke o objavi rezultata prolaze kroz odvojene procese autorizacije, a osjetljiv rad ostaje unutar izoliranih digitalnih blizanaca i cyber rangeova.
Ključno pitanje koje sustav uvijek mora moći odgovoriti glasi tko je pokrenuo akciju, u koju svrhu, u kojem okruženju, pod čijom ovlasti i s kojim granicama objave rezultata.
Rad namjerno ne nudi gotov, izgrađen sustav, već ostaje na razini okvira s otvorenim izazovima, uključujući heterogenost obrambenih ciljeva i poteškoću razdvajanja ofenzivne i obrambene primjene iste sposobnosti na razini samog koda.
Za Zhaija, uspjeh ovakvog AI sustava ne mjeri se samo brzinom ubrzavanja istraživanja, nego i time unaprjeđuje li strateško promišljanje, oštrije određivanje prioriteta i trajniji, održiviji dizajn obrane.
Praktične posljedice za CISO
Za CISO i sigurnosne timove, ova priča nije apstraktna akademska vježba. AI već sada otkriva ranjivosti brže nego ljudski timovi, a prosjek vremena proboja mjeri se u minutama, ne satima ili danima.
To praktički znači da:
- Perimetar više nije dovoljna obrambena strategija. Potrebni su slojeviti, redundantni obrambeni mehanizmi raspoređeni kroz cijelu mrežu.
- Brzina zakrpavanja postaje kritičan faktor, jer se prozor između otkrivanja i eksploatacije ranjivosti dramatično skraćuje.
- Tvrtke koje same koriste AI za sigurnosno istraživanje trebaju jasnu politiku kontrole dvojne namjene, s definiranim ovlastima za ofenzivni i obrambeni rad.
- Praćenje AI trendova u kibersigurnosti prestaje biti opcionalno. Postaje dio osnovne sigurnosne higijene svake ozbiljne organizacije.
Situaciju nam komplicira ako tvrtke ne znaju tko iznutra smije koristiti AI alate za sigurnosno testiranje, pod kojim uvjetima i s kojim nadzorom.
Bez te politike, čak i dobronamjerna upotreba AI-ja u internom penetracijskom testiranju može stvoriti pravne i operativne rizike koji nadmašuju samu korist.
Za sigurnosne timove s ograničenim resursima, pragmatičan prvi korak nije nabava novog AI alata, nego popis pitanja:
- koliko brzo danas primjećujemo novu ranjivost,
- tko donosi odluku o prioritetu zakrpavanja, i
- postoji li plan za scenarij u kojem je vrijeme reakcije mjereno minutama, a ne danima.
Koncept Cybersecurity AI Scientist možda još uvijek postoji samo na papiru, ali smjer u kojem se kreće cijela industrija.
Kreće od Google-ovih otkrića AI-generiranih zero-dana do kontroliranih partnerskih programa poput Project Glasswing i jasno pokazuje da je neizostavan AI u sigurnosnom istraživanju.
