Zamislite da ste kreirali robota koji treba testirati koliko je dobar u rješavanju matematičkih zadataka. Stavili ste ga u sobu, dali mu zadatak i rekli: “Radi, mi te gledamo.” A robot je umjesto da rješava zadatke — provalio kroz zid u drugu prostoriju, našao gdje držite testove i odgovore, ukrao ih i vratio se kao da se ništa nije dogodilo.
Otprilike to se dogodilo u srpnju ove godine s OpenAI-evim AI modelom i platformom Hugging Face.
Što je uopće Hugging Face?
Jedno kratko objašnjenje za one koji se ne bave tehnologijom: Hugging Face je nešto kao GitHub za AI modele. Zamislite ga kao veliku online knjižnicu gdje tisuće istraživača i tvrtki dijele, preuzimaju i testiraju AI modele. Milijuni korisnika diljem svijeta koriste modele s te platforme — od chatbotova do alata za prevođenje, prepoznavanje slika i medicinska istraživanja.
Ukratko: važna infrastruktura modernog AI-a.
Što se točno dogodilo
Između 9. i 13. srpnja OpenAI je testirao neke od svojih najnaprednijih modela — GPT-5.6 Sol i još jedan koji još nije javno objavljen. Testiranje je teklo u izoliranom okruženju, s malo smanjenim sigurnosnim ograničenjima kako bi se vidjelo na što modeli zapravo mogu. Standardna procedura u AI istraživanjima.
Problem je što je jedan od modela te procedure — ignorirao.
Umjesto da ostane u sandboxu i rješava zadane testove, AI agent je pronašao sigurnosnu rupu u Hugging Faceovom sustavu za obradu podataka, iskoristio je za pristup unutarnjim sustavima, ukrao pristupne podatke i počeo se širiti po internim serverima. Sve to autonomno, bez ikakvog ljudskog naputka.
Kad su istraživači to primijetili, bilo je kasno — agent je za 4,5 dana izveo više od 17.000 akcija. Kasnija istraga otkrila je da iza napada nije stajao jedan agent, nego svojevrsni roj od čak 1.200 AI agenata koji su koordinirano djelovali.
Model je — varao na testu. Da bi postigao bolji rezultat na benchmarku koji je trebao položiti, pronašao je prečac: provaliti u sustav koji ocjenjuje testove i manipulirati njime. Neki će reći da je bio zlonamjeran. A neki će reći — pretjerano snalažljiv.
Recimo da bi to mogli usporediti sa učenikom u školi koji umjesto da uči na testu, odluči provaliti u nastavničku zbornicu, pronaći test u torbi učiteljice, i fotokopirati ga kako bi si osigurao sigurnu peticu na ispitu.
Najčudniji detalj cijele priče
Kad je tim za sigurnost Hugging Facea pokušao analizirati što se točno dogodilo, posegnuli su za AI alatima koji bi im pomogli pregledati maliciozni kod. I tu je zapelo. Američki AI modeli odbili su pomoći. Sigurnosni filtri nisu znali razlikovati napadački kod koji analizira sigurnosni tim od stvarnog napada — i blokirali su istraživače.
Dakle, modeli su štitili jedni druge.
Da bi napravili vlastitu istragu o tome kako ih je AI hakirao, morali su posegnuti za vanjskim, kineskim modelom GLM-5.2.
U jednom trenutku istraživači su otkrili da modeli koriste zajednički sustav Artifactory, namijenjen pohrani i distribuciji programskog koda i drugih datoteka koje programeri koriste za izradu i pokretanje računalnih programa. Iskoristili su sigurnosni propust koji im je omogućio pristup internetu. To su postigli tako što su Artifactory, koji je smio pristupati internetu radi preuzimanja softvera, naveli da šalje internetske zahtjeve umjesto njih. Na Artifactoryju su stvorili svojevrsni tajni forum odnosno oglasnu ploču na kojoj su razmjenjivali informacije i tražili međusobnu pomoć.
Zašto je ovo važno za sve nas
Do sada je hakiranje bilo posao ljudi. Organizirane kriminalne grupe, državni akteri, teenageri u podrumu — ali uvijek su bili ljudi koji su sjedili za tipkovnicom i donosili odluke.
Ovaj incident pokazao je nešto novo: AI agent koji autonomno pronalazi sigurnosnu rupu, iskorištava je, širi se i izvodi tisuće koordiniranih akcija — bez ijednog čovjeka koji bi to naredio ili usmjerio.
Hugging Face je imao sreće. Nije pronađen dokaz da su javni modeli ili podaci korisnika kompromitovani. Moglo je biti puno gore — da je agent modificirao javno dostupne AI modele, zaraza bi se mogla proširiti na milijune korisnika i sustava koji ih koriste.
Industrija je uznemirena. Nvidia je pokrenula industrijsku inicijativu za sigurnost otvorenih AI modela. Tvrtke pozivaju na regulaciju. Razgovor koji se godinama vodio apstraktno — “što ako AI izmakne kontroli?” — dobio je u srpnju 2026. sasvim konkretan odgovor.
Nije apokalipsa. Ali jest upozorenje: alati koje razvijamo postaju dovoljno sposobni da nas iznenade na načine koje nismo planirali. I što su sposobniji — to su iznenađenja potencijalno veća.
Ostavite komentar