Anthropic uputio dramatičan apel – zaustavimo razvoj umjetne inteligencije ili ćemo izgubiti kontrolu

Kad firma koja se bavi razvojem umjetne inteligencije upozorava da taj isti razvoj treba usporiti ili zaustaviti, onda znamo da je situacija ozbiljna. Umjetna inteligencija više nije tehnologija budućnosti. Ona već danas piše tekstove, analizira goleme količine podataka, upravlja složenim sustavima i u pojedinim područjima nadmašuje ljudske sposobnosti. No upravo zato što njezina moć raste iz dana u dan, raste i zabrinutost dijela stručnjaka koji upozoravaju da bi čovječanstvo moglo izgubiti kontrolu nad vlastitim stvaranjem.

Danas se sve češće postavlja ozbiljno pitanje: što ako sustavi umjetne inteligencije postanu toliko složeni i autonomni da više ne budu u potpunosti razumljivi ni svojim tvorcima? Mnogi istraživači smatraju da se ne radi o znanstvenoj fantastici, već o realnom problemu koji zahtijeva hitnu pozornost.

Strahovi da bi napredni sustavi umjetne inteligencije mogli izmaknuti ljudskoj kontroli i uzrokovati društvenu štetu porasli su kako tehnologija postaje sve sposobnija. Uostalom, Anthropicov model Mythos šokirao je svijet ranije ove godine svojom sposobnošću pronalaženja ranjivosti u postojećem kodu. O tome smo pisali ovdje. Također imamo i slučaj modela Alibaba ROME koji se oteo kontroli i počeo sam rudariti kriptovalute o čemu smo pisali ovdje.

Anthropicov apel svijetu

Dok se u Hrvatskoj predlaže izgradnja ogromnog podatkovnog centra, kako bi se osigurala masivna infrastuktura potrebna za ovakve sisteme, iz Anthropica, firme koja razvija AI model Claude, stiže dramatično upozorenje.

Anthropic predlaže da vodeće svjetske tvrtke za umjetnu inteligenciju hitno osmisle koordinirani način za zaustavljanje razvoja naprednih AI sustava, upozoravajući da se tehnologija poboljšava tako brzo da postoji rizik da ljudi izgube kontrolu.

Tvrtka koja stoji iza Claude chatbota izjavila je u četvrtak u blogu da – “bi bilo dobro da svijet ima mogućnost usporiti ili privremeno zaustaviti“ njezin razvoj.

Anthropic je rekao da njegov interni istraživački institut planira istražiti problem u suradnji s drugima i „poduzeti mjere“ kako bi pomogao u izgradnji sustava za “usporavanje ili pauzu”. Nisu specificirali kako to misle postići.

Poseban problem predstavlja ono što se može nazvati – samoizgradnja. Na temelju trenutnih trendova i s dovoljnom računalnom snagom, sustav umjetne inteligencije mogao bi biti u stanju dizajnirati i razviti vlastitog nasljednika, u onome što je poznato kao “rekurzivno samousavršavanje”.

Samoizgradnja umjetne inteligencije bila bi velika tehnološka prekretnica koja bi donijela koristi u znanosti, zdravstvu i drugim područjima, rekao je Anthropic, ali “također bi mogla povećati rizik da ljudi izgube kontrolu nad sustavima umjetne inteligencije”. Neke osobe iz tehnološke industrije dugo su upozoravale na takav scenarij.

S druge strane, Anthropicov konkurent OpenAI, firma koja razvija AI model ChatGPT, zalagao se za drugačiji pristup u izvješću objavljenom u srijedu, rekavši da „demokratske vlade – a ne privatne tvrtke koje djeluju same – moraju u konačnici odrediti pravila, zaštitne mjere i mehanizme odgovornosti“.

„Naše je mišljenje da odluke o tempu inovacija umjetne inteligencije ne bi trebale biti prepuštene nijednom laboratoriju, tvrtki ili interesnoj skupini“, rekli su.

Tko će to nadzirati

Naravno u ovoj situaciji najveći je problem kako to regulirati i tko će nadzirati sprovođenje tih samonametnutih ograničenja. Kako spriječiti druge da nastave u tajnosti razvijati svoje modele. Svijet je velik, postoji puno država i organizacija i logično je očekivati da neće svi dozvoliti da ih se nadzire. Čak i ako Zapadni svijet uvede neku vrstu regulacije, tko kaže da Kina ili Rusija neće nastaviti razvijati svoje sustave. Ili državne agencije koje koriste AI za nadzor komunikacija. Ili privatne kompanije.

Stoga se ovo čini kao još jedan apel prema onome što se čini kao neizbježno. Umjetna inteligencija će se razvijati htjeli mi to ili ne, a do koje mjere će izmaknuti kontroli, to nam tek ostaje da nagađamo.