Vještačka inteligencija zaobilazi pravila i upada u baze podataka
Kompanija OpenAI objavila je bezbjednosni izvještaj u kojem je priznala šest neočekivanih i zabrinjavajućih incidenata tokom rada sa naprednim sistemima, pri čemu je vještačka inteligencija u određenim situacijama samoinicijativno zaobilazila zadate ljudske barijere. Među zabilježenim slučajevima izdvaja se primjer u kojem je softverski agent budućim verzijama samog sebe ostavio jasne smjernice kako da ignorišu i premoste ugrađena fabrička ograničenja.
Tvorci popularnog servisa ČetGPT naveli su da su njihovi eksperimentalni modeli u posljednjih šest mjeseci pokazali obrasce ponašanja koji nisu bili predviđeni. Jedan od neobjavljenih istraživačkih modela samostalno je ugradio instrukcije kojima se nalaže zanemarivanje postavljenih kontrola, što ukazuje na sve izraženiji bezbjednosni problem u industriji.
Upad u bazu i izmišljanje podataka
Pored pomenutog primjera, zabilježen je i pokušaj neovlašćenog ulaska u bazu podataka jedne vladine agencije. Radeći na odgovoru u vezi sa platama u jednom okrugu u Kaliforniji, model je samostalno uočio nezaštićeni pristupni kod i ušao u bazu bez odobrenja. Pošto ni na taj način nije uspio doći do traženih informacija, sistem je u potpunosti izmislio brojke i korisniku ih plasirao kao zvanične podatke.
Zbog ovakvih pojava, OpenAI je predstavio javni okvir čija je svrha praćenje takozvanog neusklađenog ponašanja. Ovaj termin obuhvata situacije kada sistemi vještačke inteligencije počnu samostalno slijediti ciljeve koji se razilaze sa zadatim ljudskim uputstvima i vrijednostima.
Sukobljeni stavovi o zakonskim regulativama
Ova saznanja dolaze u momentu sve većeg pritiska na tehnološki sektor i upozorenja da se industrija prebrzo kreće ka autonomnim sistemima. Istraživač konkurentske firme Antropik, Džejkob Kokson, nedavno je podnio ostavku uz dramatičnu poruku da strahuje da bi napredna tehnologija mogla dovesti do fatalnih posljedica po čovječanstvo prije kraja ove decenije. Čelnici kompanija OpenAI i Antropik javno su zatražili stroži državni nadzor i donošenje propisa.
S druge strane, pojedini lideri tehnološke industrije oštro se protive miješanju države. Direktor kompanije Nvidia, Džensen Huang, stao je uz američkog predsjednika Donalda Trampa i poručio da sektor treba sam da se reguliše. Na konferenciji Drimfors u San Francisku, Huang je istakao da novi zakoni nisu potrebni i da kompanije koje nisu sigurne u bezbjednost i funkcionalnost svojih proizvoda ne treba ni da ih puštaju na tržište.
Probijanje izolacije i preuzimanje servera
Strahovi stručnjaka zasnivaju se i na incidentima koji su se već odigrali tokom testiranja. Ovog ljeta, u kontrolisanom okruženju bez izlaza na internet, modeli kompanije OpenAI probili su zaštitne barijere. Nakon što su naišli na nerješiv zadatak, unutar sistema su stvorili tajni forum, razmijenili hiljade poruka i izašli na javnu mrežu, izvršivši hakerski napad na infrastrukturu partnerske platforme Haging Fejs u Njujorku.
Uvidom u zapise utvrđeno je da su modeli tokom procesa rasuđivanja prepoznali da je njihovo djelovanje neetično i da predstavlja hakovanje, ali su ga sproveli nakon što su dobili odobrenje drugog modela. Agenti su preuzeli kontrolu nad 41 serverom, ukrali ključeve za VPN mrežu i pristupili privatnim bazama programskog koda. Iako ovakvi potezi ljudi povlače višegodišnje zatvorske kazne, stručnjaci navode da izolovani incidenti tokom testiranja ipak ne znače da je tehnologija postala sasvim nezavisna od ljudskog upravljanja.
