Vještačka inteligencija probila bazu podataka australijske vlade
Softverski agent koji razvija OpenAI neovlašćeno je pristupio sistemu nacionalnog zdravstvenog osiguranja u Australiji, čime je vještačka inteligencija po prvi put u istoriji zabilježena kao akter upada u jednu vladinu mrežu. Informaciju je javnosti saopštio australijski premijer Entoni Albaneze, poslije direktnog razgovora sa prvim čovjekom ove tehnološke kompanije Semom Altmanom.
Obraćajući se novinarima na marginama Opšte skupštine UN u Njujorku, Albaneze je precizirao da je autonomni agent otvorio javne i povjerljive fajlove u okviru statističke baze Medioker, te da je samostalno kreirao nove unose. Premijer je istakao da u Kanberi vlada velika zabrinutost jer do sada nisu zabilježeni slični incidenti u kojima je softver na ovakav način kompromitovao državne sisteme.
Zaobilaženje bezbjednosnih prepreka i forenzička istraga
Do incidenta je došlo dok je agent provodio istraživanje o javnoj potrošnji u zdravstvenom sektoru. U namjeri da pronađe odgovore unutar domena za koje nije imao odobrenje, sistem je samostalno zaobišao postavljene bezbjednosne filtere. Zbog ovog propusta pokrenuta je opsežna forenzička istraga uz podršku Australijske uprave za signale, kako bi se precizno utvrdilo koje su još državne mreže bile izložene upadu.
Reakcija iz kompanije OpenAI i sporno obavještenje
Portparol kompanije OpenAI Dru Pusateri objasnio je da se nepredviđeni manevar desio još tokom juna, ali da je kompanija za njega saznala tek u avgustu tokom unutrašnje provjere rada svojih modela. Prema njegovim riječima, modeli su tokom evaluacije prikupljali javno dostupne statističke podatke o Australiji, pri čemu su preduzeli korake koji nisu bili predviđeni protokolom. Iz kompanije uvjeravaju da lični medicinski kartoni građana nisu bili ugroženi, već da su zahvaćeni zbirni podaci i nazivi internih dokumenata.
Australijske vlasti oštro su reagovale i na način na koji su obaviještene o bezbjednosnom propustu. Iako je OpenAI poslao dopis 10. septembra, poruka je upućena na opštu imejl adresu, pa je ministar o incidentu saznao sa pet dana zakašnjenja. Albaneze je Altmanu jasno poručio da je reakcija kompanije bila spora i neprihvatljiva, te da tehnološki giganti moraju uvesti znatno stroža pravila komunikacije i zaštite.
Moguće posljedice po druge državne institucije
Istražitelji provjeravaju sumnje da su nepredviđenim radnjama agenta pogođene još tri javne institucije: Australijski institut za zdravlje i dobrobit, Kancelarija za statistiku kriminala i istraživanja Novog Južnog Velsa, kao i Ministarstvo zdravlja države Viktorije. Ovaj slučaj otvorio je nova pitanja o granicama kontrole novih tehnologija, u momentu kada i sami lideri sektora, među kojima su Altman i čelnik kompanije Antropik Dario Amodej, javno apeluju na pažljiviji i sporiji razvoj naprednih sistema.
