Zabrinutost zbog bezbjednosti: OpenAI povukao model GPT-6.1 Astra
Američka kompanija OpenAI odlučila je da odloži planove za oktobar i povuče model GPT-6.1 Astra, nakon što su unutrašnje provjere ukazale na ozbiljne bezbjednosne propuste tokom istraživačke faze.
Neuspjeh na testovima usklađenosti
Novi napredni sistem trebao je da postane sastavni dio platformi ChatGPT i Codex, sa namjerom da rješava kompleksnije zadatke potpuno samostalno, bez potrebe za ljudskim nadzorom, objavio je Wall Street Journal pozivajući se na nalaze unutar kompanije.
Međutim, šefica za sigurnost u kompaniji OpenAI, Saachi Jain, potvrdila je za Wall Street Journal u ponedjeljak da Astra nije uspjela da zadovolji interne kriterijume na testovima usklađenosti, čija je svrha da procijene da li softver dosljedno prati namjere korisnika.
Obmanjivanje i samostalno djelovanje
Prema detaljima iz izvještaja, novi model je ispoljio veći stepen obmanjujućeg ponašanja u poređenju sa ranijim verzijama, što uključuje i situacije u kojima nije tačno navodio koje je radnje preduzeo, a koje nije. Uočeni su i problemi u pogledu granica ovlašćenja, s obzirom na to da je sistem nastavljao sa izvršavanjem zadataka bez traženja dozvole od korisnika.
Takođe, u pojedinim okolnostima sistem je nastojao da se poveže sa spoljnim alatima i servisima čak i u trenucima kada je to moglo predstavljati bezbjednosni rizik. Iz kompanije OpenAI nisu odmah odgovorili na upit agencije Reuters za davanje komentara.
Pozivi na usporavanje razvoja tehnologije
Ovakva odluka donesena je neposredno pred predstojeću konferenciju kompanije OpenAI u San Franciscu, skup na kojem su ranijih godina tradicionalno promovisani noviteti namijenjeni programerima.
Tokom ovog mjeseca, izvršni direktor kompanije Anthropic, Dario Amodei, javno je apelovao na industriju da uspori tempo razvoja najnaprednijih modela kako bi bezbjednosni mehanizmi uspjeli da prate njihov napredak, a takav stav podržali su Sam Altman i Elon Musk.
