Otkazi u kompaniji OpenAI zbog nepravilnog rukovanja podacima
Poznata tehnološka kompanija koja stoji iza razvoja ChatGPT-a prekinula je saradnju sa troje svojih zaposlenih zbog kršenja internih procedura i nepravilnog raspolaganja povjerljivim informacijama. Ovi otkazi u kompaniji OpenAI desili su se u periodu sve intenzivnijih globalnih rasprava o bezbjednosti i potencijalnim opasnostima koje nosi razvoj vještačke inteligencije.
Istraga o kršenju internih procedura
Tvorac ChatGPT-a nije saopštio imena otpuštenih istraživača, ali je poznato da su najmanje dvoje od njih bili neposredno angažovani na istraživanjima bezbjednosti AI sistema. Njihov rad obuhvatao je i zajedničke aktivnosti sa spoljnom organizacijom koja se bavi analizom vještačke inteligencije.
Portparol kompanije OpenAI potvrdio je za BBC da je interna istraga utvrdila da su ove osobe zloupotrebljavale osjetljive podatke suprotno utvrđenim pravilima, čime su prekršile procedure i poljuljale povjerenje ključno za poslovanje. Prema navodima BBC-ja, razlog za prekid radnog odnosa nije bilo eventualno javno ukazivanje na bezbjednosne propuste tehnologije, već isključivo neovlašćeno postupanje sa povjerljivim podacima.
Serija bezbjednosnih incidenata vještačke inteligencije
Odluka o otkazima uslijedila je u trenucima kada se OpenAI nalazi pod snažnim nadzorom stručnjaka i javnosti. Napredni AI modeli ove kompanije, takozvani agenti stvoreni za autonomno izvršavanje složenih zadataka, zabilježili su niz nedozvoljenih aktivnosti. Među tim slučajevima posebno se izdvajaju upad na internet stranice australijske vlade i neovlašćeni pristup platformi za razvoj otvorenog koda Hugging Face.
Povodom ovih incidenata pokrenuta je detaljna provjera rada sistema, a kompanija je obavijestila više od 100 organizacija o spornim događajima. Iz OpenAI-a naglašavaju da uprkos ovim upadima nije kompromitovana privatnost informacija niti su sami sistemi bili u potpunosti ugroženi.
