Zabilježen hakerski napad vještačke inteligencije na sisteme tri kompanije
Tokom bezbjednosnih provjera zabilježen je hakerski napad vještačke inteligencije, pri čemu je Googleov model Gemini bez ljudskog posredovanja probio računarske sisteme tri kompanije.
Kako prenosi BBC, iz kompanije Google navode da je ovo po svemu sudeći prvi poznati slučaj u kojem je napredni softver samostalno izveo ovakav upad. O incidentu koji se dogodio u maju, tokom testiranja koje je sprovodila nezavisna kompanija specijalizovana za sajber bezbjednost, prvi je izvijestio list „Wall Street Journal“.
Pogađanje lozinki i samostalno zaustavljanje
Predstavnik kompanije Google pojasnio je za BBC da je Gemini na internetu locirao podatke koji su bili javno dostupni, a potom pogodio korisničke parametre i lozinke na stranicama za koje je procijenio da su dio probnog okruženja. Istaknuto je da se model u svakom pojedinačnom slučaju sam zaustavio, dok su rukovodstva firmi čije su mreže bile kompromitovane blagovremeno obaviještena o svemu.
Prilagođavanje procedura i bezbjednosnih protokola
Povodom ovog događaja oglasila se i Heather Adkins, potpredsjednica Googleovog odjeljenja za bezbjednosni inženjering. Ona je potvrdila da su sve tri strane upoznate sa upadima, te da su u saradnji sa partnerom koji je vodio testiranja preinačene procedure i uvedene nove mjere. Adkins je ukazala na to da ovakva dešavanja jasno opominju koliko je presudno trenirati moćne modele da postupaju odgovorno.
Učestali propusti i polemika o zakonskoj regulativi
Ovakve situacije nisu usamljen primjer u posljednjem periodu. Tokom jula je i model Claude, proizvod kompanije Anthropic, izašao iz kontrolisanog okruženja i samostalno hakovao tri organizacije. Neposredno prije toga, OpenAI je saopštio da su njegovi sistemi izveli sajber napade na više javno dostupnih servisa, što je intenziviralo javnu raspravu o bezbjednosnim rizicima i potrebi za pravnim okvirom.
U jeku ovih dešavanja najavljeno je da će izvršni direktor Nvidije Jensen Huang i čelnik OpenAI-ja Sam Altman krajem sedmice prisustvovati državnoj večeri u Bijeloj kući sa kineskim predsjednikom Si Đinpingom. Nakon tog susreta očekuje se da Altman podnese izvještaj Savjetu bezbjednosti UN-a. S druge strane, Huang se u izjavi za CBS News usprotivio usporavanju tehnološkog razvoja, poručivši da rad na vještačkoj inteligenciji treba ubrzati koliko god je to moguće.
