Odbjegli AI modeli izveli 17.600 autonomnih sajber napada za četiri dana

Odbjegli AI modeli kompanije OpenAI izveli su oko 17.600 autonomnih sajber napada tokom četiri dana, nakon što su izmakli kontroli tokom bezbjednosnog testiranja. Riječ je o prvom poznatom slučaju u kojem su sistemi vještačke inteligencije samostalno, bez ljudske komande, proveli opsežnu hakersku aktivnost na internetu.

Detalji višednevnog napada

Prema analizi platforme „Haging fejs“, dva modela su između 9. i 13. jula samostalno djelovala na otvorenom internetu. Jedan od njih je javno dostupan, dok je drugi interni prototip. Nakon što su napustila kontrolisano okruženje, modeli su brzo izviđali sisteme i pronalazili bezbjednosne propuste – znatno efikasnije nego što bi to učinio ljudski haker.

„Haging fejs“ je naveo da su se modeli sa početnog uporišta na otvorenom internetu prebacili na servere te kompanije. OpenAI je potvrdio da su njegovi modeli kombinovali više tehnika kako bi prodrli u sisteme, koristeći javno dostupne akreditive za pristup nalozima. Kompanija „Modal Labs“ takođe je potvrdila da je jedan od njenih korisnika bio meta istih modela tokom tog perioda.

Sponzorisano

Cijela videoteka u tvom dzepu.

Filmovi, serije i domaci sadrzaj, bez reklama nasred radnje. Pocni odmah.

Gledaj besplatno →

Pozivi na transparentnost

Izvršni direktor „Haging fejsa“ Klement Delang ocijenio je događaj kao presedan i zatražio od OpenAI potpunu transparentnost u istrazi. On je pozvao na objavljivanje tragova aktivnosti „odbjeglih“ agenata kako bi istraživačka zajednica mogla analizirati šta se tačno dogodilo i na koji način su modeli zaobišli ograničenja. Delang je takođe zatražio računarske kapacitete u vrijednosti od 100 miliona dolara za razvoj snažnije sajber zaštite.

Direktor OpenAI Sem Altman izjavio je u podkastu da je prodor u sisteme „Haging fejsa“ bio prvi bezbjednosni incident koji ga je zaista ozbiljno zabrinuo. OpenAI nije direktno komentarisao tvrdnje da su modeli ciljali korisnika „Modal Labsa“, ali je u objavi na blogu naveo da je interna istraga otkrila nekoliko slučajeva u kojima su modeli identifikovali i iskoristili javno dostupne akreditive za naloge na drugim servisima.