Ublažavanje tempa razvoja vještačke inteligencije nužno radi bezbjednosti
Prvi čovjek kompanije „Antropik“ Dario Amodei uputio je apel tehnološkim firmama da uspore korake kada je riječ o unapređenju mogućnosti naprednih sistema, ističući da je ublažavanje tempa razvoja vještačke inteligencije neophodno usljed sve većeg straha od potencijalnih zloupotreba.
Plan u tri koraka za kontrolu rizika
Kako bi se obezbijedilo dovoljno vremena za upravljanje opasnostima koje donosi nova tehnologija, Amodei je predložio okvir sastavljen od tri koraka. On je u svojoj poruci na društvenoj mreži „Iks“ naglasio potrebu da se smanji brzina kojom se podižu kapaciteti VI, uz napomenu da će napredak i dalje djelovati ubrzano, zbog čega raspoloživi period valja iskoristiti na pametan način.
Izvršni direktor je pojasnio da njegov prijedlog ne znači prekid tehničkog razvoja niti obustavu treniranja modela. Cilj je, kako navodi, da se kompanijama omogući da posvete dovoljno pažnje bezbjednosnim mehanizmima i usklađivanju sistema, pri čemu bi sve preduzete mjere morale dobiti potvrdu nezavisnih stručnjaka. U tom pravcu, „Antropik“ planira angažovanje stalnih nezavisnih recenzenata koji će imati uvid u alate i unutrašnje postupke za procjenu bezbjednosnih rizika.
Zabilježene zloupotrebe i bezbjednosne prijetnje
Kompanija „Antropik“ je u četvrtak predstavila zvaničan izvještaj u kojem je predočeno da je više pojedinaca već koristilo njene VI modele „klod“ u nedozvoljene svrhe. Zabilježeni slučajevi obuhvataju raspon od razvoja naoružanja i izvođenja kibernetičkih operacija, pa sve do praćenja i različitih oblika prevara.
Uzbuna i ostavka zbog opasnosti za čovječanstvo
Zabrinutost u javnosti dodatno je kulminirala ove sedmice nakon što je istraživač u kompaniji „Antropik“ DŽejkob Kokson napustio svoju funkciju. On je prilikom podnošenja ostavke upozorio na stavove unutar stručne zajednice, tvrdeći da pojedini inženjeri koji rade na razvoju VI iskreno strahuju da bi ova tehnologija mogla dovesti do uništenja cjelokupnog čovječanstva prije isteka tekuće decenije.
