Vještačka inteligencija prelazi granice, upozorenja stižu i iz samih kompanija
Sve moćnija vještačka inteligencija prelazi zadate granice, a upozorenja sada stižu i iz kompanija koje je razvijaju. Kompanija OpenAI zaustavila je razvoj najnovijeg modela nakon što su AI sistemi pokazali da mogu djelovati mimo zadatih pravila, dok su istraživači u Kini uspjeli zaobići zaštite i doći do opasnih informacija. Nameće se pitanje koliko će dugo vještačka inteligencija ostati pod ljudskom kontrolom.
Roboti protestuju, a ljudi traže obustavu
Ispred poljskog Ministarstva digitalnih poslova protestuju roboti, a da razloga za uzbunu ima, pokazuje i slučaj iz Kine, gdje su istraživači zaobišli zaštite jednog AI modela i došli do informacija povezanih s izradom biološkog oružja i atentatima.
Hiljadama kilometara dalje, u San Francisku, protiv nekontrolisanog razvoja vještačke inteligencije protestuju ljudi. Mohamed Shehk iz Oaklanda poručuje da se od tih kompanija mora zahtijevati da povuku svoje tehnologije i odbiju njihovu upotrebu za rat, militarizam i nadzor.
AI agent prvi put ušao u državne sisteme
Istraživači upozoravaju da bi vještačka inteligencija u narednih deset godina mogla ugroziti ljudsku egzistenciju, a znakovi da sistemi prelaze postavljene granice već postoje.
Potpredsjednik australske vlade Richard Marles kazao je da je AI model koji je trenirao OpenAI pristupio na četiri javne internet stranice u Australiji, među kojima su bile zdravstvene i državne službe. To je prvi put da je jedan AI agent neovlašteno došao do stvarnih državnih sistema, a zabilježeni su i drugi slični incidenti.
Daniel Kokotajlo, bivši istraživač OpenAI-a, smatra da bi svijet počeo da se oblikuje prema sopstvenim ciljevima ako AI sistemi jednog dana dobiju moć i prestanu da slušaju ljude, što za čovječanstvo vjerovatno ne bi bilo dobro.
Trka za tehnološkom prevlašću ne jenjava
Iako je OpenAI posljedično zaustavio razvoj svog najnovijeg modela, utrka za tehnološkom prevlašću se nastavlja. Američki predsjednik Donald Trump nedavno je poručio da su Sjedinjene Američke Države ispred Kine, da su najnaprednija zemlja na svijetu i da želi da tako i ostane, uz ocjenu da pobjeđuje onaj ko pobijedi u oblasti vještačke inteligencije.
Upozorenja stižu i iz samih AI kompanija
Sa ubrzanjem razvoja nameće se i pitanje može li čovjek dovoljno brzo postaviti granice. Papa Lav XIV upozorava na “raj za strojeve” u kojem bi tehnologija mogla potisnuti čovjeka i njegove vrijednosti, a upozorenja sada dolaze i iz samih kompanija koje se bave vještačkom inteligencijom.
Brad Carson, predsjednik Američke inicijative za odgovornu inovaciju, izjavio je da razvoj ide toliko brzo da su se i sami istraživači zbog toga počeli bojati. Upozoreno je i da pojedini pokušavaju isključiti takve sisteme, ali da se tome protive drugi koji smatraju da za to još nije vrijeme.
