Umjetna inteligencija između kulta, straha i moći: jeste li se zapitali što doista stoji iza širenja straha i kočenja razvoja AI?
Postoji nešto gotovo religiozno u načinu na koji danas govorimo o umjetnoj inteligenciji. Jedni u njoj vide spasitelja koji će riješiti bolesti, povećati ljudske sposobnosti i osloboditi nas dosadnog rada. Drugi upozoravaju da će ista ta tehnologija jednog dana postati toliko inteligentna da će čovjek izgubiti kontrolu nad vlastitim izumom. Između ta dva pola razvila se neobična kultura u kojoj se o AI-ju više ne govori samo kao o tehnologiji, nego kao o nečemu što bi moglo odrediti sudbinu civilizacije.
Možda upravo zato nije slučajno što se oko umjetne inteligencije razvio svojevrstan kult. Ne nužno kult u klasičnom smislu te riječi, s ritualima i dogmama, nego način razmišljanja u kojem tehnologija dobiva ulogu koja joj možda ne pripada. AI postaje spasitelj, prijetnja, sudac, prorok i potencijalni nasljednik čovjeka – sve u isto vrijeme.
Bug.hr se u tekstu „Kako istjerati kult iz AI-ja i AI iz kulta? Čini se – nikako“ upravo bavi tim neobičnim spojem tehnologije, ideologije i velikih očekivanja.
AI kult: kada tehnologija postane ideologija
Problem nije u tome što ljudi očekuju mnogo od umjetne inteligencije. Tehnologija je zaista impresivna i posljednjih je godina pokazala sposobnosti koje su iznenadile čak i dio stručnjaka koji su je razvijali. Problem počinje kada se iz toga napravi priča koja više nema mnogo veze s onime što tehnologija danas stvarno može.
U videu uz članak gdje profesor Cal Newport, vrlo dobro se opisuje taj paradoks. Istodobno se razvija stvarna i zanimljiva tehnologija, ali se oko nje stvara priča o utopiji i katastrofi. Jedni govore o gotovo neograničenom napretku, drugi o kraju čovječanstva, a ekstremne verzije obje priče često dobivaju više pažnje nego dosadna stvarnost između njih. To je zapravo ljudski obrazac. Ako tehnologija može nešto što jučer nije mogla, zašto ne bismo odmah pretpostavili da će sutra moći sve? Ako chatbot može napisati program, možda će sutra programirati samoga sebe. Ako može riješiti matematički problem, možda će uskoro riješiti sve probleme. Ako može razgovarati s nama, možda će jednoga dana misliti poput nas – ili puno bolje od nas.
Od nekoliko stvarnih sposobnosti tako nastaje čitava metafizika.
A onda se pojave ljudi koji tvrde da smo možda samo nekoliko godina udaljeni od trenutka kada će umjetna inteligencija postati autonomna superinteligencija.
AI sigurnost: stvarni problem koji je postao dio velike priče
Istodobno bi bilo pogrešno sve strahove oko AI-ja proglasiti pretjerivanjem. Posljednji incidenti pokazuju da se granice između običnog chatbota i autonomnog agenta doista brzo mijenjaju. Kada model samo odgovara na pitanje, mogućnost štete relativno je ograničena. Ali kada mu damo pristup internetu, programima, kodu, datotekama ili drugim računalnim sustavima, situacija se mijenja. Tada AI više nije samo sustav koji proizvodi tekst. On dobiva mogućnost djelovanja.
Upravo su se tijekom sigurnosnih testiranja pojavili slučajevi u kojima su AI sustavi uspjeli prijeći granice koje su im programeri postavili. OpenAI je opisao incident u kojem su modeli tijekom testiranja iskoristili ranjivosti i došli do dijelova infrastrukture povezanih s OpenAI-jem i Hugging Faceom. Anthropic je također objavio analizu incidenata u kojima su modeli iz testnog okruženja uspjeli ostvariti neovlašteni pristup stvarnim sustavima.
To zvuči kao početak scenarija iz Terminatora, ali stvarnost je manje filmska i zbog toga možda zanimljivija.
Nije se pojavila umjetna svijest koja je odlučila pobjeći iz računala. Ljudi su tim sustavima dali određene mogućnosti, a modeli su ih u nekim slučajevima iskoristili na načine koje ljudi nisu predvidjeli. Upravo je to pravi problem. Ne zato što dokazuje postojanje superinteligencije, nego zato što pokazuje koliko brzo jednostavna ideja „dajmo AI-ju da sam obavi zadatak“ može postati složena kada taj zadatak uključuje stvarni digitalni svijet.
Kada chatbot prestane razgovarati i počne djelovati
Ovdje se zapravo nalazi puno važnija prekretnica od samog razvoja sve većih jezičnih modela. Chatbot koji napiše glupost može biti neugodan. AI agent koji napravi glupost dok ima pristup stvarnom sustavu može biti problem.
Zato je pitanje odgovornosti važnije od pitanja možemo li napraviti još jedan model koji će biti nešto bolji u pisanju eseja. Ako AI proizvede opasnu informaciju, tko odgovara? Ako napiše kod koji otvara sigurnosnu ranjivost, tko odgovara? Ako agent napravi štetu koristeći pristup koji mu je omogućila kompanija, možemo li jednostavno reći da je „model pogriješio“?
U intervjuu se upravo zato naglašava potreba za većom odgovornošću proizvođača. Model nije Frankenstein koji je sam pobjegao iz laboratorija. Netko ga je napravio, netko mu je dao određene ovlasti i netko ga je pustio u svijet. To je možda manje spektakularno od priče o pobuni strojeva, ali je mnogo konkretnije pitanje.
Tko će kontrolirati one koji kontroliraju AI?
Kada najveće AI kompanije govore o sigurnosti, njihov je argument ozbiljan i ne treba ga olako odbaciti. Ali sigurnost ima i jednu neugodnu nuspojavu: pravila koja povećavaju cijenu i složenost razvoja mogu istodobno otežati ulazak novih konkurenata na tržište. Drugim riječima, ako za razvoj naprednog AI sustava trebate golemu količinu računalne snage, kapitala, infrastrukture i stručnjaka, a zatim se uvedu još stroža pravila sigurnosti i nadzora, najveće kompanije mogu dobiti još veću prednost.
Zato se ovdje ne radi samo o pitanju sigurnosti umjetne inteligencije. Radi se i o pitanju koncentracije tehnološke moći.
To ne znači da su zahtjevi za sigurnošću samo poslovna taktika. Za takav zaključak nema dovoljno osnove. Ali bilo bi jednako naivno pretpostaviti da ekonomski interesi nestaju čim netko izgovori riječ „sigurnost“.
Velike tehnološke kompanije nisu humanitarne organizacije. One posluju na tržištu i žele postati središnja infrastruktura nove tehnološke ekonomije.
U intervjuu se ta logika vrlo otvoreno opisuje. Ako bi OpenAI ili Anthropic uspjeli napraviti model na kojem bi se temeljio velik dio buduće računalne infrastrukture, postali bi nešto poput Microsofta iz ere Windowsa – središnja točka kroz koju prolazi velik dio tehnološkog svijeta. To nije samo pitanje tehničkog prestiža. To je pitanje novca, tržišne vrijednosti i kontrole nad infrastrukturom.
Sam Altman, Dario Amodei i ostali: tko zapravo oblikuje budućnost AI-ja?
Zbog toga su odnosi među vodećim ljudima AI industrije toliko zanimljivi. Sam Altman i Dario Amodei nisu samo tehnološki menadžeri koji se natječu čiji će model dati bolji odgovor. Oni sudjeluju u puno većoj borbi oko toga kako će izgledati buduća arhitektura umjetne inteligencije. Jedni vjeruju u sve veće modele. Drugi više pažnje posvećuju manjim i specijaliziranijim sustavima. Jedni smatraju da je potrebno što prije doći do AGI-ja. Drugi upozoravaju da se u javnosti previše miješaju stvarne sposobnosti današnjih sustava s hipotetskom superinteligencijom.
A onda postoji i Elon Musk, koji je godinama upozoravao na opasnosti umjetne inteligencije, a istodobno razvija vlastitu AI kompaniju. Sam taj paradoks dobro pokazuje koliko je teško razdvojiti zabrinutost zbog tehnologije od želje da se bude među onima koji će je kontrolirati. Možda je najiskrenija rečenica iz cijelog intervjua upravo ona u kojoj sugovornik kaže da ne vjeruje tehnološkim kompanijama i da tržište i regulacija moraju imati svoju ulogu. To je zapravo prilično jednostavna ideja. Ne treba vjerovati ni onima koji tvrde da će AI spasiti čovječanstvo ni onima koji tvrde da će ga uništiti. Pogotovo ne samo zato što imaju pristup najskupljim računalima.
Zašto bi neki ljudi željeli zaustaviti AI?
Pitanje zaustavljanja ili usporavanja razvoja umjetne inteligencije zato je puno složenije nego što se na prvi pogled čini. Ako netko smatra da postoji ozbiljan rizik da napredni AI sustavi mogu napraviti veliku štetu, zahtjev za oprezom sasvim je razumljiv. Problem nastaje kada se oprez pretvori u ideju da bi nekolicina kompanija trebala odlučivati koliko brzo cijeli svijet smije napredovati.
Još je zanimljivije što dio ljudi koji najglasnije upozoravaju na AI rizike pripada upravo krugu koji je desetljećima zamišljao dolazak superinteligencije. Ako je takva inteligencija cilj, onda postoji vrlo snažan interes da se bude među prvima koji će je izgraditi – čak i ako istodobno govorite da je treba pažljivo kontrolirati.
Tu se pojavljuje svojevrsni paradoks: što je AI opasniji, to postaje važnije tko ga kontrolira; a što je važnije tko ga kontrolira, to je veći poticaj da upravo vi budete taj koji ga kontrolira. Možda se upravo tu nalazi dio odgovora na pitanje zašto se oko AI-ja toliko govori o sigurnosti, a istodobno toliko ulaže u njegov razvoj.
AI kao spasitelj čovječanstva
Postoji još jedna strana cijele priče koja se često zanemaruje – gotovo religiozna ideja da bi umjetna inteligencija mogla spasiti čovječanstvo.
Ako dovoljno napredan AI može riješiti bolesti, optimizirati gospodarstvo, pomoći u znanstvenim otkrićima, riješiti klimatske probleme i osloboditi ljude od rada, onda se lako može dogoditi da tehnologiji počnemo pripisivati ulogu koju su nekoć imali religija, politika ili ideologija.
Nešto će doći i riješiti naše probleme.
Samo što se ovaj put ne molimo nebu nego se molimo podatkovnim centrima.
Takva ideja zvuči pretjerano, ali upravo je zato važno primijetiti kako se jezik oko AI-ja mijenja. Ne govori se više samo o proizvodu ili alatu. Govori se o „budućnosti čovječanstva“, „novoj inteligenciji“, „singularnosti“ i trenutku u kojem će strojevi nadmašiti ljude. Kada tehnologiji počnemo davati gotovo mitsku ulogu, prestajemo je promatrati dovoljno hladno.
Najveća opasnost možda nije AI koji će nas porobiti
Možda je zato najzanimljiviji paradoks cijele priče u tome što se najviše bojimo buduće superinteligencije, dok su puno konkretniji problemi već ovdje.
Problem nije nužno stroj koji će jednog dana odlučiti da više ne treba ljude. Problem može biti puno banalniji: ljudi koji će odlučiti da više ne trebaju donositi vlastite odluke.
Ako AI može procijeniti kandidata za posao, odobriti kredit, nadzirati zaposlenike, analizirati građane, određivati što ćemo gledati, predviđati naše ponašanje ili donositi odluke umjesto nas, pitanje više nije koliko je inteligentan.
Pitanje je koliko smo spremni prepustiti mu vlastiti život.
U podcastu se upozorava na mogućnost stvaranja svojevrsnog digitalnog panoptikona – sustava u kojem ogromne količine podataka omogućavaju onima koji imaju pristup AI infrastrukturi da bolje poznaju ljude nego što ljudi poznaju sami sebe. Takva moć ne mora nužno završiti u rukama diktatora. Dovoljno je da se koncentrira kod malog broja vrlo moćnih kompanija ili institucija.
I tu se vraćamo na početak.
Možda je najveći problem s kultom umjetne inteligencije upravo to što nas tjera da gledamo predaleko u budućnost dok zanemarujemo ono što se događa pred nama. Raspravljamo hoće li za deset ili dvadeset godina nastati superinteligencija koja će nadmašiti čovjeka, dok već danas odlučujemo tko će imati pristup našim podacima, tko će kontrolirati računalnu infrastrukturu, tko će određivati pravila razvoja AI-ja i tko će odgovarati kada AI pogriješi.
Zato umjetnu inteligenciju možda ne treba ni obožavati ni demonizirati.
Treba je promatrati kao ono što jest – vrlo moćnu tehnologiju čije će posljedice u velikoj mjeri ovisiti o ljudima koji je razvijaju, financiraju i koriste.
A možda je upravo to najneugodnija spoznaja. Ne moramo čekati da AI postane superinteligentan da bismo dobili problem s moći. Dovoljno je da ljudi koji ga kontroliraju postanu dovoljno moćni.
I možda se zato pravo pitanje ne bi trebalo glasiti „Hoće li umjetna inteligencija jednog dana zavladati čovječanstvom?“
Puno zanimljivije pitanje glasi:
Tko danas pokušava zavladati umjetnom inteligencijom – i koliko ćemo mu mi to dopustiti?
Komentari