Najnovije inovacije oko tehnologije temeljene na umjetnoj inteligenciji pomiču granice onoga što smo nekoć mislili da je moguće s umjetnom inteligencijom. Međutim, s chatbotovima kao što su ChatGPT i Bing Chat koji postaju gotovo jednako dobri kao ljudi u nekoliko stvari, je li vrijeme da pritisnete kočnicu na neko vrijeme?
Elon Musk i nekoliko istraživača umjetne inteligencije među 1188 ljudi (u vrijeme pisanja) koji tako misle. Pismo koje je objavio neprofitni institut Future of Life poziva na šestomjesečnu pauzu u obuci AI tehnologija boljih od GPT 4, no je li pauza doista potrebna?
O čemu se zapravo radi u otvorenom pismu budućnosti života?
The pismo koje je objavio institut Future of Life ističe da su laboratoriji umjetne inteligencije "zaključani u utrci izvan kontrole" za razvoj i implementaciju više i snažnije AI modele koje nitko, uključujući njihove tvorce, ne može "razumjeti, predvidjeti ili pouzdano kontrolirati".
Također ističe da suvremeni sustavi umjetne inteligencije sada postaju konkurentni ljudima u općim zadacima i zahtjevima trebamo li razviti "neljudske umove koji bi na kraju mogli brojčano nadmašiti, nadmudriti, zastarjeti i zamijeniti nas".
Pismo na kraju poziva sve AI laboratorije da odmah prekinu obuku AI sustava moćnijih od GPT-4 na najmanje šest mjeseci. Pauza bi trebala biti javna i provjerljiva u svim ključnim akterima. Također se navodi da ako se takva pauza ne može brzo provesti, vlade bi trebale uskočiti i privremeno zabraniti obuku modela umjetne inteligencije.
Nakon što je pauza aktivna, od AI laboratorija i neovisnih stručnjaka se traži da je iskoriste za zajednički razvoj i implementaciju "dijeljeni skup sigurnosnih protokola" kako bi se osiguralo da su sustavi koji se pridržavaju ovih pravila "sigurni izvan razumnog sumnjati".
Ovo pismo potpisalo je nekoliko imenovanih osoba, uključujući Elona Muska, Stevea Wozniaka te istraživače i autore umjetne inteligencije. Zapravo, popis potpisnika trenutno je pauziran zbog velike potražnje.
Koja je Muskova zabrinutost oko napredne AI tehnologije i OpenAI-ja?
Iako bi potpisivanje pisma Future of Life moglo značiti da je Musk zabrinut zbog sigurnosnih rizika koje takvi napredni AI sustavi predstavljaju, pravi razlog bi mogao biti nešto drugo.
Musk je 2015. suosnivao OpenAI sa sadašnjim izvršnim direktorom Samom Altmanom kao neprofitnu organizaciju. Međutim, posvađao se s Altmanom kasnije 2018. nakon što je shvatio da nije zadovoljan napretkom tvrtke. Musk je navodno želio preuzeti kako bi ubrzao razvoj, ali Altman i OpenAI odbor odbacili su ideju.
Musk je nedugo nakon toga otišao iz OpenAI-ja i ponio svoj novac sa sobom prekršivši svoje obećanje da će dati 1 milijardu u financiranju i dao je samo 100 milijuna prije odlaska. To je prisililo OpenAI da postane privatna tvrtka nedugo nakon toga u ožujku 2019. kako bi prikupila sredstva za nastavak istraživanja.
Još jedan razlog zašto je Musk otišao je taj što bi razvoj umjetne inteligencije u Tesli mogao uzrokovati sukob interesa u budućnosti. Očigledno je da Tesla treba napredne AI sustave za napajanje Potpune značajke samovožnje. Otkako je Musk napustio OpenAI, tvrtka je pobjegla sa svojim AI modelima, lansirajući ChatGPT koji pokreće GPT3.5 2022. i kasnije s GPT-4 u ožujku 2023.
Činjenicu da Muskov AI tim nije ni blizu OpenAI-u treba uzeti u obzir svaki put kad kaže da bi moderni AI modeli mogli predstavljati rizike. Također nije imao problema uvođenje beta verzije Tesla Full Self-Driving na javnim cestama, u biti pretvarajući obične vozače Tesle u beta testere.
Ni ovo ne završava ovdje. Musk je također bio prilično kritičan prema OpenAI-ju na Twitteru, a Altman je otišao tako daleko da je rekao da ih napada dok se nedavno pojavljivao u podcastu "On with Kara Swisher".
Trenutačno se čini da Musk samo koristi pismo budućnosti života da zaustavi razvoj OpenAI-ja i bilo koje druge tvrtke koja ga sustiže GPT-4 kako bi svojim tvrtkama dao priliku da sustignu umjesto da zapravo budu zabrinuti zbog potencijalnih opasnosti ovih modela umjetne inteligencije poza. Imajte na umu da se u pismu također traži pauziranje "obuke" AI sustava na šest mjeseci, što se može relativno lako zaobići i nastaviti razvijati u međuvremenu.
Je li pauza doista potrebna?
Potreba za pauzom ovisi o stanju AI modela u budućnosti. Pismo je definitivno pomalo dramatičnog tona i ne riskiramo gubitak kontrole nad našom civilizacijom u korist umjetne inteligencije, kao što se u njemu tako otvoreno navodi. Rečeno je, AI tehnologije doista predstavljaju nekoliko prijetnji.
S obzirom da OpenAI i drugi laboratoriji umjetne inteligencije mogu smisliti bolje sigurnosne provjere, pauza bi donijela više štete nego koristi. Međutim, prijedlog pisma o skupu zajedničkih sigurnosnih protokola koji su "rigorozno revidirani i nadgledani od strane neovisnih vanjskih stručnjaka" zvuči kao dobra ideja.
Budući da tehnološki divovi poput Googlea i Microsofta ulažu milijarde u razvoj umjetne inteligencije i integraciju u svoje proizvode, malo je vjerojatno da će pismo utjecati na trenutni tempo razvoja umjetne inteligencije.
AI je tu da ostane
Uz tehnološke divove koji dalje guraju integraciju umjetne inteligencije u svoje proizvode i ulažu milijarde dolara u istraživanje i razvoj, umjetna inteligencija je tu da ostane, bez obzira na to što opozicija kaže.
No nije loša ideja primijeniti sigurnosne mjere kako bi se spriječilo da te tehnologije skrenu s tračnica i potencijalno se pretvore u alate za nanošenje štete.
