Dok se polje umjetne inteligencije nastavlja razvijati vrtoglavom brzinom, novi natjecatelj spreman je ući na teren. TruthGPT, AI chatbot kojeg je predložio tehnološki milijarder Elon Musk, izaziva mnogo buke na internetu.
Ali što je TruthGPT? Zašto ga Elon Musk želi stvoriti? I kako će se razlikovati od AI alata koje već imamo?
Što je TruthGPT?
TruthGPT je predloženi AI model usmjeren na rješavanje nedostataka postojećih modela koji pokreću ChatGPT i Bard, s posebnim naglaskom na istinu i sigurnost. Prema Elonu Musku, TruthGPT će biti AI koji "maksimalno traži istinu" i razumije prirodu svemira i malo je vjerojatno da će uništiti čovječanstvo jer ljude vidi kao kritičnu komponentu svemir.
AI koja traži maksimalnu istinu? Razumijete prirodu svemira?
Bit će vam oprošteno ako vam Muskov opis ne da jasnu sliku o tome što točno pokušava izgraditi. Međutim, dobit ćete bolju predodžbu o čemu on govori ako pogledate zašto to uopće pokušava izgraditi.
Zašto Elon Musk gradi TruthGPT?
U intervjuu sa
Fox News, Elon Musk izrazio je zabrinutost zbog toga kako velike AI tvrtke mogu produžiti pristranost i dezinformacije putem AI chatbota — alata u nastajanju o kojem ljudi sve više ovise u pogledu informacija. Elon Musk također je komentirao prijetnju koju umjetna inteligencija predstavlja za čovječanstvo, ističući mogućnost AI apokalipse, scenarija u kojem bi AI sustavi mogli preuzeti kontrolu nad našim svakodnevnim životima.Izdvajajući tvrtke poput OpenAI-ja i Googlea, koje, po njegovom mišljenju, ne rade dovoljno na području sigurnosti umjetne inteligencije i zaštite od dezinformacija, Elon Musk je predložio treću snagu - TruthGPT. Izvršni direktor SpaceX-a i Tesle želi stvoriti TruthGPT kao protutežu Googleovom Bardu i OpenAI-jevom ChatGPT-u. Ideja je stvoriti AI model koji pokušava što je više moguće biti istinit u informacijama koje pruža.
Elon Musk, koji je nedavno napisao otvoreno pismo pozivajući na a moratorij na razvoj moćne umjetne inteligencije modela (osobito onih moćnijih od GPT-4), vjeruje da se AI kreće prebrzo. On vjeruje da moramo usporiti i preispitati naš pristup sigurnosti umjetne inteligencije prije nego što umjetna inteligencija "preuzme kontrolu". TruthGPT je veliki jezični model (LLM) koji obećava rješavanje ova dva ključna problema s današnjom umjetnom inteligencijom sustava.
Kako bi izgledao TruthGPT?
Prva naznaka kako bi TruthGPT izgledao nalazi se u imenu. S obzirom na "GPT" dodatak, TruthGPT će vjerojatno imati sličnu arhitekturu kao ChatGPT. Zapamtite, Elon Musk je pomogao sastaviti OpenAI i tim koji je napravio GPT model ChatGPT-a.
Također, s obzirom na to da se GPT-ova arhitektura pokazala tehničkim i komercijalnim uspjehom, traženje drugačijeg puta vjerojatno će biti previše dugotrajno i skupo. Vrijeme je jedna stvar koju Elon Musk nema ako želi što prije izgraditi nešto što doista može stajati uz najsuvremeniju umjetnu inteligenciju. Dakle, nemojte se previše hvaliti – TruthGPT se možda neće toliko radikalno razlikovati od AI alata koje već imamo.
Točnost, ili u žargonu Elona Muska, "istinitost", AI modela uvelike ovisi o njegovim podacima o obuci i algoritmu za obuku. Nismo točno sigurni kako bi se podaci o obuci TruthGPT-a dobili, ali da bismo dobili najbolju priliku za izgradnju LLM-a koji je "istiniti" što je više moguće, TruthGPT Elona Muska morao bi dati prioritet podacima iz "istinitih izvora". Ali to je upravo to problem. Istina je vrlo subjektivan koncept. Ono što je istina za mene možda nije istina za vas.
Dakle, je li ova ideja umjetne inteligencije koja najviše traži istinu uopće praktična?
Zašto je izgradnja istineGPT veliki izazov
Jednom kad ti razumjeti kako funkcioniraju veliki jezični modeli poput GPT-a, postaje jasno da je nepraktično biti u pravu u svakom trenutku. Obično obučeni na velikom skupu podataka s interneta, mnogo toga će, kako se moglo predvidjeti, biti lažne informacije, a LLM-ovi nemaju inertan način da razlikuju činjenice od fikcije.
Najbolja intervencija obično je od ljudskih trenera koji pokušavaju naučiti jezični model što je dobro, a što loše ponašanje. Ali ljudski treneri su pristrani. Pristranost se prenosi na AI modele, porazivši cijelu svrhu "maksimalne umjetne inteligencije koja traži istinu." Imajte na umu da ne govorimo o izravnoj pristranosti ili predrasudama prema ljudima ili na neki drugi način. Suptilnija predrasuda o tome kako tumačite jezik, situacije, izazove i tako dalje ulazi u proces. Ljudi su ipak ljudi.
Naravno, točnosti se također može pristupiti sa strane algoritma. Međutim, bez obzira na algoritam, dvosmislenost jezika i dalje predstavlja veliki problem za točnost AI modela. Čak se i ljudi često muče s točnim tumačenjem značenja rečenice ili izraza, što dovodi do dezinformacija. Za modele umjetne inteligencije, dvosmislenost može dovesti do pogrešnih tumačenja koja rezultiraju netočnostima.
Za Muska se čini da je TruthGPT prilika da iskleše AI model koji smatra prikladnim za isporuku istine. Kako bi do toga došlo bez uvođenja njegovih vlastitih predrasuda posve je drugo pitanje i zapravo nas vraća na početak razgovora. Kako se Muskova mišljenja o tome što je pristrano ili ne razlikuju od onih koji su trenirali i vodili ChatGPT?
Je li TruthGPT uzbudljiva mogućnost?
Planovi Elona Muska za TruthGPT čine se plemenitima i hvale vrijednima. Međutim, izgradnja AI modela sa zanemarivom učestalošću netočnosti težak je zadatak.
Iako bismo očekivali da će tehnološki milijarder koji je demistificirao raketnu znanost moći izvesti nešto ovakvog tipa, neke je stvari lakše reći nego učiniti.
