Novije je ali sporije. Što daje?
S najnovijom verzijom ChatGPT-a, GPT-4, objavljenom u ožujku 2023., mnogi se sada pitaju zašto je tako spor u usporedbi sa svojim prethodnikom, GPT-3.5. Dakle, koji je glavni razlog ovdje?
Zašto je ChatGPT-4 tako trom i trebate li se umjesto toga držati GPT-3.5?
Što je ChatGPT-4?
ChatGPT-4 je najnoviji model OpenAI-jev chatbot, općenito poznat kao ChatGPT. ChatGPT pokreće umjetna inteligencija, što mu omogućuje da odgovori na vaša pitanja i upite puno bolje od prethodnih chatbota. ChatGPT koristi veliki jezični model koji pokreće GPT (Generative Pre-trained Transformer) za pružanje informacija i sadržaja korisnicima dok istovremeno može razgovarati.
ChatGPT ima širok raspon mogućnosti, što ga čini korisnim za milijune. Na primjer, ChatGPT može pisati priče, formulirati šale, prevoditi tekst, educirati korisnike i još mnogo toga. Dok se ChatGPT također može koristiti za nedopuštene radnje, kao što je stvaranje zlonamjernog softvera, njegova svestranost donekle je revolucionarna.
ChatGPT-ov GPT-4 model objavljen je 14. ožujka 2023. Ova verzija ChatGPT-a osmišljena je za bolje razumijevanje emocionalnog jezika kroz tekst, dok također bolje razumije različite jezične dijalekte i obradu slika. GPT-4 također može održavati duže razgovore i učinkovito odgovarati na duže upite korisnika.
Dodatno, parametri GPT-4 u velikoj mjeri premašuju parametre GPT-3.5. Parametri ChatGPT-a određuju kako AI obrađuje informacije i reagira na njih. Ukratko, parametri određuju vještinu koju chatbot ima za interakciju s korisnicima. Dok GPT-3.5 ima 175 milijardi parametara, GPT-4 ima nevjerojatnih 100 bilijuna do 170 bilijuna (šuška se—OpenAI nije potvrdio ovu brojku).
OpenAI-jev GPT-3.5 korišten je za pogon ChatGPT-a, koji je sada najpopularniji AI chatbot na svijetu. Dakle, GPT-3.5 ostavio je neosporan trag u području umjetne inteligencije. Ali stvari uvijek napreduju u tehnološkoj industriji, pa ne čudi da GPT-3.5 sada ima nasljednika u GPT-4.
Međutim, GPT-4 nipošto nije savršen. Zapravo, duga vremena odgovora GPT-4 izazivaju veliku pometnju. Pa pogledajmo ovaj problem i zašto se to događa.
ChatGPT-4 je spor
Mnogi su nakon izdavanja GPT-4 primijetili da je OpenAI-jev novi chatbot nevjerojatno spor. To je frustriralo mnoštvo korisnika jer je GPT-4 trebao biti korak naprijed u odnosu na GPT-3.5, a ne unazad. Kao rezultat toga, korisnici GPT-4 odlaze na online platforme, kao što su Reddit i OpenAI's community board, kako bi raspravljali o problemu.
Na Forum zajednice OpenAI-ja, brojni korisnici javili su se sa svojim frustracijama odgode GPT-4. Jedan je korisnik izjavio da je GPT-4 bio "izuzetno spor" s njihove strane i da su čak i mali zahtjevi upućeni chatbotu rezultirali neuobičajeno dugim kašnjenjima od preko 30 sekundi.
Drugi korisnici su brzo podijelili svoja iskustva s GPT-4, a jedan je ispod objave komentirao da "isti poziv s istim podacima može trajati do 4 puta sporije od 3.5 turbo."
U drugom Post na forumu zajednice OpenAI, korisnik je komentirao da se njihovi upiti ponekad susreću s "greška u struji tijela" poruka koja nije rezultirala odgovorom. U istoj temi, drugi je pojedinac izjavio da nije mogao natjerati GPT-4 da "uspješno odgovori potpuna skripta." Drugi je korisnik komentirao da su stalno nailazili na mrežne pogreške dok su pokušavali koristiti GPT-4.
Uz kašnjenja i neuspjele ili polovične odgovore, čini se da je GPT-4 prepun problema koji brzo odbijaju korisnike.
Dakle, zašto se to točno događa? Nešto nije u redu s GPT-4?
Zašto je GPT-4 spor u usporedbi s GPT-3.5?
U gore navedenom postu na forumu zajednice OpenAI, jedan je korisnik odgovorio sugerirajući da je do kašnjenja došlo zbog "trenutačnog problema s cijelom infrastrukturom preopterećenost", dodajući da postoji izazov u "bavljenju skalabilnošću u tako kratkom vremenskom okviru s ovom popularnošću i brojem korisnika i chata i API."
U Objava na Redditu prenesen u r/singularity subreddit, korisnik je iznio nekoliko mogućih razloga za sporost GPT-4, počevši od veće veličine konteksta. Unutar GPT ekosustava, veličina konteksta odnosi se na to koliko informacija određena verzija chatbota može obraditi i potom proizvesti informacije. Dok je veličina konteksta GPT-3.5 bila 4K, GPT-4 je dvostruko veća. Dakle, veličina konteksta od 8K može utjecati na ukupne brzine GPT-4.
Autor Reddita također je sugerirao da bi poboljšana sposobnost upravljanja i kontrola GPT-4 mogla igrati ulogu u vremenu obrade chatbota. Ovdje je autor naveo da je GPT-4 veća upravljivost i kontrola halucinacija i neprikladnih jezik bi mogao biti krivac jer ove značajke dodaju dodatne korake GPT-4 metodi obrade informacija.
Nadalje, predloženo je da GPT-4 sposobnost obrade slika može usporavati stvari. Ovu korisnu značajku mnogi vole, ali bi mogla doći s kvakom. S obzirom na to da se priča da GPT-4 treba 10-20 sekundi za obradu dostavljene slike, postoji mogućnost da ova komponenta produljuje vrijeme odgovora (iako to ne objašnjava kašnjenja s kojima se susreću korisnici koji daju samo tekstualne upite).
Drugi su korisnici sugerirali da novost ChatGPT-4 igra veliku ulogu u ovim kašnjenjima. Drugim riječima, neki misle da OpenAI-jev najnoviji chatbot mora doživjeti neke rastuće probleme prije nego što se svi nedostaci mogu izgladiti.
Ali najveći razlog zašto je GPT-4 spor je broj parametara koje GPT-4 može pozvati u odnosu na GPT-3.5. The fenomenalan porast parametara jednostavno znači da je novijem GPT modelu potrebno više vremena za obradu informacija i odgovor točno. Dobivate bolje odgovore s povećanom složenošću, ali do njih treba malo više vremena.
Trebate li odabrati GPT-3.5 umjesto GPT-4?
Dakle, s ovim problemima na umu, trebate li koristiti GPT-3.5 ili GPT-4?
U vrijeme pisanja, čini se da je GPT-3.5 brža opcija u odnosu na GPT-4. Toliko je korisnika doživjelo kašnjenja da je vjerojatno problem s vremenom prisutan posvuda, a ne samo kod nekoliko pojedinaca. Dakle, ako ChatGPT-3.5 trenutno ispunjava sva vaša očekivanja i ne želite čekati odgovor u zamjenu za dodatne značajke, možda bi bilo mudro držati se ove verzije za sada.
Međutim, trebali biste imati na umu da GPT-4 nije samo GPT-3.5, već i sporiji. Ova verzija OpenAI-jevog chatbota ima brojne prednosti u odnosu na svog prethodnika. Ako tražite napredniji AI chatbot i nemate ništa protiv dužeg čekanja na odgovore, možda se isplati prijeći s GPT-3.5 na GPT-4.
S vremenom bi se kašnjenja GPT-4 mogla smanjiti ili potpuno riješiti, tako da strpljenje ovdje može biti vrlina. Bilo da se sada pokušate prebaciti na GPT-4 ili pričekate još malo da vidite kako će se stvari odvijati s ovom verzijom, još uvijek možete puno iskoristiti od zgodnog malog chatbota OpenAI-ja.
GPT-4 je napredniji, ali dolazi sa zaostatkom
Iako GPT-4 ima brojne napredne mogućnosti u odnosu na GPT-3.5, njegova značajna kašnjenja i pogreške u odgovoru učinile su ga nekima neupotrebljivim. Ovi problemi bi se mogli riješiti u bliskoj budućnosti, ali za sada, GPT-4 sigurno ima neke prepreke koje treba prevladati prije nego što bude prihvaćen u široj mjeri.