Imaju li ChatGPT odgovori ograničenje broja znakova ili riječi?

ChatGPT je velika vijest. Ali koliki su odgovori koje dobivate od ovog višenamjenskog chatbota?

Uspostava toga nije tako jednostavna kao što možda mislite. Za početak, postavite ovo pitanje ChatGPT-u i bit ćete uvjereni da nema postavljenih ograničenja u pogledu duljine njegovih odgovora.

Međutim, kao što ovdje otkrivamo, to nije tako jednostavno. Postoje skrivena ograničenja duljine ChatGPT odgovora, ali postoje i neka zgodna i jednostavna rješenja koja će vam pomoći da dobijete duže odgovore.

Kako ChatGPT određuje duljinu odgovora?

Način na koji ChatGPT funkcionira je složen, a duljina odgovora varira ovisno o tome što se traži i razini tražene pojedinosti. Kao što pokazuje sljedeći snimak zaslona, ​​ChatGPT tvrdi da nema strogih ograničenja.

Ovo nije ono što smo pronašli. Primjer ispod pokazuje kako ChatGPT iznenada prekida odgovor usred rečenice. Zamolili smo ga da napiše esej od tisuću riječi o prednostima kružnog gospodarstva. ChatGPT je prestao odgovarati kada je došao do 677 riječi.

Test smo ponovili nekoliko puta s različitim pitanjima, i svaki put je prestao usred rečenice; povremeno je to bilo popraćeno mrežnom greškom. Ovo je uobičajena pogreška, a postoje razne načine za ispravljanje mrežnih pogrešaka u ChatGPT-u.

Dio odgovora zašto se to događa leži u nečemu što se zove sustav tokena.

Što koristi sustav tokena ChatGPT?

Umjesto jednostavnog brojanja riječi za određivanje duljine upita i odgovora, ChatGPT koristi sustav tokena. Ovo rastavlja svaki ulaz i izlaz u niz tokena koji se koriste za klasifikaciju veličine zahtjeva i odgovora.

Iako broj riječi igra ulogu u ovome, to nije cijela priča. Na primjer, uveden je donji primjer OpenAijev alat Tokenizer.

Rečenica i odgovor su "tokenizirani" na vrijednost od devet tokena. Ovo je u skladu s OpenAI-jevim "pravilom palca" da je jedan token jednak tri četvrtine riječi.

Model GPT 3.5 ograničava korisnička pitanja i podatke na 4097 tokena. Prema OpenAI-jevom proračunu, to iznosi oko 3000 riječi. Međutim, važno je napomenuti da se ovo ograničenje odnosi i na odgovor i na pitanje.

Iako je to u teoriji sve u redu i dobro, rezultati na koje smo naišli nikad se nisu približili tim granicama. Nepotpuni odgovor koji je ChatGPT vratio u našem ranijem testu težio je samo 798 tokena.

Zašto su odgovori ChatGPT-a ograničeni?

Ova novonastala tehnologija brzo je postala tehnološki razvoj ovog stoljeća o kojem se najviše govori. Ovo je stvorilo veliku potražnju za ChatGPT. U konačnici, ovaj zahtjev je učinkovito ograničio odgovore na daleko ispod navedenih granica.

Iako za to nema službene potvrde, čini se da de facto postoji ograničenje od oko pet stotina riječi ili 4000 znakova.

Da naglasimo, ovo nije fiksno pravilo - generirali smo rezultate koji su to premašili za gotovo dvjesto riječi. Međutim, ovo se može smatrati sigurnom gornjom granicom za postizanje potpunih odgovora.

Kako dobiti duže odgovore od ChatGPT-a

Nakon što shvatite da postoji "skrivena granica" za odgovore ChatGPT-a, postoje neki jednostavni načini koji će vam pomoći da dobijete potpunije odgovore.

1. Zamolite ChatGPT da nastavi: Ako ChatGPT prestane na pola puta nakon odgovora, onda je jedna opcija da ga jednostavno zamolite da nastavi. U donjem primjeru upisali smo "Nastavi", a odgovoru je dodano još dvjesto riječi.
2. Podijelite svoje pitanje u manje dijelove: Na primjer, nekoliko smo ga puta zamolili da napiše esej o utjecaju umjetne inteligencije na društvo. Svaki put kad je odgovor prestao. Jedna od opcija ovdje je da ga zamolite da označi neke teme za esej o umjetnoj inteligenciji, a zatim koristite isporučene točke kao pojedinačne upite.
3. Koristite opciju Regeneriraj: Iako bi ovo moglo dovesti do iste pogreške, bez ičega za izgubiti, uvijek vrijedi pokušati.
4. Odredite gornju granicu broja riječi u upitu: Slika ispod ilustrira kako se to može koristiti za manipuliranje maksimalnim brojem riječi u odgovoru.

Ovi savjeti pomoći će vam da dobijete potpunije odgovore od ChatGPT-a i zaobiđete neslužbeno ograničenje u duljini njegovih odgovora.

ChatGPT: Kvaliteta ispred kvantitete

Iako nema postavljenih ograničenja za duljinu odgovora ChatGPT-a, čini se da platforma nameće ograničenje od oko pet stotina riječi ili 4000 znakova.

To se uglavnom može pripisati velikoj potražnji za ChatGPT-om. To je dovelo do nepotpunih odgovora i zaustavljanja odgovora usred rečenice, ali postoje jednostavna rješenja koja će vam pomoći da dobijete duže odgovore.

Unatoč svojim ograničenjima, ChatGPT ostaje izvanredan tehnološki razvoj koji će se nastaviti razvijati i širiti granice kvalitete i kvantitete svojih rezultata.