Danas se milijuni oslanjaju na ChatGPT kao koristan resurs, bilo da se radi o poslu, zabavi ili obrazovanju. No, možete li se osloniti da će ovaj AI chatbot uvijek pružiti činjenice? Laže li ChatGPT ikada ili će vam dati samo činjenične informacije?
Odakle ChatGPT dobiva informacije?
U svom razdoblju obuke, ChatGPT je dobivao podatke iz izvora diljem weba, kao što su vladine i agencijske web stranice, znanstveni časopisi, studije, novinski članci, podcasti, internetski forumi, knjige, baze podataka, filmovi, dokumentarni filmovi i društveni medijima.
Konkretno, ChatGPT-3 je obučen korištenjem opsežne baze podataka koja je iznosila 570 GB podataka. Kako je navedeno u članku iz Znanstveni fokus, 300 milijardi riječi informacija uneseno je u sustav GPT-3 tijekom njegovog razvoja.
Ovdje vrijedi napomenuti da je ChatGPT primao samo podatke koji su postojali prije 2021. To znači da chatbot ne može odgovoriti na pitanja koja se odnose na nedavne događaje. ChatGPT također nema pristup internetu. Podaci koje je ubacio tijekom obuke jedina su vrsta koju koristi za ispunjavanje korisničkih upita.
No pruža li vam ChatGPT samo činjenice ili su u njegove odgovore umiješane još neke dvosmislene informacije? Osim toga, može li vam ChatGPT lagati?
Laže li ChatGPT?
Iako ChatGPT često pruža istinite informacije korisnicima, on ima sposobnost "lagati". Naravno, ChatGPT se ne odlučuje zlonamjerno lagati korisnicima, jer to jednostavno ne može učiniti. Uostalom, ChatGPT je alat za obradu jezika, a ne imitacija stvarne, osjećajne osobe.
Međutim, ChatGPT tehnički još uvijek može lagati kroz fenomen poznat kao AI halucinacije.
AI halucinacije uključuje AI sustav koji pruža informacije koje se čine razumnim ili vjerojatnim, ali u stvarnosti uopće nisu istinite. U stvari, AI halucinacije mogu pružiti informacije da nikada nisu bile hranjene tijekom perioda obuke. Alternativno, može se dogoditi kada sustav umjetne inteligencije pruža informacije koje nisu povezane s upitom ili zahtjevom. AI sustav može čak tvrditi da je čovjek u halucinaciji.
Sustavi umjetne inteligencije, kao što su chatbotovi, upadaju u zamku halucinacija iz nekoliko razloga: zbog nedostatka razumijevanja stvarnog svijeta, programskih grešaka i ograničenja podataka.
Kao što je prethodno navedeno, ChatGPT može pružiti informacije samo pomoću podataka objavljenih do 2021., što svakako ograničava vrste upita koje može ispuniti.
Jedan od Veliki problemi ChatGPT-a je da također može postati žrtva pristranosti kada korisnicima daje informacije. Čak su i kreatori ChatGPT-a izjavili da je AI sustav u prošlosti bio "politički pristran, uvredljiv" i "na drugi način nepoželjan". Kako javlja The Independent, programeri ChatGPT-a predani su rješavanju ovog problema, ali to ne znači da više ne predstavlja rizik.
Na pitanje, ChatGPT je naveo da razlozi zbog kojih može dati netočne informacije uključuju sljedeće:
- Dvosmislenost u pitanju (nejasne, nejasne upute);
- Pružene nepotpune informacije;
- Pružene pristrane ili netočne informacije; ili,
- Tehnička ograničenja (uglavnom zbog nedostatka pristupa trenutnim podacima).
Dakle, sam ChatGPT je izjavio da postoje scenariji u kojima neće pružiti točne informacije korisnicima.
U drugom odgovoru u istom razgovoru, ChatGPT je izjavio da je "uvijek dobra ideja provjeriti sve informacije [koje pruža] s drugim izvorima."
Možete li vjerovati ChatGPT-u?
Jer može pružiti lažne informacije, jasno vam je ne mogu vjerovati ChatGPT-u 100% vremena.
Možete smanjiti rizik da AI chatbot halucinira postavljanjem specifičnih parametara o tome kako vam može odgovoriti. Međutim, još uvijek nema jamstva da se neke lažne informacije neće provući kroz pukotine.
Zbog toga je najbolje provjeriti sve informacije koje vam ChatGPT daje, osobito ako tražite informacije o nedavnim događajima. Dupla provjera ovih podataka upućivanjem na druge izvore može vam pomoći da utvrdite je li ChatGPT u pravu u onome što govori i može vas spriječiti u donošenju nepromišljenih odluka.
ChatGPT je koristan, ali nije uvijek istinit
Nažalost, ne možete se osloniti da će ChatGPT pružiti istinite, nepristrane informacije u 100% slučajeva. Ovaj chatbot koji pokreće umjetna inteligencija nedvojbeno je koristan i može vam pomoći na razne načine, ali uvijek je vrijedno provjeriti jesu li informacije koje pruža činjenične.