ChatGPT je snažan novi AI chatbot koji brzo impresionira, no mnogi su ljudi istaknuli da ima neke ozbiljne zamke. Pitajte ga što god želite i dobit ćete odgovor koji zvuči kao da ga je napisao čovjek, naučivši svoje znanje i vještine pisanja iz masovnih količina informacija na internetu.
Međutim, baš kao i internet, istina i činjenice nisu uvijek dane i ChatGPT je kriv što je pogrešno shvatio. Budući da će ChatGPT promijeniti našu budućnost, evo nekih od najvećih briga.
Što je ChatGPT?
ChatGPT je veliki model učenja jezika koji je dizajniran da oponaša ljudski razgovor. Može se sjetiti stvari koje ste mu rekli u prošlosti i sposobno je ispraviti se kada je pogriješilo.
Piše na ljudski način i ima bogato znanje jer je trenirao na svim vrstama teksta s interneta, poput Wikipedije, postova na blogu, knjiga i akademskih članaka.
Lako se uči kako koristiti ChatGPT, ali ono što je veći izazov je otkriti koji su njegovi najveći problemi. Evo nekih o kojima vrijedi znati.
1. ChatGPT nije uvijek u pravu
Ne uspijeva u osnovnoj matematici, čini se da ne može odgovoriti na jednostavna logička pitanja, a čak će ići toliko daleko da argumentira potpuno netočne činjenice. Kao što korisnici društvenih medija mogu potvrditi, ChatGPT može pogriješiti u više navrata.
OpenAI zna za ovo ograničenje, pišući da: "ChatGPT ponekad piše odgovore koji zvuče uvjerljivo, ali su netočni ili besmisleni." Ovaj "halucinacija" činjenica i fikcije, kako je nazivaju neki znanstvenici, posebno je opasna kada se radi o nečemu poput medicinskog savjet.
Za razliku od drugih AI pomoćnika kao što su Siri ili Alexa, Chat GPT ne koristi internet za lociranje odgovora. Umjesto toga, konstruira rečenicu riječ po riječ, odabirući najvjerojatniji "token" koji bi trebao doći sljedeći, na temelju svoje obuke.
Drugim riječima, ChatGPT dolazi do odgovora nizom nagađanja, što je dio razloga zašto može argumentirati pogrešne odgovore kao da su potpuno istiniti.
Iako je izvrstan u objašnjavanju složenih pojmova, što ga čini moćnim alatom za učenje, važno je ne vjerovati svemu što kaže. ChatGPT nije uvijek točan—barem ne još.
2. Pristranost je ugrađena u sustav
ChatGPT je obučen o kolektivnom pisanju ljudi diljem svijeta, prošlosti i sadašnjosti. To znači da se iste pristranosti koje postoje u podacima mogu pojaviti iu modelu.
Zapravo, korisnici su pokazali kako ChatGPT može dati neke užasne odgovore, neki, na primjer, koji diskriminiraju žene. Ali to je samo vrh ledenog brijega; može dati odgovore koji su izuzetno štetni za niz manjinskih skupina.
Krivica ne leži samo u podacima. OpenAI istraživači i programeri biraju podatke koji se koriste za obuku ChatGPT-a. Kako bi pomogao u rješavanju onoga što OpenAI naziva "pristranim ponašanjem", traži od korisnika da daju povratne informacije o lošim rezultatima.
Uz mogućnost nanošenja štete ljudima, možete tvrditi da ChatGPT nije trebao biti objavljen u javnosti prije nego što se ti problemi prouče i riješe.
Sličan AI chatbot pod nazivom Sparrow (u vlasništvu Googleove matične tvrtke, Alphabet) objavljen je u rujnu 2022. Međutim, držan je iza zatvorenih vrata zbog slične zabrinutosti da bi mogao uzrokovati štetu.
Možda je i Meta trebala uputiti upozorenje. Kada je objavio Galacticu, model jezika umjetne inteligencije uvježban na akademskim radovima, brzo je opozvan nakon što su je mnogi ljudi kritizirali zbog ispisivanja pogrešnih i pristranih rezultata.
3. Izazov srednjoškolskom engleskom jeziku
Možete zatražiti od ChatGPT-a da lektorira vaše pisanje ili vam pokaže kako poboljšati odlomak. Alternativno, možete se u potpunosti ukloniti iz jednadžbe i zamoliti ChatGPT da napiše nešto za vas.
Učitelji su eksperimentirali s unosom zadataka iz engleskog u ChatGPT i dobili odgovore koji su bolji od onoga što bi mnogi njihovi učenici mogli učiniti. Od pisanja propratnih pisama do opisivanja glavnih tema u poznatom književnom djelu, ChatGPT to može učiniti bez oklijevanja.
To nameće pitanje: ako ChatGPT može pisati za nas, hoće li učenici morati naučiti pisati u budućnosti? Možda se čini kao egzistencijalno pitanje, ali kada učenici počnu koristiti ChatGPT kao pomoć pri pisanju svojih eseja, škole će morati brzo smisliti odgovor. Brza implementacija umjetne inteligencije posljednjih godina šokirat će mnoge industrije, a obrazovanje je samo jedna od njih.
4. Može uzrokovati stvarnu štetu
Ranije smo spomenuli kako netočne informacije ChatGPT-a mogu uzrokovati štetu u stvarnom svijetu, a najočitiji primjer je pogrešan medicinski savjet.
Postoje i druge brige. Lažni računi na društvenim mrežama predstavljaju veliki problem na internetu, a uvođenjem AI chatbota internetske bi prijevare postale lakše izvodive. Širenje lažnih informacija još je jedna briga, pogotovo kada ChatGPT čini da čak i krivi odgovori zvuče uvjerljivo ispravno.
Brzina kojom ChatGPT može proizvesti odgovore koji nisu uvijek točni već je uzrokovala probleme Stack Exchangeu, web stranici na kojoj korisnici mogu postavljati pitanja i dobivati odgovore.
Ubrzo nakon objavljivanja, odgovori ChatGPT-a su zabranjeni sa stranice jer je veliki broj njih bio pogrešan. Bez dovoljno ljudi dobrovoljaca koji bi rješavali zaostatke, bilo bi nemoguće održati visoku razinu kvalitete odgovora, uzrokujući štetu web stranici.
5. OpenAI ima svu moć
S velikom moći dolazi i velika odgovornost, a OpenAI ima veliku moć. To je jedna od prvih AI tvrtki koja je istinski uzdrmala svijet ne s jednim, već s više AI modela, uključujući Dall-E 2, GPT-3, a sada i ChatGPT.
OpenAI bira koji će se podaci koristiti za treniranje ChatGPT-a i kako se nosi s negativnim posljedicama. Slagali se s metodama ili ne, nastavit će razvijati ovu tehnologiju prema vlastitim ciljevima.
Iako OpenAI sigurnost smatra visokim prioritetom, postoji mnogo toga što ne znamo o tome kako se modeli stvaraju. Bez obzira mislite li da kod treba biti otvorenog koda ili se slažete da njegove dijelove treba držati u tajnosti, ne možemo puno učiniti u vezi s tim.
Na kraju dana, sve što možemo učiniti je vjerovati da će OpenAI istraživati, razvijati i koristiti ChatGPT odgovorno. Alternativno, možemo zagovarati da više ljudi ima pravo glasa u kojem bi smjeru AI trebala ići, dijeleći snagu AI s ljudima koji će je koristiti.
Ako vas zanima što je još OpenAI razvio, pogledajte naše članke o tome kako koristiti Dall-E 2 i kako koristiti GPT-3.
Rješavanje najvećih problema umjetne inteligencije
Ima mnogo razloga za uzbuđenje s ChatGPT-om, najnovijim razvojem OpenAI-ja. Ali osim njegove neposredne upotrebe, postoje neki ozbiljni problemi koje vrijedi razumjeti.
OpenAI priznaje da ChatGPT može dati štetne i pristrane odgovore, a da ne spominjemo njegovu sposobnost miješanja činjenica s fikcijom. Uz takvu novu tehnologiju, teško je predvidjeti koji će se drugi problemi pojaviti. Do tada, uživajte u istraživanju ChatGPT-a i pazite da ne vjerujete svemu što kaže.