S milijunima korisnika ChatGPT-a, mogli biste se zapitati što OpenAI radi sa svim svojim razgovorima. Analizira li stalno stvari o kojima razgovarate s ChatGPT-om?
Odgovor na to je, da, ChatGPT uči iz unosa korisnika—ali ne na način na koji većina ljudi misli. Evo detaljnog vodiča koji objašnjava zašto ChatGPT prati razgovore, kako ih koristi i je li vaša sigurnost ugrožena.
Pamti li ChatGPT razgovore?
ChatGPT ne prihvaća upite zdravo za gotovo. Koristi kontekstualnu memoriju za pamćenje i referenciranje prethodnih unosa, osiguravajući relevantne, dosljedne odgovore.
Uzmite razgovor u nastavku kao primjer. Kad smo pitali ChatGPT za ideje za recepte, uzeo je u obzir našu prethodnu poruku o alergijama na kikiriki.
Evo sigurnog recepta ChatGPT-a.
Kontekstualna memorija također omogućuje AI izvršavanje zadataka u više koraka. Slika u nastavku prikazuje ChatGPT koji ostaje u znaku čak i nakon što mu unese novi upit.
ChatGPT može zapamtiti desetke uputa unutar razgovora. Njegov izlaz zapravo se poboljšava u točnosti i preciznosti kako pružate više konteksta. Samo svakako eksplicitno objasnite svoje upute.
Također biste trebali upravljati svojim očekivanjima jer kontekstualna memorija ChatGPT-a još uvijek ima ograničenja.
ChatGPT razgovori imaju ograničen kapacitet memorije
Kontekstualno pamćenje je ograničeno. ChatGPT ima ograničene hardverske resurse, tako da pamti samo određene točke trenutnih razgovora. Platforma zaboravlja prethodne upite nakon što dosegnete njezin kapacitet memorije.
U ovom smo razgovoru naložili ChatGPT-u da glumi izmišljenog lika po imenu Tomie.
Počeo je odgovarati na upite kao Tomie, a ne kao ChatGPT.
Iako je naš zahtjev uspio, ChatGPT je pokvario znak nakon što je primio upit od 1000 riječi.
OpenAI nikada nije otkrio točna ograničenja ChatGPT-a, ali glasine govore da može obraditi samo 3000 riječi odjednom. U našem eksperimentu, ChatGPT je pokvario nakon samo 2800+ riječi.
Možete podijeliti svoje upite u dva skupa od 1500 riječi, ali ChatGPT vjerojatno neće zadržati sve vaše upute. Jednostavno započnite novi chat. Inače ćete morati ponavljati određene detalje nekoliko puta tijekom razgovora.
ChatGPT pamti samo unose relevantne za temu
ChatGPT koristi kontekstualnu memoriju za poboljšanje točnosti izlaza. Ne zadržava informacije samo radi prikupljanja. Platforma gotovo automatski zaboravlja nebitne detalje, čak i ako ste daleko od dostizanja ograničenja tokena.
Na donjoj slici pokušavamo zbuniti AI raznim nekoherentnim, nebitnim uputama.
Držali smo naše kombinirane unose ispod 100 riječi, ali ChatGPT je i dalje zaboravio našu prvu uputu. To je brzo slomilo karakter.
U međuvremenu, ChatGPT je nastavio igrati ulogu tijekom ovog razgovora jer smo postavljali samo pitanja relevantna za temu.
U idealnom slučaju, svaki dijalog mora slijediti jedinstvenu temu kako bi se održali točni, relevantni rezultati. Još uvijek možete unijeti nekoliko uputa istovremeno. Samo osigurajte da su u skladu s cjelokupnom temom ili bi ChatGPT mogao izbaciti upute koje smatra nevažnima.
Upute za obuku nadjačavaju korisnički unos
ChatGPT će uvijek dati prednost unaprijed određenim uputama u odnosu na unos koji generira korisnik. Zaustavlja nedopuštene aktivnosti kroz ograničenja. Platforma odbija svaki upit koji smatra opasnim ili štetnim za druge.
Uzmite zahtjeve za igranje uloga kao primjer. Iako nadjačavaju određena ograničenja jezika i fraziranja, ne možete ih koristiti za počinjenje nedopuštenih aktivnosti.
Naravno, nisu sva ograničenja razumna. Ako krute smjernice otežavaju izvršavanje određenih zadataka, nastavite prepisivati svoje upute. Izbor riječi i ton jako utječu na rezultate. Možete se nadahnuti iz većine učinkovite, detaljne upute na GitHubu.
Kako OpenAI proučava razgovore korisnika?
Kontekstualno pamćenje odnosi se samo na vaš trenutni razgovor. ChatGPT-ova arhitektura bez statusa tretira razgovore kao neovisne instance; ne može referencirati informacije iz prethodnih. Pokretanje novih razgovora uvijek poništava stanje modela.
To ne znači da ChatGPT trenutačno izbacuje korisničke razgovore. OpenAI uvjeti korištenja navode da tvrtka prikuplja podatke od korisničkih servisa koji nisu API-ji kao što su ChatGPT i Dall-E. Možete čak zatražiti i kopije svoje povijesti razgovora.
Dok ChatGPT slobodno pristupa razgovorima, Politika privatnosti tvrtke OpenAI zabranjuje aktivnosti koje bi mogle ugroziti korisnike. Treneri mogu koristiti vaše podatke samo za istraživanje i razvoj proizvoda.
Programeri traže rupe u zakonu
OpenAI traži rupe u razgovorima. Analizira slučajeve u kojima ChatGPT pokazuje pristranost podataka, proizvodi štetne informacije ili pomaže u počinjenju nedopuštenih aktivnosti. Etičke smjernice platforme stalno se obnavljaju.
Na primjer, prve verzije ChatGPT je otvoreno odgovarao na pitanja o kodiranju zlonamjernog softvera ili konstruiranje eksploziva. Ovi su incidenti izazvali osjećaj kod korisnika OpenAI nema kontrolu nad ChatGPT-om. Kako bi povratio povjerenje javnosti, istrenirao je chatbot da odbija svako pitanje koje bi moglo biti u suprotnosti s njegovim smjernicama.
Treneri prikupljaju i analiziraju podatke
ChatGPT koristi tehnike nadziranog učenja. Iako platforma pamti sve unose, ne uči iz njih u stvarnom vremenu. OpenAI treneri ih prvi skupljaju i analiziraju. Time se osigurava da ChatGPT nikada ne apsorbira štetne, štetne informacije koje prima.
Učenje pod nadzorom zahtijeva više vremena i energije od tehnika bez nadzora. Međutim, prepuštanje umjetnoj inteligenciji da sama analizira unos već se pokazalo štetnim.
Uzmimo Microsoft Tay kao primjer — jedan od puta je strojno učenje pošlo po zlu. Budući da je neprestano analizirao tweetove bez smjernica programera, zlonamjerni su ga korisnici na kraju istrenirali da pljuje rasistička, stereotipna mišljenja.
Programeri neprestano paze na pristranosti
Nekoliko vanjski čimbenici uzrokuju pristranosti u AI. Nesvjesne predrasude mogu proizaći iz razlika u modelima obuke, pogrešaka skupa podataka i loše konstruiranih ograničenja. Uočit ćete ih u raznim AI aplikacijama.
Srećom, ChatGPT nikada nije pokazao diskriminatorne ili rasne predrasude. Možda najgora pristranost koju su korisnici primijetili je ChatGPT-ova sklonost lijevim ideologijama, prema New York Post izvješće. Platforma otvorenije piše o liberalnim nego o konzervativnim temama.
Kako bi riješio te predrasude, OpenAI je zabranio ChatGPT-u da u potpunosti pruža političke uvide. Može odgovoriti samo na općenite činjenice.
Moderatori recenziraju izvedbu ChatGPT-a
Korisnici mogu dati povratne informacije o rezultatima ChatGPT-a. Na desnoj strani svakog odgovora pronaći ćete gumbe za palac gore i palac dolje. Prvo označava pozitivnu reakciju. Nakon što pritisnete gumb za sviđanje ili nesviđanje, pojavit će se prozor u kojem možete poslati povratnu informaciju vlastitim riječima.
Sustav povratnih informacija je od pomoći. Samo dajte OpenAI-ju malo vremena da pregleda komentare. Milijuni korisnika redovito komentiraju ChatGPT — njegovi programeri vjerojatno daju prioritet ozbiljnim slučajevima pristranosti i generiranju štetnih rezultata.
Jesu li vaši ChatGPT razgovori sigurni?
S obzirom na politiku privatnosti OpenAI-ja, možete biti sigurni da će vaši podaci ostati sigurni. ChatGPT koristi samo razgovore za obuku podataka. Njegovi programeri proučavaju prikupljene uvide kako bi poboljšali točnost i pouzdanost izlaza, a ne krađu osobnih podataka.
Uz to rečeno, nijedan AI sustav nije savršen. ChatGPT nije inherentno pristran, ali zlonamjerni pojedinci i dalje mogu iskoristiti njegove ranjivosti, npr. pogreške skupa podataka, nemarno treniranje i sigurnosne rupe. Radi vaše zaštite, naučite se boriti protiv ovih rizika.
