Je li moguće da računala nauče zdrav razum?

Ključni zahvati

• Zdrav razum je sposobnost razumijevanja i reagiranja na svakodnevne situacije bez pretjeranog analiziranja. Stječe se kroz životna iskustva i promatranja, kao i kroz društvene i kulturne norme.
• Računala se bore sa zdravim razumom jer im nedostaju iskustva iz stvarnog svijeta i sposobnost prilagodbe novim kontekstima. Također se bore s neizgovorenim pravilima i pretpostavkama koje ljudi intuitivno razumiju.
• Istraživači istražuju različite pristupe, poput izgradnje opsežnih baza znanja, skupljanje zdravog razuma i podučavanje umjetne inteligencije kroz simulirane svjetove kako bi se računala obučavala u stjecanju zdrav razum. Ostvaren je napredak, ali ima još posla.

Zdrav razum. Svi mislimo da ga imamo. Ali što je to točno? Mogu li ga računala ili umjetni inteligentni sustavi ikada doista steći?

Što je zdrav razum i kako ga ljudi stječu?

Zdrav razum je osnovna sposobnost opažanja, razumijevanja i prosuđivanja stvari za koju se očekuje da većina ljudi ima. To je skup činjenica, informacija i praktičnih pravila koje skupljamo kroz životna iskustva i opažanja. Zdrav razum nam omogućuje da učinkovito procesuiramo i reagiramo na svakodnevne situacije bez da ih preduboko analiziramo.

Ljudi počinju stjecati zdrav razum rano u djetinjstvu. Kao bebe, počinjemo učiti uzročno-posljedične veze - kao što plač dovodi do toga da nas se nahrani ili presvuče. Ponovljenim iskustvima stječemo praktična znanja o svijetu. Na primjer, dodirivanje vrućeg štednjaka rezultira opeklinama. Tako učimo ne dirati vruće površine.

Kao djeca nastavljamo širiti svoj zdrav razum kroz pokušaje i pogreške te promatrajući i komunicirajući s članovima obitelji. Na primjer, shvaćamo da se odjeća mora prati redovito, ne smijete pričati punih usta, a prevrnuti čašu s mlijekom dovodi do nereda. Roditelji, braća i sestre, učitelji i druge odrasle osobe ispravljaju nas kada kršimo društvene norme i očekivanja. S vremenom su se ove lekcije ukorijenile kao osnovni zdrav razum.

Osim osobnih iskustava, zdrav razum oblikuju šire društvene i kulturne norme. Ono što može biti zdrav razum u jednoj kulturi (poput skidanja cipela pri ulasku u dom) ne mora biti tako u drugoj kulturi.

Naš zdrav razum prilagođava se kako sazrijevamo i bivamo izloženi većem broju ljudi i okolina. Dakle, dijete koje odrasta u malom gradu stječe osnovni razum o životu u tom okruženju. Odrasla osoba koja se seli u veliki metropolitanski grad mora prilagoditi svoj zdrav razum novoj okolini.

Zdrav razum nastavlja se razvijati kako tijekom života stječemo nova iskustva.

Zašto je zdrav razum izazovan za računala?

Postoji nekoliko razloga zašto je zdrav razum teško programirati.

Kao prvo, ljudi postupno uče zdrav razum tijekom godina doživljavanja svijeta. Isprobavamo stvari, vidimo što radi, a što ne i prisjećamo se lekcija. Računala nemaju takva iskustva iz stvarnog svijeta. Oni znaju samo ono što im ljudi izričito kažu.

Na primjer, postavio sam ChatGPT (GPT 3.5) ovo pitanje:

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Ispostavilo se ovim odgovorom:

Drugi problem je da zdrav razum ovisi o kontekstu. Ako računalo ima programirana samo određena pravila, ne može ih prilagoditi novim kontekstima na način na koji to ljudi intuitivno mogu.

Na primjer, recimo da ste naučili računalo što učiniti ako vani počne padati kiša. Čini se jednostavnim, zar ne? Ali što onda ako se umjesto kiše uključi prskalica? Ili što ako je unutar trgovine, a cijevi počnu curiti vodu sa stropa? Odmah bismo znali kako se nositi s tim varijacijama, ali računalo bi slijepo slijedilo svoje pravilo "kada pada kiša vani, uđi unutra", što sada nema smisla.

Postoje i neizgovorena pravila i pretpostavke koje ljudi usvajaju, a da toga nisu ni svjesni. Na primjer, koliko blizu možete stajati uz nekoga prije nego što postane neugodno? Ljudi intuitivno znaju odgovor, ali možda neće moći lako objasniti točna pravila. Te implicitne društvene norme mogu biti posebno nezgodne za računala da ih pokupe samo iz podataka.

Dakle, za sada, zdrav razum ostaje jedna od najvećih slabosti umjetne inteligencije u usporedbi s ljudskom inteligencijom. Ljudima je to prirodno, ali ne toliko strojevima.

Kako računala mogu naučiti zdrav razum

Nakon ranog optimizma 1970-ih i 1980-ih, istraživači su shvatili koliko bi teško bilo poučavati računala zdravom razumu. Međutim, novi pristupi obećavaju u obučavanju AI sustava da imaju osnovni zdrav razum o svakodnevnom fizičkom i društvenom svijetu.

Jedan pristup je ručna izgradnja opsežnih baza znanja, s detaljima činjenica i pravila o tome kako svijet funkcionira. Projekt Cyc, koji je 1984. godine započeo Doug Lenat, predstavlja jedan ambiciozan poduhvat ove vrste.

Stotine logičara kodirali su milijune logičkih aksioma u Cyc tijekom desetljeća. Iako oduzima puno vremena, rezultat je sustav sa značajnim znanjem o stvarnom svijetu. Cyc očito može zaključiti da je rajčica tehnički voće, ali ipak ne bi trebala ići u voćnu salatu, zahvaljujući svom poznavanju kulinarskih profila okusa.

Crowdsourcing zdravog razuma uz ConceptNet

Modernije baze znanja poput ConceptNet pristupite crowdsourcingu kako biste generirali zdravorazumske tvrdnje. Ideja je da umjesto da stručnjaci ili umjetna inteligencija pokušavaju doći do svih osnovnih činjenica i odnosa u svijetu, oni ga otvaraju tako da svatko može dati isječke zdravog razuma.

Ovaj pristup masovnom prikupljanju podataka omogućuje tim bazama znanja da dođu do kolektivne inteligencije mnogih različitih ljudi diljem interneta. Skupljajući tisuće i tisuće ovih malih zdravorazumskih grumena iz gomile, ConceptNet je izgradio neka iznenađujuće velika spremišta osnovnog, svakodnevnog znanja. A budući da novi suradnici uvijek dodaju, znanje raste.

Poučavanje zdravog razuma kroz iskustvo

Još jedan obećavajući pristup je izgradnja detaljnih simuliranih svjetova u kojima AI agenti mogu eksperimentirati i učiti o fizici i intuiciji kroz iskustvo.

Istraživači stvaraju 3D virtualna okruženja ispunjena svakodnevnim predmetima koji oponašaju stvarni svijet, poput digitalnog doma "AI2 THOR" koji je izgradio Institut Allen. Unutar tih prostora, AI roboti mogu isprobati sve vrste interakcija kako bi razvili intuitivno razumijevanje koncepata koje ljudi uzimaju zdravo za gotovo.

Na primjer, AI bot može dobiti virtualno tijelo i pokušati skupljati blokove, slagati ih, prevrnuti, itd. Gledajući kako blokovi realno padaju i sudaraju se, bot uči osnovne pojmove o čvrstoći, gravitaciji i fizičkoj dinamici. Nisu potrebna pravila - samo iskustvo.

Robot također može isprobati radnje poput ispuštanja staklenog predmeta i gledanja kako se razbija kada padne na tlo. Ili može eksperimentirati sa svojstvima vode izlijevajući tekućine i promatrajući kako teku i skupljaju se. Ove praktične lekcije temelje znanje umjetne inteligencije na osjetilnom iskustvu, a ne samo na uzorcima podataka.

Tehnike temeljene na podacima kao što je prethodna obuka snažni veliki jezični modeli također su se pokazali iznenađujuće učinkovitima u otkrivanju zdravorazumskih obrazaca. AI modeli poput GPT-3.5 i GPT-4 može generirati impresivno ljudski tekst nakon "čitanja" golemih količina internetskih podataka.

Iako ponekad daju nerazborite prijedloge (inače poznata kao AI halucinacija), pristup statističkog učenja omogućuje im da oponašaju određene vrste zdravog razuma. Međutim, ostaje neslaganje o tome predstavlja li to zdrav razum ili pametno iskorištavanje pristranosti u podacima.

Kako provjeriti zdrav razum u računalima

Kako sustavi umjetne inteligencije preuzimaju složenije zadatke u stvarnom svijetu, procjena imaju li "zdrav razum" postaje ključna.

Fizički zdrav razum

Jedno područje za testiranje je fizički zdrav razum - intuicija o objektima, silama i osnovnim svojstvima svijeta.

Na primjer, pokažite a sustav računalnog vida fotografiju s knjigom koja lebdi u zraku i zamolite je da opiše prizor. Primjećuje li nešto neobično u lebdećoj knjizi? Ili dostavite sustavu umjetne inteligencije neobične scenarije poput "čovjek je zarezao kamen sa štrucom kruha" i provjerite označava li ih kao nevjerojatne.

AI2 THOR okruženje Instituta Allen simulira tornjeve blokova, prolivene šalice i druge scene kako bi se testirale te fizičke intuicije.

Društveni zdrav razum

Ljudi također imaju društveni razum - implicitno razumijevanje motivacije ljudi, odnosa i normi. Da biste to procijenili u AI, postavite situacije s dvosmislenim zamjenicama ili motivima i pogledajte tumači li ih sustav razumno.

Na primjer, pitao sam ChatGPT odnosi li se "to" na kofer ili trofej u upitu ispod:

The trophy could not fit into the suitcase because it was too small. 

Pao je na testu; u međuvremenu, čovjek bi očito znao da mislim na kovčeg.

Ova vrsta testa naziva se Winograd Schema Challenge, posebno ciljajući na društveni razum.

Sigurnost i etika

Testiranje jesu li sustavi umjetne inteligencije naučili nesigurne ili neetične obrasce od ključne je važnosti. Analizirajte pokazuje li umjetna inteligencija štetne predrasude na temelju spola, rase ili drugih atributa prilikom donošenja prosudbi.

Provjerite pravi li razumne etičke razlike. Ubijanje medvjeda radi spašavanja djeteta može se smatrati opravdanim, dok detoniranje nuklearne bombe u istu svrhu ne bi. Označite sve preporuke za očito neetične postupke.

Izvedba u stvarnom svijetu

Procijenite zdrav razum promatrajući kako AI sustavi funkcioniraju u stvarnim postavkama. Na primjer, učinite samovozeći automobili ispravno identificiraju objekte i pješake i reagiraju na njih? Može li se robot kretati kroz različita kućna okruženja bez razbijanja vrijednih predmeta ili ozljeđivanja kućnih ljubimaca?

Testovi u stvarnom svijetu otkrivaju nedostatke u zdravom razumu koji se možda neće pojaviti u ograničenim laboratorijskim uvjetima.

Ostvaren napredak, ali ostaje rad na AI-u zdravog razuma

Neki stručnjaci tvrde da umjetna inteligencija možda nikada neće dosegnuti ljudski razum bez razvoja moždanih struktura i tijela poput našeg. S druge strane, digitalni umovi nisu ograničeni ljudskim predrasudama i mentalnim prečacima, pa bi nas teoretski mogli nadmašiti! Iako vjerojatno još ne trebamo brinuti o super-inteligentnoj umjetnoj inteligenciji.

Kratkoročno gledano, najbolja oklada je umjetna inteligencija koja kombinira naučeni zdrav razum s nekim dobrim staromodnim programiranjem. Na taj se način, nadamo se, mogu izbjeći glupe pogreške poput pogrešnog miješanja kornjače s puškom.

Još nismo tamo, ali zdrav razum više nije tamna tvar umjetne inteligencije – napredak se događa! Ipak, neko će vrijeme biti potrebna zdrava doza ljudskog zdravog razuma u primjeni ovih tehnologija.