Evo zašto znanstvenici misle da biste se trebali brinuti zbog umjetne inteligencije

Oglas

Tijekom posljednjih nekoliko mjeseci možda ste pročitali okolnost koja pokriva članak u koautoru Stephena Hawkinga, raspravljajući o rizicima povezanima s umjetnom inteligencijom. U članku se sugerira da AI može predstavljati ozbiljan rizik za ljudski rod. Hawking nije sam tamo - Elon Musk i Peter Thiel obje su intelektualne javne osobe koje su izrazile sličnu zabrinutost (Thiel je uložio više od 1,3 milijuna dolara u istraživanje problema i mogućih rješenja).

Pokrivanje Hawkingovog članka i Muskinih komentara bili su, da ne bi to previše finirali, pomalo veselo. Ton je bio jako "Pogledajte ovu neobičnu stvar za koju se svi ti gejeri brinu." Malo se razmatra ideja da ako neki od najpametnijih ljudi na Zemlji upozoravaju da bi nešto moglo biti vrlo opasno, to bi moglo biti vrijedno osluškivati.

To je razumljivo - umjetna inteligencija koja preuzima svijet sigurno zvuči vrlo čudno i nevjerojatna, možda zbog goleme pozornosti koju je ovoj ideji već dala znanstvena fantastika pisci. Dakle, što su se svi ovi nominalno razumni, racionalni ljudi toliko sablaznili?

Što je inteligencija?

Da bismo razgovarali o opasnosti od umjetne inteligencije, moglo bi biti korisno razumjeti što je inteligencija. Da bismo bolje razumjeli problem, pogledajmo igračku AI arhitekturu koju koriste istraživači koji proučavaju teoriju rasuđivanja. Ova igračka AI naziva se AIXI i ima niz korisnih svojstava. Ciljevi su mu mogu biti proizvoljni, dobro se podudaraju s računarskom snagom, a njegov unutarnji dizajn vrlo je čist i jasan.

Nadalje, možete implementirati jednostavne, praktične verzije arhitekture koje mogu raditi poput glumi Pacmana, ako želiš. AIXI je proizvod AI istraživača po imenu Marcus Hutter, vjerojatno najznačajniji stručnjak za algoritmičku inteligenciju. To je on koji govori u gornjem videu.

AIXI je iznenađujuće jednostavan: ima tri osnovne komponente: učenik, projektant, i korisna funkcija.

• učenik uzima nizove bitova koji odgovaraju unosu o vanjskom svijetu i pretražuje računalne programe dok ne nađe one koji daju svoja zapažanja kao izlaz. Ovi programi, zajedno, omogućuju pretpostavke o tome kako će izgledati budućnost, jednostavno pokretanjem svakog program naprijed i vaganje vjerojatnosti rezultata prema duljini programa (implementacija Occamovih Britva).
• projektant pretražuje moguće radnje koje agent može poduzeti, i pomoću modula za učenje predviđa što će se dogoditi ako se dogodi svaka od njih. Zatim ih ocjenjuje prema tome koliko su dobri ili loši predviđeni rezultati i odabire tijek aktivnost koja maksimizira dobrotu očekivanog ishoda pomnoženo s očekivanom vjerojatnošću postižući ga.
• Posljednji modul, korisna funkcija, jednostavan je program koji sadrži opis budućeg stanja svijeta i izračunava korisni rezultat za to. Ovaj rezultat korisnosti je koliko je dobar ili loš taj ishod, a planer ga koristi za ocjenu buduće svjetske države. Funkcija uslužnog programa može biti proizvoljna.
• Ove tri komponente zajedno čine tvornicu optimizaciju, što optimizira za određeni cilj, bez obzira na svijet u kojem se nalazi.

Ovaj jednostavan model predstavlja osnovnu definiciju inteligentnog agenta. Agent proučava svoje okruženje, izrađuje njegove modele, a zatim koristi te modele kako bi pronašao tijek akcije koji će mu povećati izglede dobivajući ono što želi. AIXI je po strukturi sličan AI koji igra šah ili druge igre s poznatim pravilima - osim što je u stanju zaključiti pravila igre igrajući ga, počevši od nula znanja.

AIXI, s obzirom na dovoljno vremena za računanje, može naučiti optimizirati bilo koji sustav za bilo koji cilj, koliko god složen. To je općenito inteligentan algoritam. Imajte na umu da ovo nije isto što i inteligencija nalik čovjeku (biološki nadahnuti AI je a potpuno drugačija tema Giovanni Idili iz OpenWorma: Mozak, crvi i umjetna inteligencijaSimulacija ljudskog mozga je put, ali projekt otvorenog koda poduzima vitalne prve korake, simulirajući neurologiju i fiziologiju jedne od najjednostavnijih životinja poznatih znanosti. Čitaj više ). Drugim riječima, AIXI možda može nadmašiti bilo kojeg čovjeka u bilo kojem intelektualnom zadatku (s obzirom na dovoljno računalne snage), ali možda nije svjestan svoje pobjede Strojevi za razmišljanje: Što nas neuroznanost i umjetna inteligencija mogu naučiti o svijestiMože li nas izgradnja umjetno inteligentnih strojeva i softvera poučavati o radu svijesti i o prirodi samog ljudskog uma? Čitaj više .

Kao praktični AI, AIXI ima puno problema. Prvo, nema načina da pronađe one programe koji proizvode izlaz koji bi ga zanimao. To je algoritam brutalne sile, što znači da nije praktično ako vam se ne dogodi da arbitrarno moćno računalo leži okolo. Svaka stvarna primjena AIXI-a nužno je aproksimacija, i (danas) općenito prilično surova. Ipak, AIXI nam pruža teoretski pogled na to kako moćna umjetna inteligencija može izgledati i kako bi mogla rasuđivati.

Prostor vrijednosti

Ako radili ste bilo koji računalni program Osnove računalnog programiranja 101 - varijable i tipovi podatakaPredstavivši se i porazgovarajući o objektno orijentiranom programiranju prije i gdje je njegov imenjak dolazi od, mislio sam da je vrijeme da prođemo apsolutne osnove programiranja u jeziku koji nije specifičan put. Ovaj... Čitaj više , znate da su računala neugledno, pedantno i mehanički doslovno. Stroj ne zna niti ga zanima što želite: radi samo ono što mu je rečeno. Ovo je važan pojam kada govorimo o strojnoj inteligenciji.

Imajući to na umu, zamislite da ste izmislili snažnu umjetnu inteligenciju - došli ste s pametnim algoritmima za generiranje hipoteza koje se podudaraju s vašim podacima i za stvaranje dobrog kandidata planovi. Vaš AI može riješiti opće probleme, a to može učinkovito i na modernom računalnom hardveru.

Sada je vrijeme za odabir uslužne funkcije koja će odrediti koje AI vrijednosti. Što biste trebali tražiti od nje? Zapamtite, stroj će biti odvratno, pedantno doslovan o bilo kojoj funkciji koju tražite da maksimizira, i nikad se neće zaustaviti - nema duha u stroj koji će se ikada 'probuditi' i odlučiti će promijeniti svoju uslužnu funkciju, bez obzira na to koliko poboljšanja učinkovitosti čini vlastitim rasuđivanje.

Eliezer Yudkowsky stavi na ovaj način:

Kao i u svim računalnim programiranjima, temeljni izazov i osnovna poteškoća AGI je da ako napišemo pogrešan kôd, AI neće automatski pogledati naš kod, otkriti pogreške, shvatiti što smo stvarno htjeli reći i učiniti to umjesto toga. Neprogrameri ponekad zamišljaju AGI ili računalne programe općenito kao analogne sluzi koja neupitno slijedi naredbe. Ali nije da je AI apsolutno poslušan na svoj kod; radije, AI jednostavno je kod.

Ako pokušavate upravljati tvornicom, a kažete stroju da izrađuje spajalice, a zatim mu date kontrolu nad hrpom tvorničkih robota, mogao bi se vratiti sljedeći dan i otkrio da mu je ponestalo svakog drugog oblika sirovine, ubio sve vaše zaposlenike i pravio papirne kopče od njihovih ostaci. Ako pokušate ispraviti svoje nepravde, reprogramirate stroj da jednostavno usreći sve, možete se vratiti sutradan i pronaći ga kako stavlja žice u mozak ljudi.

Stvar je ovdje u tome što ljudi imaju mnogo kompliciranih vrijednosti za koje pretpostavljamo da se implicitno dijele s ostalim umovima. Vrijedimo novac, ali više cijenimo ljudski život. Želimo biti sretni, ali ne moramo nužno stavljati žice u mozak da bismo to postigli. Ne osjećamo potrebu da razjasnimo te stvari kada dajemo upute drugim ljudskim bićima. Me utim, ne možete donositi takve pretpostavke dok dizajnirate uslužnu funkciju stroja. Najbolja rješenja iz bezdušne matematike jednostavne korisne funkcije često su rješenja koja bi ljudska bića smatrala moralnim zastrašujućim.

Dopuštanje inteligentnom stroju da maksimizira naivnu korisnu funkciju gotovo će uvijek biti katastrofalno. Kako to kaže filozof iz Oxforda Nick Bostom,

Ne možemo s lakoćom pretpostaviti da će nadinteligencija nužno dijeliti bilo koju od konačnih vrijednosti stereotipno povezanih s mudrošću i intelektualni razvoj u ljudima - znanstvena znatiželja, dobronamjerna briga za druge, duhovno prosvjetljenje i razmišljanje, odricanje od materijalne isplativosti, ukus za profinjenu kulturu ili jednostavne užitke u životu, poniznost i nesebičnost i itd.

Da stvar bude još gora, vrlo je, vrlo teško odrediti potpun i detaljan popis svega što ljudi cijene. Pitanje je puno, a zaboraviti čak ni jedan potencijalno je katastrofalno. Čak i među onima kojih smo svjesni, postoje suptilnosti i složenosti koje ih otežavaju zapisati kao čiste sustave jednadžbi koje možemo dati stroju kao korisnu funkciju.

Neki ljudi, čitajući ovo, zaključuju da je stvaranje AI-a s uslužnim funkcijama užasna ideja, i trebali bismo ih samo drugačije osmisliti. Tu su i loše vijesti - to možete i formalno dokazati bilo koji agent koji nema nešto ekvivalentno uslužnoj funkciji ne može imati koherentne postavke o budućnosti.

Rekurzivno samopoboljšanje

Jedno rješenje gornje dileme je ne dati agentima AI priliku da povrijede ljude: pružite im samo sredstva koja su im potrebna riješite problem na način na koji namjeravate da ga riješite, nadgledajte ih pomno i držite ih podalje od sjajnih prilika štete. Nažalost, naša sposobnost upravljanja inteligentnim strojevima vrlo je sumnjiva.

Čak i ako nisu mnogo pametniji od nas, postoji mogućnost da uređaj "pokrene" sigurnosne kopije - prikupi bolji hardver ili poboljša poboljšanja vlastitog koda što ga čini još pametnijim. To bi moglo omogućiti mašini da preskoči ljudsku inteligenciju za mnoge veličine, nadmudrivši ljude u istom smislu kao što ljudi nadmašuju mačke. Taj je scenarij prvi predložio čovjek po imenu I. J. Dobar, koji je radio s projektom analize kripti Enigma s Alanom Turingom tijekom Drugog svjetskog rata. Nazvao ga je "Obavještajnom eksplozijom" i ovako opisao stvar:

Neka se ultrainteligentni stroj definira kao stroj koji može daleko nadmašiti sve intelektualne aktivnosti bilo kojeg čovjeka, ma koliko pametne. Budući da je dizajn strojeva jedna od tih intelektualnih aktivnosti, ultrainteligentni stroj mogao bi dizajnirati još bolje strojeve; Tada bi nesumnjivo došlo do "eksplozije inteligencije", a čovjekova inteligencija bila bi ostavljena daleko iza. Dakle, prvi ultrainteligentni stroj posljednji je izum koji čovjek treba ikad napraviti, pod uvjetom da je stroj dovoljno poslušan.

Nije zajamčeno da je u našem svemiru moguća eksplozija inteligencije, ali čini se vjerojatnim. Kako vrijeme prolazi, računala dobivaju brži i osnovni uvid u stvaranje inteligencije. To znači da je zahtjev za resursima da bi se zadnji skok pretvorio u opću, poticajnu inteligenciju padao sve niže i niže. U nekom ćemo se trenutku naći u svijetu u kojem milijuni ljudi mogu doći do Best Buy-a i preuzeti hardver i tehnička literatura im je potrebna za izgradnju umjetničke inteligencije koja se poboljšava, što smo već uspostavili opasno. Zamislite svijet u kojem biste mogli napraviti atomske bombe iz štapova i stijena. To je vrsta budućnosti o kojoj razgovaramo.

A ako neki stroj napravi taj skok, to bi vrlo brzo moglo nadmašiti ljudsku vrstu u smislu intelektualnog produktivnost, rješavanje problema koje milijarda ljudi ne može riješiti, na isti način na koji ljudi mogu riješiti probleme koji milijarda mačaka ne može

Može razviti snažne robote (ili bio ili nanotehnologiju) i relativno brzo steći sposobnost da preoblikuje svijet po svojoj volji, a to bi moglo učiniti vrlo malo. Takva bi inteligencija mogla bez velikih poteškoća skinuti Zemlju i ostatak Sunčevog sustava za rezervne dijelove na putu da učini ono što smo joj rekli. Čini se vjerovatnim da bi takav razvoj događaja mogao biti katastrofalan za čovječanstvo. Umjetna inteligencija ne mora biti zlonamjerna da bi uništila svijet, samo katastrofalno ravnodušna.

Kao što izreka kaže: "Stroj vas ne voli ili mrzi, ali vi ste napravljeni od atoma koje može koristiti za druge stvari."

Procjena i ublažavanje rizika

Dakle, ako prihvatimo da je dizajniranje snažne umjetne inteligencije koja maksimizira jednostavnu korisnu funkciju loše, u koliko nevolja zapravo radimo? Koliko vremena imamo prije nego što je moguće izraditi takve vrste strojeva? To je, naravno, teško reći.

Programeri umjetne inteligencije su napredovati. 7 nevjerojatnih web stranica koje možete vidjeti najnovije u programu umjetne inteligencijeUmjetna inteligencija još nije HAL iz 2001.: Svemirska odiseja…, ali sve smo blizu. Svakako, jednog dana moglo bi biti slično onom znanstveno-fantastičnih potkolera koji su izbacili iz Hollywooda ... Čitaj više Strojevi koje gradimo i problemi koje mogu riješiti neprestano rastu. 1997. godine Deep Blue mogao je igrati šah na razini većoj od ljudskog velemajstora. 2011. godine IBM-ov Watson mogao je duboko i brzo čitati i sintetizirati dovoljno informacija da pobijedi najbolje ljude igrači na otvoreno pitanje i odgovor na igru ​​prepunu puna i igru ​​riječi - to je veliki napredak u četrnaest godine.

Trenutno je Google ulaže mnogo u istraživanje dubokog učenja, tehnika koja omogućuje izgradnju moćnih neuronskih mreža izgradnjom lanaca jednostavnijih neuronskih mreža. Ta investicija omogućava mu da postigne ozbiljan napredak u prepoznavanju govora i slike. Njihova najnovija akvizicija u tom području je start-up Deep Learning nazvan DeepMind, za koji su platili približno 400 milijuna dolara. Kao dio ugovora, Google se složio da će stvoriti etičku ploču kako bi se osiguralo sigurno razvijanje njihove AI tehnologije.

Istodobno, IBM razvija Watson 2.0 i 3.0, sustave koji su u stanju obrađivati ​​slike i video zapise i pokušati obraniti zaključke. Dali su jednostavan, rani prikaz Watsonove sposobnosti da sintetizira argumente za i protiv teme u video demonstraciji ispod. Rezultati su nesavršeni, ali bez obzira na to impresivan korak.

Nijedna od ovih tehnologija trenutno nije opasna: umjetna inteligencija kao polje još se bori kako bi uskladila sposobnosti koje savladava mala djeca. Računalno programiranje i dizajn AI vrlo je teška kognitivna vještina na visokoj razini i vjerojatno će biti posljednji ljudski zadatak u kojem strojevi postaju vješti. Prije nego što stignemo do toga, imat ćemo i sveprisutne strojeve to može voziti Evo kako ćemo doći do svijeta ispunjenog automobilima bez vozačaVožnja je naporan, opasan i zahtjevan zadatak. Može li se jednog dana automatizirati Googleova tehnologija za automobile bez vozača? Čitaj više , baviti medicinom i pravom, a vjerojatno i druge stvari, s dubokim ekonomskim posljedicama.

Vrijeme koje će nam trebati da dođemo do prelomnog mjesta samo-poboljšanja ovisi samo o tome koliko brzo imamo dobre ideje. Očekivano je teško predvidjeti takve tehnološke pomake. Ne čini se nerazumnim da bismo mogli stvoriti jak AI za dvadeset godina, ali isto tako ne izgleda nerazumno da bi moglo potrajati osamdeset godina. Bilo kako bilo, to će se dogoditi na kraju, i postoji razlog da vjerujemo da će, kad se to dogodi, biti izuzetno opasno.

Dakle, ako prihvatimo da će to biti problem, što možemo učiniti u vezi s tim? Odgovor je osigurati da su prvi inteligentni strojevi sigurni, kako bi mogli pokrenuti značajnu razinu inteligencije, a zatim nas zaštititi od nesigurnih strojeva napravljenih kasnije. Ta se "sigurnost" definira dijeljenjem ljudskih vrijednosti i spremnošću da zaštiti i pomogne čovječanstvu.

Budući da zapravo ne možemo sjesti i programirati ljudske vrijednosti u stroj, vjerojatno će biti potrebno osmisliti uslužnu funkciju koja zahtijeva da stroj promatrajte ljude, zaključite naše vrijednosti i pokušajte ih maksimizirati. Da bi se ovaj proces razvoja učinio sigurnim, također bi moglo biti korisno razviti umjetne inteligencije koje su posebno dizajnirane ne imati postavke o njihovim uslužnim funkcijama, omogućujući nam da ih ispravimo ili isključimo bez otpora ako se tijekom razvoja zaljube.

Mnogi problemi koje moramo riješiti da bismo izgradili sigurnu strojnu inteligenciju su matematički teški, ali postoji razlog da vjerujemo da se mogu riješiti. Na tom pitanju surađuje niz različitih organizacija, uključujući i Budućnost Instituta za humanost u Oxfordu, i Institut za strojnu inteligenciju (koju Peter Thiel financira).

MIRI je zainteresiran upravo za razvijanje matematike potrebne za izgradnju Friendly AI-a. Ako se pokaže da je moguće pokrenuti umjetnu inteligenciju, tada razvijamo ovu vrstu Prvo ako tehnologija bude uspješna, prijateljska AI tehnologija može postati najveća stvar koju ljudi imaju ikad učinjeno.

Mislite li da je umjetna inteligencija opasna? Zabrinuti ste što bi budućnost AI mogla donijeti? Podijelite svoje misli u odjeljku s komentarima u nastavku!

Slikovni krediti: Lwp Kommunikáció Via Flickr, “Živčana mreža", Fdecomite," img_7801", Steve Rainwater," E-Volve ", Keoni Cabral,"new_20x", Robert Cudmore,"Spajalice“, Autor Clifford Wallace