Što je problem s maksimiziranjem spajalice i kako je povezan s umjetnom inteligencijom?

Umjetna inteligencija bila je tema rasprava od svog početka. Iako su strahovi da će umjetna inteligencija poput Skyneta oživjeti i preuzeti čovječanstvo u najmanju ruku iracionalni, neki eksperimenti dali su zabrinjavajuće rezultate.

Jedan takav eksperiment je problem maksimiziranja spajalice, misaoni eksperiment koji pokazuje da bi visoko inteligentna umjetna inteligencija, čak i ako je dizajnirana potpuno bez zlobe, u konačnici mogla uništiti čovječanstvo.

Objašnjen problem s maksimiziranjem spajalice

Ovaj misaoni eksperiment da čak i potpuno bezopasna umjetna inteligencija može na kraju izbrisati čovječanstvo prvo je nazvan Paperclip Maximizer jednostavno zato što su spajalice odabrane da pokažu što bi umjetna inteligencija mogla učiniti jer imaju malu očitu opasnost i neće uzrokovati emocionalni stres u usporedbi s drugim područjima na koja se ovaj problem odnosi, kao što je liječenje raka ili pobjeda ratovi.

Prvi eksperiment pojavio se u radu švedskog filozofa Nicka Bostroma iz 2003.

Etička pitanja u naprednoj umjetnoj inteligenciji, koji je uključivao maksimiziranje spajalice za prikaz egzistencijalnih rizika koje dovoljno napredna umjetna inteligencija može koristiti.

Problem je predstavljao AI čiji je jedini cilj bio napraviti što više spajalica za papir. Dovoljno inteligentna umjetna inteligencija bi prije ili kasnije shvatila da ljudi predstavljaju izazov njenom cilju iz tri različite točke.

• Ljudi bi mogli isključiti AI.
• Ljudi bi mogli promijeniti svoje ciljeve.
• Ljudi su napravljeni od atoma koji se mogu pretvoriti u spajalice.

U sva tri primjera bilo bi manje spajalica u svemiru. Dakle, dovoljno inteligentan AI čiji je jedini cilj napraviti što više spajalica preuzela bi svu materiju i energiju nadohvat ruke i spriječila gašenje ili promijenjeno. Kao što vjerojatno možete pretpostaviti, ovo je mnogo opasnije od kriminalci koji koriste ChatGPT za hakiranje vašeg bankovnog računa ili računala.

AI nije neprijateljski nastrojen prema ljudima; to je samo ravnodušno. AI kojoj je stalo samo do povećanja broja spajalica bi stoga izbrisala čovječanstvo i pretvorila ih u spajalice kako bi postigla svoj cilj.

Kako se problem maksimiziranja spajalice odnosi na AI?

Istraživanja i eksperimenti koji spominju problem maksimiziranja spajalice spominju hipotetski iznimno moćan optimizator ili vrlo inteligentnog agenta kao aktera ovdje. Ipak, problem se odnosi na AI onoliko koliko savršeno odgovara ulozi.

Ideja o maksimiziranju spajalica stvorena je kako bi ipak pokazala neke od opasnosti napredne umjetne inteligencije. Sve u svemu, predstavlja dva problema.

• Teza o ortogonalnosti: Teza o ortogonalnosti je gledište da inteligencija i motivacija nisu međusobno ovisne. To znači da je moguće da umjetna inteligencija s visokom razinom opće inteligencije ne dođe do istih moralnih zaključaka kao ljudi.
• Instrumentalna konvergencija: Instrumentalna konvergencija definirana je kao tendencija za većinu dovoljno inteligentnih bića (oba ljudski i neljudski) kako bi slijedili slične podciljeve čak i ako bi njihov konačni cilj mogao biti potpuno drugačiji. U slučaju problema s maksimiziranjem spajalice, to znači da će AI na kraju preuzeti svaki prirodnih resursa i uništavanja čovječanstva samo kako bi postigao svoj cilj stvaranja sve više i više Spajalice.

Veći problem koji je istaknuo maksimizator spajalice je instrumentalna konvergencija. Također se može istaknuti korištenjem Riemannove hipoteze, u kojem bi slučaju umjetna inteligencija dizajnirana za rješavanje hipoteze mogla odlučiti preuzeti sve Zemljinu masu i pretvoriti je u computronium (najučinkovitije moguće računalne procesore) za izgradnju superračunala za rješavanje problema i postizanje cilj.

Sam Bostrom je naglasio kako ne vjeruje da će problem maksimizatora spajalice ikada biti pravi problem, ali njegova je namjera bila ilustrirati opasnosti stvaranja superinteligentnih strojeva bez znanja kako ih kontrolirati ili programirati da ne budu egzistencijalno rizični za ljude bića. Moderni AI sustavi poput ChatGPT-a također imaju problema, ali oni su daleko od superinteligentnih AI sustava o kojima se govori u problemu maksimiziranja spajalice, tako da još nema razloga za paniku.

Napredni AI sustavi trebaju vrhunsku kontrolu

Problem maksimiziranja spajalice uvijek dolazi do istog zaključka i naglašava probleme upravljanja visoko inteligentnim i moćnim sustavom kojem nedostaju ljudske vrijednosti.

Iako bi uporaba spajalica mogla biti najpopularnija metoda ilustriranja problema, ona se primjenjuje na bilo koji broj zadataka koje može dati umjetnoj inteligenciji bilo to uklanjanje raka, pobjeđivanje u ratovima, sadnja više drveća ili bilo koji drugi zadatak, bez obzira koliko se činio glupo.