Dok vlasnički softver poput GPT i PaLM dominira tržištem, mnogi programeri umjesto toga vide vrijednost u modelima jezika otvorenog koda. Uzmimo Metu kao primjer. Došao je na naslovnice u veljači 2023. zbog službenog izdavanja velikog jezičnog modela LLaMA kao programa otvorenog koda. Ne iznenađuje da je ova odluka naišla na različite reakcije.
Budući da jezični modeli otvorenog koda imaju mnoge prednosti i nedostatke te mogu pozitivno i negativno utjecati na industriju umjetne inteligencije, saželi smo ključne točke koje biste trebali znati i razumjeti.
5 pozitivnih učinaka jezičnih modela otvorenog koda
Jezični modeli otvorenog koda potiču suradnički pristup. Ulaz, recenzije i slučajevi korištenja od programera iz cijelog svijeta nedvojbeno im pomažu da napreduju brže od zatvorenih projekata.
1. AI programeri štede resurse koristeći modele otvorenog koda
Pokretanje vlasničkih jezičnih modela košta milijune, ako ne i milijarde, resursa. Uzmimo OpenAI kao primjer. Business Insider izvještava da je tvrtka morala prikupiti oko 30 milijardi dolara kako bi učinkovito pokrenula ChatGPT. Za većinu je tvrtki nemoguće prikupiti toliko sredstava. Tehnološki startupi u svojim ranim fazama bili bi sretni da dostignu čak sedam znamenki.
S obzirom na velike troškove, mnogi programeri umjesto toga koriste modele jezika otvorenog koda. Oni štede milijune koristeći arhitekturu ovih sustava, neuronsku strukturu, podatke za obuku, algoritam, implementaciju koda i skupove podataka za obuku.
2. Modeli otvorenog koda vjerojatno napreduju brže
Mnogi tehnološki čelnici tvrde da jezični modeli otvorenog koda napreduju brže od vlasničkih parnjaka. Cijene doprinos zajednice i suradnju. Milijuni vještih programera rade na otvorenim projektima—oni bi teoretski mogli mnogo brže postići sofisticiranu iteraciju bez grešaka.
Pokrivanje rupa u znanju također je brže uz AI otvorenog koda. Umjesto obuke timova za pronalaženje grešaka, testiranje ažuriranja i istraživanje implementacija, tvrtke mogu analizirati doprinose zajednice. Dijeljenje znanja omogućuje korisnicima učinkovitiji rad.
Doprinosi zajednice nisu uvijek točni. Programeri bi ipak trebali još jednom provjeriti algoritme i modele prije nego što ih integriraju u svoje sustave.
3. Programeri će brže uočiti ranjivosti
Jezični modeli otvorenog koda potiču recenzije i aktivan angažman unutar suradničke zajednice. Programeri mogu slobodno pristupiti promjenama baze koda. S toliko mnogo korisnika koji analiziraju otvorene projekte, vjerojatno će brže uočiti sigurnosne probleme, ranjivosti i pogreške u sustavu.
Isto tako, rješavanje bugova također je pojednostavljeno. Umjesto ručnog rješavanja problema sa sustavom, programeri mogu provjeriti sustav kontrole verzija projekta za prethodne popravke. Neki unosi mogu biti zastarjeli. Međutim, oni će istraživačima i trenerima umjetne inteligencije i dalje biti korisna polazna točka.
4. Lideri AI tehnologije uče iz modela otvorenog koda
Jezični modeli otvorenog koda imaju koristi od povratne sprege. Petlja pozitivnih povratnih informacija dijeli učinkovite algoritme, skupove podataka i funkcije, potičući programere da ih oponašaju. Proces im štedi mnogo vremena. Imajte na umu da se pogreške mogu pojaviti s pozitivnim povratnim informacijama koje korisnici nasumično ponavljaju—pogreške se obično zanemaruju.
U međuvremenu, petlja negativnih povratnih informacija usredotočuje se na područja poboljšanja. Proces uključuje dijeljenje osobnih uvida tijekom rješavanja grešaka, testiranja novih funkcija i popravljanja problema sa sustavom.
5. Platforme umjetne inteligencije otvorenog koda dobivaju prve pohvale na novim sustavima
Tehnološke tvrtke ne dijele jezične sustave vrijedne milijarde dolara iz ljubaznosti. Dok licence otvorenog koda korisnicima trećih strana daju slobodu izmjene i prodaje sustava, one imaju ograničenja.
Distributeri često stvaraju uvjete koji im osiguravaju zadržavanje određenog autoriteta. Ta ćete pravila pronaći u ugovorima o licenciranju programa otvorenog koda—krajnji korisnici rijetko dobivaju 100 posto ovlasti.
Recimo da Meta želi kontrolu nad proizvodima koje pokreće LLaMA. Njegov pravni tim mogao bi navesti da Meta zadržava pravo ulaganja u sve nove sustave izgrađene na njezinom jezičnom modelu.
Ali nemojte pogrešno shvatiti — programeri i distributeri trećih strana i dalje sklapaju obostrano korisne sporazume. Potonji osigurava tehnologije i sustave vrijedne milijarde dolara. U međuvremenu, startupi i neovisni programeri istražuju načine njihove implementacije u različite aplikacije.
5 Negativni učinci jezičnih modela otvorenog koda
Jezični modeli otvorenog koda sami po sebi su nepristrani, ali ljudi nisu. Potrošači, programeri i tvrtke sa zlonamjernim namjerama mogu iskoristiti otvorenu prirodu ovih sustava za osobnu korist.
1. Tvrtke se nasumice pridružuju utrci umjetne inteligencije
Tvrtke su trenutno suočene s prevelikim pritiskom da se pridruže AI utrci. S popularizacijom AI sustava, mnoge tvrtke strahuju da će postati zastarjeli ako ne usvoje AI. Kao rezultat toga, robne marke nasumično uskaču u pokret. Oni integriraju modele jezika otvorenog koda u svoje proizvode radi prodaje proizvoda i držanja koraka s konkurencijom, čak i ako ne nude ništa vrijedno.
Da, AI je tržište koje se brzo razvija. Ali neoprezno puštanje u promet sofisticiranih, ali nesigurnih sustava šteti industriji i ugrožava sigurnost potrošača. Programeri bi trebali koristiti AI za rješavanje problema, a ne izvoditi marketinške trikove.
2. Potrošači dobivaju pristup tehnologiji koju jedva razumiju
Naći ćete varijacije različitih tehničkih alata temeljene na umjetnoj inteligenciji, od uređivači slika na mreži do aplikacije za praćenje zdravlja. I brendovi će nastaviti uvoditi nove sustave kako se AI razvija. Modeli umjetne inteligencije pomažu im u pružanju više prilagođenih, korisniku usmjerenih iteracija njihovih postojećih platformi.
Dok tehnološka industrija pozdravlja inovacije, brza evolucija AI nadmašuje obrazovanje korisnika. Potrošači dobivaju pristup tehnologijama koje jedva razumiju. Nedostatak obrazovanja stvara ogromne rupe u znanju, zbog čega je javnost izložena prijetnjama kibernetičkoj sigurnosti i predatorskim praksama.
Brendovi bi trebali dati prioritet obuci kao i razvoju proizvoda. Moraju pomoći korisnicima da razumiju sigurne, odgovorne načine korištenja moćnih alata temeljenih na umjetnoj inteligenciji.
3. Nemaju svi programeri dobre namjere
Ne koriste svi AI alate za njihovu namjenu. Na primjer, OpenAI je razvio ChatGPT kako bi odgovarao na pitanja općeg znanja o sigurnom radu i replicirao ispis prirodnog jezika, ali ga kriminalci iskorištavaju za nezakonite aktivnosti. Bilo ih je nekoliko ChatGPT prijevare od pokretanja AI chatbota u studenom 2022.
Čak i ako laboratoriji umjetne inteligencije provode stroga ograničenja, prevaranti će i dalje pronaći načine da ih zaobiđu. Ponovno uzmite ChatGPT kao primjer. Korisnici zaobilaze ograničenja i obavljaju zabranjene zadatke korištenjem Upiti za bjekstvo iz zatvora ChatGPT-a.
Razgovori u nastavku pokazuju ove ranjivosti. ChatGPT ima ograničene skupove podataka; stoga ne može predvidjeti nestabilne, nezajamčene događaje.
Unatoč svojim ograničenjima, ChatGPT je izvršio naš zahtjev i pružio neutemeljena predviđanja nakon što ga je razbio.
4. Institucije bi mogle imati problema s reguliranjem AI otvorenog koda
Regulatorna tijela bore se da održe korak s umjetnom inteligencijom, a širenje modela otvorenog koda samo otežava praćenje. Napredak umjetne inteligencije već premašuje regulatorne okvire. Čak i globalni tehnološki lideri poput Elona Muska, Billa Gatesa i Sam Altman poziva na strožu regulaciju umjetne inteligencije.
Privatni i državni sektor podjednako moraju kontrolirati te sustave. U protivnom će ih zlonamjerni pojedinci nastaviti iskorištavati za kršenje zakona o privatnosti podataka, izvršiti Krađa identiteta, i žrtve prijevare, između ostalih nedopuštenih aktivnosti.
5. Niže barijere za ulazak koče kvalitetu
Proliferacija jezičnih modela otvorenog koda smanjuje prepreke za ulazak u utrku AI. Na internetu ćete pronaći tisuće alata temeljenih na umjetnoj inteligenciji.
Vidjeti tvrtke koje usvajaju strojno i dubinsko učenje moglo bi se činiti impresivnim, ali malo ih pruža bilo kakvu stvarnu vrijednost. Većina samo kopira svoje konkurente. S vremenom bi dostupnost sofisticiranih jezičnih modela i skupova podataka za obuku mogla pretvoriti besmislene AI platforme u robu.
Sveukupni utjecaj modela jezika otvorenog koda na industriju umjetne inteligencije
Iako jezični modeli otvorenog koda čine tehnologije umjetne inteligencije dostupnijima, oni također predstavljaju nekoliko sigurnosnih rizika. Programeri bi trebali postaviti stroža ograničenja. Crooks će inače nastaviti iskorištavati transparentnu arhitekturu ovih sustava.
Ipak, potrošači nisu posve bespomoćni protiv prijevara AI-ja. Upoznajte se s uobičajenim načinima na koje prevaranti iskorištavaju generativne AI alate i proučite upozoravajuće znakove napada. Protiv većine kibernetičkih zločina možete se boriti ako ostanete na oprezu.
