Pauza od 6 mjeseci u obuci umjetne inteligencije je dobra ideja, ali možda neće biti dovoljna
Ukratko
Priča o peticiji i objavljivanje članka Yudkovskog polarizirali su društvo.
Zatvorenikova dilema i teorija igara sugeriraju da je potrebna kritična masa zdravih ljudi na različitim mjestima da bi se takvi problemi riješili.
Međutim, postoji nekoliko ali ovoj ideji, kao što je nedostatak svijesti, volje i djelovanja u digitalnoj evoluciji.
Priča o peticija za prestanak razvoja AI sustava naprednijih od GPT-4 zamjetno je polarizirao društvo. Oslobađanje Yudkovskog članak tražeći gašenje daljnjeg razvoja GPT modeli su dolili ulje na vatru, posebno njegovi odlomci o bombardiranju podatkovnih centara.
Prema onome što se može vidjeti na internetu, čini se da ima mnogo manje pristaša peticije nego protivnika, koji imaju tri glavna argumenta:
| 1 | – Napredak se ne može zaustaviti. – Peticiju je izmislio OpenAI natjecatelja. – Kina neće čekati. |
| 2 | – Ne treba se bojati umjetne inteligencije nego ljudi. - GPT nema svijesti, volje, težnji ili djelovanja, tako da se nema čega bojati. - GPT-4 ludo je daleko od porobljavanja svijeta jer ništa ne razumije, radi glupe greške i općenito je prilično glup. - GPT-4 neće moći upravljati svijetom jer nema ruke/noge. |
| 3 | – Treća skupina ne razumije kako GPT-4 djeluje na prvom mjestu. |
Nećemo se koncentrirati na treću hrpu jer njihov stav dolazi iz neznanja. To ne znači da svi protivnici umjetne inteligencije znaju sve o umjetnoj inteligenciji; možete pronaći mnogo ljudi protiv umjetne inteligencije koji nemaju razumijevanja za tehnologiju i što ona podrazumijeva, iako je sam Yudkovsky dublje u temi AI, tako da ga se ne može optužiti za neznanje.
Pogledajmo prvu skupinu ljudi – one koji vjeruju da se napredak ne može zaustaviti. Oni nude različite, a ipak slične argumente, i općenito, ti ljudi ne poriču sposobnosti umjetne inteligencije i izglede koje donosi njezino usvajanje i vjeruju da će se razvoj umjetne inteligencije nastaviti bez obzira na sve.
Prva teza o nezaustavljivom napretku je slogan koji ne mora biti istinit. Ljudi kao da su prestali s nekim znanstvenim eksperimentima, a mnogi nekada prihvaćeni istraživački projekti više se ne smatraju etičkim, a slični danas nikad ne bi bili dopušteni. Međutim, koliko je još napredak u prošlosti bio zaustavljen inkvizicijom i drugim vjerskim progonima, zabranama knjiga i ubojstvima znanstvenika u Kini (i drugim zemljama)? To je nešto što nikada nećemo moći u potpunosti shvatiti zbog pristranosti preživljavanja.
Ostale teze uključuju pristup koji se može sažeti kao “ako ne mi, bit će oni”. Iako je ovakav način razmišljanja možda razumljiviji, ne čini se ni pravim rješenjem. Vrlo je slična zatvoreničevoj dilemi u teoriji igara.
Druga skupina argumenata je najzanimljivija. Iako se osobno donekle slažem s tim, postoji nekoliko nedostataka koje treba riješiti. Da, umjetna inteligencija nema svijest, volju, djelovanje itd. Nema ni COVID-19, a ipak je izazvao kaos u cijelom svijetu. Nešto ne mora imati osjećaj djelovanja i svijesti da bi postalo opasno; scenarij da je život na zemlji izbrisan zbog virusa nije nezamisliv. Nakon što obavi posao, može staviti stolice na stolove, ugasiti svjetla i otići zauvijek.
Nastavljajući biološku analogiju, postoji prekrasan članak, "Iznenađujuća kreativnost digitalne evolucije: zbirka anegdota iz zajednica istraživanja evolucijskog računanja i umjetnog života", koji pruža mnoge primjere kada procesi idu u neočekivanom smjeru. Čak i bez evolucijskog procesa, sve može otići u pogrešnu generalizaciju "Pogrešna generalizacija ciljeva: Zašto točne specifikacije nisu dovoljne za točne ciljeve." Davanje slobode procesu optimizacije može poći po zlu raspravlja se u "Rizici od naučene optimizacije u naprednim sustavima strojnog učenja".
U isto vrijeme, općenito ne uzimamo u obzir rizike zlonamjerno korištenje umjetne inteligencije i bilo koje zloupotreba, što samo pothranjuje argument da se trebamo bojati ljudi, a ne same umjetne inteligencije. Međutim, istina je da umjetna inteligencija može biti loša čak i bez zlonamjernih ljudi.
Slažem se i oko činjenice da model radi glupe pogreške, ali rade i ljudi, a ipak znamo da mogu naškoditi. Iako modeli rade mnogo pogrešaka, oni također mogu riješiti mnoge sjajne, cool i složene probleme koje prosječna osoba ne može riješiti. Iz ozloglašenog rada “Iskre opće umjetne inteligencije: Rani eksperimenti s GPT-4,” Bio sam zadivljen time što umjetna inteligencija može riješiti, iako ne uvijek ispravno, Fermijeve probleme, prilično složene matematičke probleme. Njegova teorija uma i "nešto poput sposobnosti razumijevanja" postupaka drugih također su vrlo impresivni. Sve ove stvari upućuju na inteligenciju umjetne inteligencije; postojeće, ali ne baš kao naše.
Uklanjanje barem nekih pogrešaka koje rade AI modeli općenito je izvedivo, tako da njihova inteligencija može samo rasti. Sve što trebate učiniti je dodati modul za točne izračune, bazu činjenica i validaciju s drugim modelom.
Najvažnija stvar u cijeloj ovoj priči je brzina razvoja AI-ja. GPT modeli strahovito su narasli vrtoglavom brzinom. Sada postoje ChatGPT dodaci dostupno, možete koristiti GPT modeli za pisanje koda, API-ji su dostupni širokoj javnosti i možete koristiti vanjske alate bez prethodne obuke.
GPT-4, naravno, neće osvojiti svijet, ali može jako uzdrmati ekonomiju. GPT-5, i buduća iteracija modela, možda neće biti daleko ispred i vjerojatno će doći s mnogo jačim sposobnostima. I budimo iskreni, ne možemo se nadati da ćemo razumjeti još nepostojeće modele; nismo se ni približili razumijevanju modela koji već postoje. U tom smislu šestomjesečna pauza može biti dobra ideja, ali jednostavno ne može biti dovoljna.
A s obzirom da je AI utrka je počelo, nema vremena za učenje.
Uglavnom, s obzirom na sve ovo, i ja sam potpisao peticiju. Iako ne vjerujem da će to ikako pomoći.
Pročitajte još povezanih tema:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
