6-mesečni premor pri usposabljanju AI je dobra ideja, vendar morda ne bo dovolj
Na kratko
Zgodba o peticiji in objava članka Yudkovskega sta polarizirala družbo.
Zapornikova dilema in teorija iger nakazujeta, da je za rešitev tovrstnih problemov potrebna kritična masa zdravih ljudi na različnih mestih.
Vendar pa je tej ideji nekaj nasprotnih točk, kot je pomanjkanje zavesti, volje in delovanja v digitalni evoluciji.
Zgodba o peticijo za ustavitev razvoja sistemov umetne inteligence, naprednejših od GPT-4 opazno polariziral družbo. Izpustitev Yudkovskega članek zahteva ustavitev nadaljnjega razvoja GPT modeli so prilili olja na ogenj, predvsem njegovi odlomki o bombardiranju podatkovnih centrov.
Glede na to, kar je mogoče opaziti na spletu, se zdi, da je podpornikov peticije veliko manj kot nasprotnikov, ki imajo tri glavne argumente:
| 1 | – Napredka ni mogoče ustaviti. – Peticijo si je izmislil OpenAI tekmovalci. – Kitajska ne bo čakala. |
| 2 | – Ne smete se bati AI, ampak ljudi. - GPT nima zavesti, volje, teženj ali delovanja, zato se ni česa bati. - GPT-4 je blazno daleč od tega, da bi zasužnjil svet, ker ničesar ne razume, dela neumne napake in je na splošno precej neumen. - GPT-4 ne bo mogel voditi sveta, ker nima rok/nog. |
| 3 | – Tretja skupina ne razume, kako GPT-4 deluje v prvi vrsti. |
Ne bomo se osredotočali na tretji kup, ker njihovo stališče izvira iz nevednosti. To ne pomeni, da vsi nasprotniki AI vedo vse o AI; lahko najdete veliko ljudi proti umetni inteligenci, ki ne razumejo tehnologije in tega, kar vključuje, čeprav je Yudkovsky sam zelo poglobljen v temo umetne inteligence, zato mu ni mogoče očitati nevednosti.
Poglejmo prvo skupino ljudi – tiste, ki verjamejo, da napredka ni mogoče ustaviti. Ponujajo različne, a podobne argumente in na splošno ti ljudje ne zanikajo zmogljivosti umetne inteligence in obetov, ki jih prinaša njeno sprejetje, ter verjamejo, da se bo razvoj umetne inteligence nadaljeval ne glede na vse.
Prva teza o neustavljivem napredku je slogan, za katerega ni nujno, da drži. Zdi se, da so ljudje prenehali z nekaterimi znanstvenimi poskusi in mnogi nekoč sprejeti raziskovalni projekti ne veljajo več za etične in podobni danes ne bi bili nikoli dovoljeni. Vendar, koliko napredka v preteklosti so zaustavili inkvizicija in drugo versko preganjanje, prepovedi knjig in umori znanstvenikov na Kitajskem (in v drugih državah)? To je nekaj, česar zaradi pristranskosti preživetja nikoli ne bomo mogli v celoti dojeti.
Druge teze vključujejo pristop, ki ga lahko povzamemo kot »če ne mi, bodo oni«. Čeprav je to razmišljanje morda bolj razumljivo, se zdi, da tudi ni prava rešitev. Zelo je podobna dilemi zapornika v teoriji iger.
Druga skupina argumentov je najbolj zanimiva. Čeprav se osebno s tem do neke mere strinjam, je treba obravnavati nekaj težav. Da, umetna inteligenca nima zavesti, volje, delovanja itd. Prav tako ne COVID-19, pa vendar je povzročil opustošenje po vsem svetu. Nečemu ni treba imeti občutka delovanja in zavesti, da postane nevarno; scenarij, da je življenje na zemlji izbrisano zaradi virusa, ni nepredstavljiv. Ko je delo opravljeno, lahko postavi stole na mize, ugasne luči in odide za vedno.
Če nadaljujemo z biološko analogijo, obstaja čudovit članek »Presenetljiva ustvarjalnost digitalne evolucije: zbirka anekdot iz skupnosti za raziskovanje evolucijskega računalništva in umetnega življenja«, ki ponuja veliko primerov, ko gredo procesi v nepričakovano smer. Tudi brez evolucijskega procesa lahko gre vse v napačno posplošitev »Napačna generalizacija ciljev: zakaj pravilne specifikacije niso dovolj za pravilne cilje«. Dajanje proste roke procesu optimizacije lahko gre narobe, je obravnavano v “Tveganja zaradi naučene optimizacije v naprednih sistemih strojnega učenja«.
Hkrati pa na splošno ne upoštevamo tveganj zlonamerna uporaba AI in vse zloraba, ki samo hrani argument, da se moramo bati ljudi in ne AI same. Resnica pa je, da je AI lahko slab tudi brez zlonamernih ljudi.
Strinjam se tudi glede dejstva, da model dela neumne napake, ampak tudi ljudje, pa vendar vemo, da lahko škodujejo. Medtem ko modeli delajo veliko napak, lahko rešijo tudi veliko izjemnih, kul in zapletenih problemov, ki jih povprečna oseba ne more rešiti. Iz razvpitega dela »Iskrice splošne umetne inteligence: zgodnji poskusi z GPT-4,« me je presenetilo, da lahko umetna inteligenca reši, čeprav ne vedno pravilno, Fermijeve probleme, precej zapletene matematične probleme. Njegova teorija uma in "nekako zmožnost razumevanja" dejanj drugih sta prav tako zelo impresivni. Vse te stvari kažejo na inteligenco AI; obstaja, vendar ni tako kot naš.
Odprava vsaj nekaterih napak, ki jih naredijo modeli AI, je na splošno izvedljiva, zato bo njihova inteligenca le še rasla. Vse kar morate storiti je, da dodate modul za natančne izračune, bazo dejstev in validacijo z drugim modelom.
Najpomembnejša stvar v vsej tej zgodbi je hitrost razvoja AI. GPT modeli rasle z vrtoglavo hitrostjo. Zdaj obstajajo ChatGPT plugins na voljo, lahko uporabite GPT modelov za pisanje kode, API-ji so na voljo širši javnosti, zunanja orodja pa lahko uporabljate brez predhodnega usposabljanja.
GPT-4, seveda ne bo osvojil sveta, lahko pa močno zamaje gospodarstvo. GPT-5, in prihodnja ponovitev modela, morda nista daleč naprej in bosta verjetno prišla z veliko močnejšimi sposobnostmi. In priznajmo si, ne moremo upati, da bomo razumeli še neobstoječe modele; še niti približno nismo razumeli modelov, ki že obstajajo. V tem smislu bi lahko bil šestmesečni premor dobra ideja, vendar preprosto morda ne bo dovolj.
In glede na to, AI dirka se je začelo, ni časa za učenje.
V glavnem, glede na vse to sem tudi jaz podpisal peticijo. Čeprav ne verjamem, da bo kakorkoli pomagalo.
Preberite več povezanih tem:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
