6-mesačná pauza v tréningu AI je dobrý nápad, ale nemusí to stačiť
Stručne
Príbeh petície a zverejnenie Yudkovského článku polarizovali spoločnosť.
Väzňova dilema a teória hier naznačujú, že na vyriešenie takýchto problémov je potrebná kritická masa zdravých ľudí na rôznych miestach.
Táto myšlienka má však niekoľko ale, ako napríklad nedostatok vedomia, vôle a rozhodovania v digitálnej evolúcii.
Príbeh petíciu za zastavenie vývoja systémov AI, ktoré sú pokročilejšie ako GPT-4 výrazne polarizovala spoločnosť. Prepustenie Yudkovského článok žiada o zastavenie ďalšieho vývoja GPT modelky priliali olej do ohňa, najmä jeho pasáže o bombardovaní dátových centier.
Z toho, čo možno pozorovať online, sa zdá, že podporovateľov petície je oveľa menej ako odporcov, ktorí majú tri hlavné argumenty:
| 1 | – Pokrok sa nedá zastaviť. – Petíciu vymyslel OpenAI konkurentov. – Čína nepočká. |
| 2 | – Nemali by ste sa báť AI, ale ľudí. - GPT nemá žiadne vedomie, vôľu, ašpirácie ani slobodu konania, takže sa niet čoho báť. - GPT-4 má šialene ďaleko od zotročenia sveta, pretože ničomu nerozumie, robí hlúpe chyby a vo všeobecnosti je dosť hlúpy. - GPT-4 nebude môcť riadiť svet, pretože nemá ruky/nohy. |
| 3 | – Tretia skupina nechápe ako GPT-4 pôsobí na prvom mieste. |
Nebudeme sa sústrediť na tretiu skupinu, pretože ich postoj pochádza z nevedomosti. To neznamená, že všetci odporcovia AI vedia o AI všetko; nájdete veľa anti-AI ľudí, ktorí nerozumejú technológii a tomu, čo to obnáša, hoci samotný Yudkovsky sa téme AI venuje veľmi hlbšie, takže ho nemožno obviňovať z nevedomosti.
Pozrime sa na prvú skupinu ľudí – tých, ktorí veria, že pokrok nemožno zastaviť. Ponúkajú rôzne, no podobné argumenty a celkovo títo ľudia nepopierajú schopnosti AI a vyhliadky, ktoré jej prijatie prináša, a veria, že vývoj AI bude pokračovať bez ohľadu na to.
Prvá téza o nezadržateľnom pokroku je slogan, ktorý nemusí byť pravdivý. Zdá sa, že ľudia zastavili niektoré vedecké experimenty a mnohé kedysi akceptované výskumné projekty sa už nepovažujú za etické a podobné by dnes už nikdy neboli povolené. O koľko väčší pokrok v minulosti však zastavila inkvizícia a iné náboženské prenasledovanie, zákazy kníh a vraždy vedcov v Číne (a iných krajinách)? To je niečo, čo nikdy nebudeme schopní úplne pochopiť kvôli zaujatosti týkajúcej sa prežitia.
Ďalšie tézy zahŕňajú prístup, ktorý možno zhrnúť ako „ak nie my, budú to oni“. Aj keď je tento spôsob myslenia možno zrozumiteľnejší, nezdá sa, že by to bolo ani správne riešenie. Je to veľmi podobné väzňovej dileme v teórii hier.
Druhá skupina argumentov je najzaujímavejšia. Aj keď ja osobne s tým do určitej miery súhlasím, je tu pár ale, ktoré treba riešiť. Áno, AI nemá žiadne vedomie, vôľu, agentúru atď. Ani COVID-19, a napriek tomu spôsobila zmätok na celom svete. Niečo nemusí mať zmysel pre slobodu konania a vedomie, aby sa stalo nebezpečným; Scenár, že život na Zemi je zničený kvôli vírusu, nie je nepredstaviteľný. Po dokončení svojej práce môže položiť stoličky na stoly, zhasnúť svetlá a navždy odísť.
V biologickej analógii pokračuje úžasný článok „Prekvapivá kreativita digitálnej evolúcie: Zbierka anekdot z komunít evolučných výpočtov a výskumov umelého života“, ktorý poskytuje mnoho príkladov, keď sa procesy uberajú neočakávaným smerom. Aj bez evolučného procesu môže všetko prejsť do nesprávneho zovšeobecnenia „Znevšeobecnenie cieľa: Prečo správne špecifikácie nestačia na správne ciele“. Dať voľnú ruku optimalizačnému procesu sa môže pokaziť je popísané v časti „Riziká z naučenej optimalizácie v pokročilých systémoch strojového učenia. "
Zároveň vo všeobecnosti nezohľadňujeme riziká o zlomyseľné používanie AI a všetky zneužiť, čo len priživuje argument, že sa treba báť ľudí a nie samotnej AI. Pravdou však je, že AI môže byť zlá aj bez zlomyseľných ľudí.
Súhlasím aj s tým, že model robí hlúpe chyby, ale ľudia tiež, a predsa vieme, že môžu ublížiť. Aj keď modelky robia veľa chýb, dokážu vyriešiť aj veľa úžasných, skvelých a zložitých problémov, ktoré bežný človek nedokáže vyriešiť. Z notoricky známeho diela „Sparks of Artificial General Intelligence: Early Experiments with GPT-4“ Zarazilo ma, že AI dokázala vyriešiť, aj keď nie vždy správne, Fermiho problémy, pomerne zložité matematické problémy. Jeho teória mysle a „niečo ako schopnosť porozumieť“ činom iných sú tiež veľmi pôsobivé. Všetky tieto veci poukazujú na inteligenciu AI; existujúci, ale nie celkom taký ako ten náš.
Odstránenie aspoň niektorých chýb, ktoré modely AI robia, je vo všeobecnosti možné, takže ich inteligencia môže len rásť. Všetko, čo musíte urobiť, je pridať modul na presné výpočty, základňu faktov a overenie s iným modelom.
Najdôležitejšia vec v celom tomto príbehu je rýchlosť vývoja AI. GPT modely rástli ohromne závratným tempom. Teraz existujú ChatGPT pluginy k dispozícii, môžete použiť GPT modely na písanie kódu, API sú dostupné širokej verejnosti a môžete používať externé nástroje bez akéhokoľvek predchádzajúceho školenia.
GPT-4, samozrejme, nedobyjú svet, ale ekonomikou to môže poriadne otriasť. GPT-5, a budúca iterácia modelu nemusí byť príliš ďaleko a pravdepodobne príde s oveľa silnejšími schopnosťami. A priznajme si, nemôžeme dúfať, že pochopíme ešte neexistujúce modely; ani sme sa nepriblížili k pochopeniu modelov, ktoré už existujú. V tomto zmysle môže byť šesťmesačná prestávka dobrý nápad, ale nemusí to stačiť.
A vzhľadom na to, že AI závod začalo, nie je čas sa učiť.
Vo všeobecnosti som vzhľadom na toto všetko podpísal aj petíciu. Aj keď neverím, že to nejako pomôže.
Prečítajte si ďalšie súvisiace témy:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
