6měsíční pauza ve školení AI je dobrý nápad, ale nemusí to stačit
Stručně
Příběh petice a zveřejnění Yudkovského článku polarizovaly společnost.
Vězeňovo dilema a teorie her naznačují, že k vyřešení takových problémů je zapotřebí kritické množství příčetných lidí na různých místech.
Tato myšlenka má však několik ale, jako je nedostatek vědomí, vůle a jednání v digitální evoluci.
Příběh petice za zastavení vývoje systémů umělé inteligence pokročilejších než GPT-4 znatelně polarizoval společnost. Propuštění Judkovského článek žádá o zastavení dalšího vývoje GPT modely přilévaly olej do ohně, zejména jeho pasáže o bombardování datových center.
Z toho, co lze pozorovat online, se zdá, že příznivců petice je mnohem méně než odpůrců, kteří mají tři hlavní argumenty:
| 1 | – Pokrok nelze zastavit. – Petici vymyslel OpenAI konkurenty. – Čína nepočká. |
| 2 | – Neměli byste se bát AI, ale lidí. - GPT nemá vědomí, vůli, aspirace ani jednání, takže se není čeho bát. - GPT-4 je šíleně daleko od zotročení světa, protože ničemu nerozumí, dělá hloupé chyby a je obecně dost hloupý. - GPT-4 nebude moci řídit svět, protože nemá ruce/nohy. |
| 3 | – Třetí skupina nechápe jak GPT-4 působí na prvním místě. |
Nebudeme se soustředit na třetí skupinu, protože jejich postoj pochází z neznalosti. To neznamená, že všichni odpůrci AI vědí o AI všechno; můžete najít spoustu anti-AI lidí, kteří postrádají pochopení pro technologii a co to obnáší, ačkoli Yudkovsky sám je velmi hlouběji do tématu AI, takže nemůže být obviňován z neznalosti.
Podívejme se na první skupinu lidí – na ty, kteří věří, že pokrok nelze zastavit. Nabízejí různé, a přesto podobné argumenty, a celkově tito lidé nepopírají schopnosti AI a vyhlídky, které její přijetí přináší, a věří, že vývoj AI bude pokračovat bez ohledu na to, co se děje.
První teze o nezastavitelném pokroku je slogan, který nemusí být pravdivý. Zdá se, že lidé zastavili některé vědecké experimenty a mnoho kdysi přijatých výzkumných projektů již není považováno za etické a podobné by dnes nebyly nikdy povoleny. O kolik větší pokrok v minulosti však zastavila inkvizice a další náboženské pronásledování, zákazy knih a vraždy vědců v Číně (a dalších zemích)? To je něco, co nikdy nebudeme schopni plně pochopit kvůli zaujatosti ohledně přežití.
Jiné teze zahrnují přístup, který lze shrnout jako „když ne my, budou to oni“. I když je tento způsob myšlení možná srozumitelnější, nezdá se, že by to bylo také správné řešení. Je to velmi podobné vězňovu dilematu v teorii her.
Druhá skupina argumentů je nejzajímavější. I když s tím osobně do určité míry souhlasím, je tu pár ale, která je potřeba vyřešit. Ano, umělá inteligence nemá žádné vědomí, vůli, agenturu atd. COVID-19 také ne, a přesto způsobila zmatek po celém světě. Něco nemusí mít smysl pro svobodu jednání a vědomí, aby se stalo nebezpečným; Scénář, že život na Zemi je zničen kvůli viru, není nepředstavitelný. Jakmile svou práci dokončí, může položit židle na stoly, zhasnout světla a navždy odejít.
V biologické analogii pokračuje úžasný článek „Překvapivá kreativita digitální evoluce: Sbírka anekdot z evoluční výpočetní komunity a komunity pro výzkum umělého života“, který poskytuje mnoho příkladů, kdy se procesy ubírají neočekávaným směrem. I bez evolučního procesu se vše může dostat do nesprávného zobecnění „Zobecnění cílů: Proč správné specifikace nestačí pro správné cíle“. Dát volnou ruku optimalizačnímu procesu se může pokazit je popsáno v „Rizika z naučené optimalizace v pokročilých systémech strojového učení. "
Zároveň obecně nezvažujeme rizika škodlivé použití AI a všechny zneužít, což jen přiživuje argument, že se musíme bát lidí a ne AI samotné. Pravdou však je, že umělá inteligence může být špatná i bez zlomyslných lidí.
Souhlasím také s tím, že model dělá hloupé chyby, ale lidé také, a přesto víme, že mohou škodit. I když modelky dělají mnoho chyb, mohou také vyřešit mnoho úžasných, skvělých a složitých problémů, které průměrný člověk vyřešit nedokáže. Z notoricky známého díla „Sparks of Artificial General Intelligence: Early Experiments with GPT-4“ Zarazilo mě, že umělá inteligence dokázala vyřešit, i když ne vždy správně, Fermiho problémy, poměrně složité matematické problémy. Jeho teorie mysli a „něco jako schopnost porozumět“ činům druhých jsou také velmi působivé. Všechny tyto věci ukazují na inteligenci AI; existující, ale ne úplně jako my.
Odstranění alespoň některých chyb, které modely AI dělají, je obecně proveditelné, takže jejich inteligence může jen růst. Vše, co musíte udělat, je přidat modul pro přesné výpočty, základ faktů a ověření s jiným modelem.
Nejdůležitější na celém tomto příběhu je rychlost vývoje AI. GPT modely vyrostly ohromně závratným tempem. Nyní existují ChatGPT Pluginy k dispozici, můžete použít GPT modely pro psaní kódu, API jsou dostupná široké veřejnosti a můžete používat externí nástroje bez předchozího školení.
GPT-4, samozřejmě nedobyde svět, ale může to ekonomikou hodně otřást. GPT-5a budoucí iterace modelu nemusí být příliš daleko a pravděpodobně přijdou s mnohem silnějšími schopnostmi. A přiznejme si, že nemůžeme doufat, že pochopíme dosud neexistující modely; ani jsme se nepřiblížili k pochopení modelů, které již existují. V tomto smyslu by mohla být půlroční pauza dobrý nápad, ale prostě to nemusí stačit.
A vzhledem k tomu, že AI závod začalo, není čas se učit.
Obecně jsem vzhledem k tomu všemu petici také podepsal. I když nevěřím, že to nějak pomůže.
Přečtěte si další související témata:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
