Techničtí experti podepisují otevřený dopis požadující dočasnou pauzu na školení AI systémů pokročilejších než GPT-4
Stručně
Více než 1100 signatářů podepsalo otevřený dopis vyzývající k pozastavení obřích experimentů AI.
Mezi signatáře patří mimo jiné Elon Musk, Steve Wozniak a Emad Mostaque.
Otevřený dopis vyvolal obavy z informačních zkreslení ze strany AI, automatizace práce a riziko AI na lidskou civilizaci.
Více než 1,100 XNUMX signatářů včetně předních technologických odborníků podepsalo smlouvu otevřený dopis volání po šestiměsíční pauze na školení systémů umělé inteligence pokročilejších než GPT-4.
Dopis napsala Future of Life Institute, nezisková organizace, která pracuje na snížení globálních katastrofických a existenčních rizik, kterým lidstvo čelí, zejména existenčního rizika pokročilé umělé inteligence.
Cituje široce podporované zásady umělé inteligence Asilomar, které říkají, že „pokročilá umělá inteligence by mohla představovat hlubokou změnu v historii života na Zemi a měla by být plánována a řízena s přiměřenou péčí a zdroji,“ uvádí se v dopise, že úroveň plánování a řízení se nekoná.
V dopise se dále uvádí, že laboratoře AI jsou v závodě „mimo kontrolu“ ve vývoji stále výkonnější umělé inteligence, kterou nikdo nemůže pochopit, předvídat ani spolehlivě ovládat. Jak mají moderní systémy AI rády GPT-4 umět soutěžit s lidmi pokud jde o obecné úkoly, dopis vyvolává obavy z informačních zkreslení ze strany AI, automatizace práce a rizika ztráty kontroly nad lidskou civilizací.
„Vyzýváme všechny laboratoře umělé inteligence, aby okamžitě na nejméně 6 měsíců pozastavily výcvik systémů umělé inteligence výkonnějších než GPT-4. Tato pauza by měla být veřejná a ověřitelná a měla by zahrnovat všechny klíčové aktéry. Pokud takovou pauzu nelze uzákonit rychle, vlády by měly zasáhnout a zavést moratorium,“
dopis uvádí.
Dopis žádá laboratoře AI a technologické odborníky, aby využili období pauzy k vývoji a implementaci bezpečnostních protokolů pro pokročilý návrh a vývoj AI, které jsou přísně kontrolovány a kontrolovány nezávislými externími odborníky.
Americký novinář Jeff Jarvis však dopis kritizoval, rčení že je to „prvotní ukázka morální paniky“.
Někteří z předních mozků v oblasti techniky a strojového učení, kteří dopis podepsali spolu s výzkumnými vědci DeepMind a několika univerzitními profesory z celého světa, zahrnují:
- Yoshua Bengio, University of Montreal, laureát Turinga za rozvoj hlubokého učení, vedoucí Montrealského institutu pro algoritmy učení
- Stuart Russell, Berkeley, profesor informatiky, ředitel Centra pro inteligentní systémy a spoluautor standardní učebnice „Umělá inteligence: moderní přístup“
- Elon Musk, generální ředitel SpaceX, Tesla a Twitter
- Emad Mostaque, generální ředitel, Stability AI
- Jaan Tallinn, spoluzakladatel Skype, Centrum pro studium existenčního rizika, Future of Life Institute
- Gary Marcus, New York University, výzkumník AI, emeritní profesor
- Marc Rotenberg, Centrum pro umělou inteligenci a digitální politiku (CAIDP), prezident
V nedávný dopis, Rotenberg napsal, že CAIDP podá stížnost u Federální obchodní komise, která vyzývá k prošetření otevřené umělé inteligence a ChatGPT, jakož i zákaz dalšího komerčního uvolňování produktu, dokud nebudou stanovena ochranná opatření.
OpenAI Generální ředitel Sam Altman ano připustil že „také potřebujeme dostatek času, aby naše instituce zjistily, co dělat“ a že společnost není daleko od „potenciálně děsivých“ generativních nástrojů umělé inteligence.
„Žádáme FTC, aby „stiskla tlačítko pauzy“, aby naše instituce, naše zákony a naše společnost měly příležitost dohnat to. Než ztratíme kontrolu nad technologiemi, musíme prosadit své zastupování,“ uvádí se v dopise CAIDP.
Jinde zákonodárci EU usilují o podepsání dohody se zeměmi EU do konce roku o implementaci pravidel umělé inteligence, i když by to mohlo narazit na překážku, protože debaty o tom, jak by měla být umělá inteligence řízena, sílí.
Čtěte více:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Cindy je novinářka v Metaverse Post, pokrývající témata související s web3, NFT, metaverse a AI, se zaměřením na rozhovory s Web3 hráči v oboru. Mluvila s více než 30 manažery na úrovni C a počítání a přinesla jejich cenné poznatky čtenářům. Cindy pochází ze Singapuru a nyní sídlí v Tbilisi v Gruzii. Je držitelkou bakalářského titulu v oboru komunikačních a mediálních studií na University of South Australia a má desetileté zkušenosti v žurnalistice a psaní. Spojte se s ní přes [chráněno e-mailem] s tiskovými nabídkami, oznámeními a příležitostmi k rozhovorům.
Další články
Cindy je novinářka v Metaverse Post, pokrývající témata související s web3, NFT, metaverse a AI, se zaměřením na rozhovory s Web3 hráči v oboru. Mluvila s více než 30 manažery na úrovni C a počítání a přinesla jejich cenné poznatky čtenářům. Cindy pochází ze Singapuru a nyní sídlí v Tbilisi v Gruzii. Je držitelkou bakalářského titulu v oboru komunikačních a mediálních studií na University of South Australia a má desetileté zkušenosti v žurnalistice a psaní. Spojte se s ní přes [chráněno e-mailem] s tiskovými nabídkami, oznámeními a příležitostmi k rozhovorům.
