Technickí experti podpísali otvorený list s výzvou na dočasnú prestávku v školeniach AI systémov, ktoré sú pokročilejšie než GPT-4
Stručne
Viac ako 1100 signatárov podpísalo otvorený list vyzývajúci na prerušenie obrovských experimentov AI.
Medzi signatárov patria okrem iného Elon Musk, Steve Wozniak a Emad Mostaque.
V otvorenom liste sa vyjadrili obavy z informačného skreslenia zo strany AI, automatizáciu práce a riziko AI pre ľudskú civilizáciu.
Viac ako 1,100 XNUMX signatárov vrátane popredných technologických expertov podpísalo zmluvu otvorený list výzva na šesťmesačnú prestávku pri výcviku systémov AI, ktoré sú pokročilejšie ako GPT-4.
List napísala nezisková organizácia Future of Life Institute, ktorá pracuje na znižovaní globálnych katastrofických a existenčných rizík, ktorým ľudstvo čelí, najmä existenčného rizika pokročilej umelej inteligencie.
V liste sa cituje všeobecne uznávané zásady umelej inteligencie Asilomar, v ktorých sa uvádza, že „pokročilá umelá inteligencia by mohla predstavovať hlbokú zmenu v histórii života na Zemi a mala by byť plánovaná a riadená s primeranou starostlivosťou a zdrojmi,“ uvádza sa v liste, že úroveň plánovania a manažment sa nekoná.
V liste sa ďalej uvádza, že laboratóriá AI sú v pretekoch „mimo kontroly“ vo vývoji čoraz výkonnejšej umelej inteligencie, ktorú nikto nedokáže pochopiť, predvídať ani spoľahlivo ovládať. Ako majú moderné systémy AI GPT-4 môcť súťažiť s ľuďmi o všeobecných úlohách list vyvoláva obavy z informačných skreslení zo strany AI, automatizácie práce a rizika straty kontroly nad ľudskou civilizáciou.
„Vyzývame všetky laboratóriá AI, aby okamžite prerušili aspoň na 6 mesiacov tréning systémov AI výkonnejších ako GPT-4. Táto pauza by mala byť verejná a overiteľná a mala by zahŕňať všetkých kľúčových aktérov. Ak takáto pauza nemôže byť prijatá rýchlo, vlády by mali zasiahnuť a zaviesť moratórium,“
list uvádza.
List vyzýva laboratóriá AI a technologických expertov, aby využili obdobie prestávky na vývoj a implementáciu bezpečnostných protokolov pre pokročilý návrh a vývoj AI, ktoré sú prísne kontrolované a kontrolované nezávislými externými odborníkmi.
Americký novinár Jeff Jarvis však list kritizoval, hovorí že je to „hlavný exemplár morálnej paniky“.
Niektorí z popredných odborníkov v oblasti techniky a strojového učenia, ktorí podpísali list spolu s výskumníkmi DeepMind a niekoľkými univerzitnými profesormi z celého sveta, zahŕňajú:
- Yoshua Bengio, Univerzita v Montreale, laureát Turinga za rozvoj hlbokého učenia, vedúci Montrealského inštitútu pre algoritmy učenia
- Stuart Russell, Berkeley, profesor informatiky, riaditeľ Centra pre inteligentné systémy a spoluautor štandardnej učebnice „Artificial Intelligence: a Modern Approach“
- Elon Musk, generálny riaditeľ SpaceX, Tesla a Twitter
- Emad Mostaque, generálny riaditeľ, Stability AI
- Jaan Tallinn, spoluzakladateľ Skype, Centrum pre štúdium existenčného rizika, Inštitút budúcnosti života
- Gary Marcus, New York University, výskumník AI, emeritný profesor
- Marc Rotenberg, Centrum pre AI a digitálnu politiku (CAIDP), predseda
V nedávny list, Rotenberg napísal, že CAIDP podá sťažnosť Federálnej obchodnej komisii, v ktorej bude žiadať vyšetrenie otvorenej AI a ChatGPT, ako aj zákaz ďalšieho komerčného uvoľňovania produktu, kým nebudú stanovené záruky.
OpenAI Generálny riaditeľ Sam Altman má prijatý že „potrebujeme aj dostatok času, aby naše inštitúcie prišli na to, čo robiť“ a že spoločnosť nie je ďaleko od „potenciálne desivých“ generatívnych nástrojov AI.
„Žiadame FTC, aby „stlačila tlačidlo pauzy“, aby naše inštitúcie, naše zákony a naša spoločnosť mali príležitosť dobehnúť zameškané. Musíme presadzovať zastupovanie nad technológiami, ktoré vytvárame, skôr ako stratíme kontrolu,“ uvádza sa v liste CAIDP.
Inde zákonodarcovia EÚ sa snažia do konca roka podpísať dohodu s krajinami EÚ o implementácii pravidiel AI, hoci by to mohlo naraziť na prekážku, pretože debaty o tom, ako by sa mala AI riadiť, sa zintenzívnia.
Prečítajte si viac:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Cindy je novinárka v Metaverse Post, pokrývajúce témy súvisiace s web3, NFT, metaverse a AI, so zameraním na rozhovory s Web3 hráčov v odvetví. Hovorila s viac ako 30 riaditeľmi na úrovni C a počítajúc, čím čitateľom priniesla ich cenné poznatky. Cindy je pôvodom zo Singapuru a teraz sídli v Tbilisi v Gruzínsku. Je držiteľkou bakalárskeho titulu z komunikačných a mediálnych štúdií na University of South Australia a má desaťročné skúsenosti v žurnalistike a písaní. Spojte sa s ňou cez [chránené e-mailom] s tlačovými ponukami, oznámeniami a príležitosťami na rozhovory.
Ďalšie články
Cindy je novinárka v Metaverse Post, pokrývajúce témy súvisiace s web3, NFT, metaverse a AI, so zameraním na rozhovory s Web3 hráčov v odvetví. Hovorila s viac ako 30 riaditeľmi na úrovni C a počítajúc, čím čitateľom priniesla ich cenné poznatky. Cindy je pôvodom zo Singapuru a teraz sídli v Tbilisi v Gruzínsku. Je držiteľkou bakalárskeho titulu z komunikačných a mediálnych štúdií na University of South Australia a má desaťročné skúsenosti v žurnalistike a písaní. Spojte sa s ňou cez [chránené e-mailom] s tlačovými ponukami, oznámeniami a príležitosťami na rozhovory.
