Technikos ekspertai pasirašė atvirą laišką, raginantį laikinai sustabdyti pažangesnių dirbtinio intelekto sistemų mokymą GPT-4
Trumpai
Daugiau nei 1100 pasirašiusiųjų pasirašė atvirą laišką, raginantį sustabdyti milžiniškus AI eksperimentus.
Tarp pasirašiusiųjų yra Elonas Muskas, Steve'as Wozniakas ir Emadas Mostaque'as.
Atvirame laiške buvo pareikštas susirūpinimas dėl dirbtinio intelekto informacijos šališkumo, darbo automatizavimas ir AI rizika žmonių civilizacijai.
Daugiau nei 1,100 pasirašiusiųjų, įskaitant pirmaujančius technologijų ekspertus, pasirašė Atviras laiškas raginama padaryti šešių mėnesių pertrauką mokant dirbtinio intelekto sistemas, pažangesnes nei GPT-4.
Laišką parašė „Future of Life Institute“, ne pelno siekianti organizacija, kuri siekia sumažinti pasaulines katastrofines ir egzistencines rizikas, su kuriomis susiduria žmonija, ypač egzistencinę riziką dėl pažangaus dirbtinio intelekto.
Cituojant plačiai patvirtintus Asilomar AI principus, kuriuose teigiama, kad „pažangus AI gali būti esminis pokytis gyvybės Žemėje istorijoje ir turėtų būti planuojamas bei valdomas su atitinkama priežiūra ir ištekliais“, rašoma laiške, kad planavimo lygis ir valdymas nevyksta.
Toliau laiške teigiama, kad dirbtinio intelekto laboratorijos yra „nekontroliuojamos“ lenktynėse, siekdamos sukurti vis galingesnį dirbtinį intelektą, kurio niekas negali suprasti, numatyti ar patikimai valdyti. Kaip patinka šiuolaikinėms AI sistemoms GPT-4 galima konkuruoti su žmonėmis Kalbant apie bendrąsias užduotis, laiške keliamas susirūpinimas dėl dirbtinio intelekto informacijos šališkumo, darbo automatizavimo ir pavojaus prarasti žmonių civilizacijos kontrolę.
„Raginame visas AI laboratorijas nedelsiant bent 6 mėnesiams sustabdyti galingesnių dirbtinio intelekto sistemų mokymą GPT-4. Ši pauzė turėtų būti vieša ir patikrinama, joje turi būti visi pagrindiniai veikėjai. Jei tokios pauzės negalima greitai įvesti, vyriausybės turėtų įsikišti ir paskelbti moratoriumą.
raidė nurodo.
Laiške AI laboratorijos ir technologijų ekspertai raginami pasinaudoti pertraukos laikotarpiu, kad sukurtų ir įgyvendintų pažangaus AI projektavimo ir kūrimo saugos protokolus, kuriuos griežtai tikrina ir prižiūri nepriklausomi išorės ekspertai.
Tačiau amerikiečių žurnalistas Jeffas Jarvisas sukritikavo laišką, posakis kad tai yra „pagrindinis moralinės panikos pavyzdys“.
Kai kurie iš pirmaujančių technologijų ir mašininio mokymosi protų, pasirašiusių laišką kartu su DeepMind mokslininkais ir keliais universitetų profesoriais iš viso pasaulio, yra šie:
- Yoshua Bengio, Monrealio universitetas, Turingo laureatas už giluminį mokymąsi, Monrealio mokymosi algoritmų instituto vadovas
- Stuartas Russellas, Berklis, kompiuterių mokslų profesorius, Intelektinių sistemų centro direktorius ir standartinio vadovėlio „Dirbtinis intelektas: modernus požiūris“ bendraautoris.
- Elonas Muskas, „SpaceX“, „Tesla“ ir „Twitter“ generalinis direktorius
- Emad Mostaque, generalinis direktorius, Stability AI
- Jaanas Tallinn, „Skype“ įkūrėjas, Egzistencinės rizikos tyrimo centras, Gyvybės ateities institutas
- Gary Marcus, Niujorko universitetas, dirbtinio intelekto tyrinėtojas, profesorius emeritas
- Marcas Rotenbergas, AI ir skaitmeninės politikos centras (CAIDP), prezidentas
A nesenas laiškasRotenbergas rašė, kad CAIDP pateiks skundą Federalinei prekybos komisijai, ragindama ištirti atvirą AI ir ChatGPT, taip pat draudimas toliau komerciškai išleisti produktą, kol nebus nustatytos apsaugos priemonės.
OpenAI Generalinis direktorius Samas Altmanas turi leidžiama kad „mums taip pat reikia pakankamai laiko, kad mūsų institucijos išsiaiškintų, ką daryti“ ir kad visuomenė nėra toli nuo „potencialiai baisių“ generatyvinių AI įrankių.
„Prašome FTC „paspausti pauzės mygtuką“, kad mūsų institucijos, įstatymai ir visuomenė turėtų galimybę pasivyti. Turime įtikinti savo kuriamas technologijas, kol neprarandame kontrolės“, – teigiama CAIDP laiške.
Kitur ES įstatymų leidėjai iki metų pabaigos siekia pasirašyti susitarimą su ES šalimis dėl AI taisyklių įgyvendinimo, tačiau tai gali susidurti su kliūtimi, nes diskusijos dėl AI turėtų būti valdomos intensyviau.
Plačiau paskaitykite čia:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Cindy yra žurnalistė Metaverse Post, apimantis temas, susijusias su web3, NFT, metaverse ir AI, daugiausia dėmesio skiriant interviu su Web3 pramonės žaidėjų. Ji kalbėjosi su daugiau nei 30 C lygio vadovų ir skaičiuoja, pateikdama jų vertingas įžvalgas skaitytojams. Iš Singapūro kilusi Cindy dabar įsikūrusi Tbilisyje, Gruzijoje. Ji Pietų Australijos universitete yra įgijusi komunikacijos ir žiniasklaidos studijų bakalauro laipsnį ir turi dešimtmetį žurnalistikos ir rašymo patirties. Susisiekite su ja per [apsaugotas el. paštu] su pranešimais spaudai, pranešimais ir interviu galimybėmis.
Daugiau straipsnių
Cindy yra žurnalistė Metaverse Post, apimantis temas, susijusias su web3, NFT, metaverse ir AI, daugiausia dėmesio skiriant interviu su Web3 pramonės žaidėjų. Ji kalbėjosi su daugiau nei 30 C lygio vadovų ir skaičiuoja, pateikdama jų vertingas įžvalgas skaitytojams. Iš Singapūro kilusi Cindy dabar įsikūrusi Tbilisyje, Gruzijoje. Ji Pietų Australijos universitete yra įgijusi komunikacijos ir žiniasklaidos studijų bakalauro laipsnį ir turi dešimtmetį žurnalistikos ir rašymo patirties. Susisiekite su ja per [apsaugotas el. paštu] su pranešimais spaudai, pranešimais ir interviu galimybėmis.
