Tehnikaeksperdid kirjutasid alla avatud kirjale, milles kutsuvad üles tegema ajutist pausi AI-süsteemide koolitamisel, mis on arenenumad kui GPT-4
Põgusalt
Rohkem kui 1100 allakirjutanut on allkirjastanud avatud kirja, milles kutsutakse üles peatama hiiglaslikud AI-katsed.
Allakirjutanute hulka kuuluvad teiste seas Elon Musk, Steve Wozniak ja Emad Mostaque.
Avalik kiri väljendas muret tehisintellekti teabe kallutatuse pärast, töö automatiseerimine ja tehisintellekti oht inimtsivilisatsioonile.
Rohkem kui 1,100 allakirjutanut, sealhulgas juhtivad tehnikaeksperdid, on allkirjastanud lepingu avaliku kirja kutsudes üles tegema kuuekuulist pausi arenenumate tehisintellektisüsteemide koolitamisel GPT-4.
Kirja kirjutas Future of Life Institute, mittetulundusühing, mis töötab selle nimel, et vähendada inimkonna ees seisvaid globaalseid katastroofilisi ja eksistentsiaalseid riske, eriti arenenud tehisintellekti eksistentsiaalseid riske.
Tsiteerides laialdaselt heakskiidetud Asilomari tehisintellekti põhimõtteid, milles öeldakse, et "täiustatud AI võib kujutada endast põhjalikku muutust Maa elu ajaloos ning seda tuleks kavandada ja hallata proportsionaalse hoolikuse ja ressurssidega," öeldakse kirjas, et planeerimise ja juhtimine ei toimu.
Kirjas öeldakse, et tehisintellekti laborid on "kontrolli alt väljas" võidujooksus, et arendada üha võimsamat tehisintellekti, mida keegi ei suuda mõista, ennustada ega usaldusväärselt juhtida. Nagu kaasaegsetele AI-süsteemidele meeldib GPT-4 võimalik inimestega konkureerida Üldülesannete osas tõstatab kiri muret tehisintellekti poolt avaldatava teabe kallutatuse, töö automatiseerimise ja inimtsivilisatsiooni üle kontrolli kaotamise ohu pärast.
„Kutsume kõiki tehisintellekti laboreid üles viivitamatult vähemalt kuueks kuuks peatama võimsamate tehisintellektisüsteemide väljaõpe GPT-4. See paus peaks olema avalik ja kontrollitav ning hõlmama kõiki võtmeisikuid. Kui sellist pausi ei saa kiiresti kehtestada, peaksid valitsused sekkuma ja kehtestama moratooriumi.
kirjas seisab.
Kirjas kutsutakse tehisintellekti laboreid ja tehnikaeksperte üles kasutama pausiperioodi, et töötada välja ja rakendada täiustatud tehisintellekti kujundamise ja arendamise ohutusprotokolle, mida sõltumatud väliseksperdid rangelt auditeerivad ja kontrollivad.
Ameerika ajakirjanik Jeff Jarvis aga kritiseeris seda kirja, ütlus et see on "moraalse paanika esmane näidis".
Mõned tehnoloogia ja masinõppe juhtivad mõtted, kes on koos DeepMindi teadlaste ja mitmete ülikoolide professoritega üle maailma selle kirja allkirjastanud, on järgmised:
- Yoshua Bengio, Montréali ülikool, Turingi preemia süvaõppe arendamise eest, Montreali õppealgoritmide instituudi juht
- Stuart Russell, Berkeley, arvutiteaduse professor, intelligentsete süsteemide keskuse direktor ja standardõpiku “Tehisintellekt: kaasaegne lähenemine” kaasautor.
- Elon Musk, SpaceXi, Tesla ja Twitteri tegevjuht
- Emad Mostaque, tegevjuht, Stability AI
- Jaan Tallinn, Skype’i kaasasutaja, Eksistentsiaalse Riski Uurimise Keskus, Elu Tuleviku Instituut
- Gary Marcus, New Yorgi ülikool, tehisintellekti uurija, emeriitprofessor
- Marc Rotenberg, AI ja digitaalpoliitika keskus (CAIDP), president
Aastal hiljutine kiriRotenberg kirjutas, et CAIDP esitab kaebuse Föderaalsele Kaubanduskomisjonile, kutsudes üles uurima avatud AI ja ChatGPT, samuti toote edasise turustamise keeld kuni kaitsemeetmete kehtestamiseni.
OpenAI Tegevjuht Sam Altman on tunnistas et "me vajame ka piisavalt aega, et meie institutsioonid saaksid aru, mida teha" ja et ühiskond ei ole kaugel "potentsiaalselt hirmutavatest" generatiivsetest AI tööriistadest.
„Palume FTC-l vajutada pausi nuppu, et meie institutsioonidel, seadustel ja ühiskonnal oleks võimalus järele jõuda. Peame oma loodud tehnoloogiate üle agentuuri kinnitama, enne kui kaotame kontrolli,“ seisab CAIDP kirjas.
Mujal ELi seadusandjad kavatsevad sõlmida ELi riikidega aasta lõpuks tehisintellekti reeglite rakendamiseks lepingu, kuigi see võib tabada kitsaskohta, kuna arutelud tehisintellekti juhtimise üle intensiivistuvad.
Loe rohkem:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Cindy on ajakirjanik Metaverse Post, mis käsitleb seotud teemasid web3, NFT, metaverse ja AI, keskendudes intervjuudele kasutajaga Web3 tööstuse mängijad. Ta on vestelnud enam kui 30 C-taseme juhiga, tuues lugejateni nende väärtuslikke teadmisi. Algselt Singapurist pärit Cindy asub nüüd Gruusias Thbilisis. Tal on Lõuna-Austraalia ülikoolis bakalaureusekraad kommunikatsiooni- ja meediauuringute alal ning tal on kümneaastane kogemus ajakirjanduses ja kirjutamises. Võtke temaga ühendust kaudu [meiliga kaitstud] pressikõnede, teadaannete ja intervjuuvõimalustega.
Veel artikleid
Cindy on ajakirjanik Metaverse Post, mis käsitleb seotud teemasid web3, NFT, metaverse ja AI, keskendudes intervjuudele kasutajaga Web3 tööstuse mängijad. Ta on vestelnud enam kui 30 C-taseme juhiga, tuues lugejateni nende väärtuslikke teadmisi. Algselt Singapurist pärit Cindy asub nüüd Gruusias Thbilisis. Tal on Lõuna-Austraalia ülikoolis bakalaureusekraad kommunikatsiooni- ja meediauuringute alal ning tal on kümneaastane kogemus ajakirjanduses ja kirjutamises. Võtke temaga ühendust kaudu [meiliga kaitstud] pressikõnede, teadaannete ja intervjuuvõimalustega.
