Tekniset asiantuntijat allekirjoittivat avoimen kirjeen, jossa vaaditaan väliaikaista taukoa edistyneempien tekoälyjärjestelmien harjoittamiseen GPT-4
Lyhyesti
Yli 1100 allekirjoittajaa on allekirjoittanut avoimen kirjeen, jossa vaaditaan keskeyttämään jättiläismäiset tekoälykokeet.
Allekirjoittajia ovat muun muassa Elon Musk, Steve Wozniak ja Emad Mostaque.
Avoimessa kirjeessä heräsi huoli tekoälyn tietoharhoista, työn automaatio ja tekoälyn riski ihmisten sivilisaatiolle.
Yli 1,100 XNUMX allekirjoittajaa, mukaan lukien johtavat teknologia-asiantuntijat, on allekirjoittanut sopimuksen avoin kirje vaativat kuuden kuukauden taukoa edistyneempien tekoälyjärjestelmien koulutuksessa GPT-4.
Kirjeen on kirjoittanut Future of Life Institute, voittoa tavoittelematon järjestö, joka pyrkii vähentämään ihmiskunnan kohtaamia maailmanlaajuisia katastrofaalisia ja eksistentiaalisia riskejä, erityisesti kehittyneen tekoälyn aiheuttamaa eksistentiaalista riskiä.
Lainaten laajalti hyväksyttyjä Asilomar AI Principles -periaatteita, joissa todetaan, että "Kehittynyt tekoäly voi edustaa syvällistä muutosta maapallon elämän historiassa, ja sitä tulisi suunnitella ja hallita oikealla huolella ja resursseilla", kirjeessä todetaan, että suunnittelun taso ja hallintaa ei tapahdu.
Kirjeessä sanotaan edelleen, että tekoälylaboratoriot ovat "hallinnan ulkopuolella" kehittääkseen yhä tehokkaampaa tekoälyä, jota kukaan ei voi ymmärtää, ennustaa tai luotettavasti hallita. Kuten nykyaikaiset tekoälyjärjestelmät pitävät GPT-4 voida kilpailla ihmisten kanssa Yleisten tehtävien osalta kirje herättää huolen tekoälyn aiheuttamasta tietoharhasta, työn automaatiosta ja ihmissivilisaation hallinnan menettämisestä.
"Kehotamme kaikkia tekoälylaboratorioita keskeyttämään välittömästi vähintään kuudeksi kuukaudeksi tehokkaampien tekoälyjärjestelmien koulutuksen GPT-4. Tämän tauon tulee olla julkinen ja todennettavissa, ja sen tulee sisältää kaikki keskeiset toimijat. Jos tällaista taukoa ei voida toteuttaa nopeasti, hallitusten tulisi puuttua asiaan ja asettaa moratorio.
kirjain ilmaisee.
Kirjeessä kehotetaan tekoälylaboratorioita ja tekniikan asiantuntijoita käyttämään tauon aikaa kehittyneen tekoälyn suunnittelun ja kehityksen turvaprotokollien kehittämiseen ja toteuttamiseen, jotka riippumattomat ulkopuoliset asiantuntijat tarkastavat ja valvovat tarkasti.
Amerikkalainen toimittaja Jeff Jarvis kuitenkin arvosteli kirjettä, sanonta että se on "moraalisen paniikin ensisijainen esimerkki".
Jotkut tekniikan ja koneoppimisen johtavista mieistä, jotka ovat allekirjoittaneet kirjeen yhdessä DeepMind-tutkijien ja useiden yliopiston professorien kanssa ympäri maailmaa, ovat:
- Yoshua Bengio, Montréalin yliopisto, Turing-palkinnon saaja syväoppimisen kehittämisestä, Montreal Institute for Learning Algorithms -instituutin johtaja
- Stuart Russell, Berkeley, tietojenkäsittelytieteen professori, älykkäiden järjestelmien keskuksen johtaja ja vakiooppikirjan "Artificial Intelligence: a Modern Approach" toinen kirjoittaja.
- Elon Musk, SpaceX:n, Teslan ja Twitterin toimitusjohtaja
- Emad Mostaque, toimitusjohtaja, Stability AI
- Jaan Tallinn, Skypen perustaja, eksistentiaalisen riskin tutkimuskeskus, Future of Life Institute
- Gary Marcus, New Yorkin yliopisto, tekoälytutkija, emeritusprofessori
- Marc Rotenberg, tekoäly- ja digitaalipolitiikan keskus (CAIDP), puheenjohtaja
Jonkin sisällä viimeinen kirjeRotenberg kirjoitti, että CAIDP aikoo tehdä valituksen Federal Trade Commissionille, jossa vaaditaan avoimen tekoälyn tutkimista ja ChatGPT, sekä tuotteen kaupallisten lisäjulkaisujen kielto, kunnes suojatoimet on vahvistettu.
OpenAI Toimitusjohtaja Sam Altman on hyväksytty että "tarvitsemme myös tarpeeksi aikaa instituutioillemme selvittääkseen, mitä tehdä" ja että yhteiskunta ei ole kaukana "mahdollisesti pelottavista" generatiivisista tekoälytyökaluista.
"Pyydämme FTC:tä "painamaan taukopainiketta", jotta instituutioillamme, lakeillamme ja yhteiskunnallamme on mahdollisuus päästä eroon. Meidän on vahvistettava virastoa luomillemme teknologioille ennen kuin menetämme hallinnan”, CAIDP:n kirjeessä todetaan.
Muualla, EU:n lainsäätäjät Tavoitteena on allekirjoittaa sopimus EU-maiden kanssa vuoden loppuun mennessä tekoälysääntöjen täytäntöönpanosta, vaikka se saattaa osua pullonkaulaan, kun keskustelut tekoälyn hallinnasta kiihtyvät.
Lue lisää:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Cindy on toimittaja osoitteessa Metaverse Post, joka kattaa aiheeseen liittyviä aiheita web3, NFT, metaverse ja AI, keskittyen haastatteluihin Web3 alan toimijoita. Hän on puhunut yli 30 C-tason johtajalle ja tuonut heidän arvokkaita oivalluksiaan lukijoille. Alunperin Singaporesta kotoisin oleva Cindy on nykyään Tbilisissä, Georgiassa. Hänellä on kandidaatin tutkinto viestinnästä ja mediatutkimuksesta Etelä-Australian yliopistosta, ja hänellä on vuosikymmenen kokemus journalismista ja kirjoittamisesta. Ota häneen yhteyttä kautta [sähköposti suojattu] lehdistöpuheilla, ilmoituksilla ja haastattelumahdollisuuksilla.
lisää artikkeleita
Cindy on toimittaja osoitteessa Metaverse Post, joka kattaa aiheeseen liittyviä aiheita web3, NFT, metaverse ja AI, keskittyen haastatteluihin Web3 alan toimijoita. Hän on puhunut yli 30 C-tason johtajalle ja tuonut heidän arvokkaita oivalluksiaan lukijoille. Alunperin Singaporesta kotoisin oleva Cindy on nykyään Tbilisissä, Georgiassa. Hänellä on kandidaatin tutkinto viestinnästä ja mediatutkimuksesta Etelä-Australian yliopistosta, ja hänellä on vuosikymmenen kokemus journalismista ja kirjoittamisesta. Ota häneen yhteyttä kautta [sähköposti suojattu] lehdistöpuheilla, ilmoituksilla ja haastattelumahdollisuuksilla.
