Tekoälyasiantuntijat ja julkisuuden henkilöt hälyttävät tekoälyn sukupuuttoon liittyvästä vaarasta
Lyhyesti
Tunnetut tekoälyasiantuntijat ja vaikutusvaltaiset hahmot ilmaisevat kantansa tekoälyyn liittyvistä riskeistä.
Tekoälyn merkittävästä edistymisestä huolimatta monet tekoälyriskiin liittyvät haasteet ovat edelleen ratkaisematta.
Tunnetut tekoälyasiantuntijat ja julkisuuden henkilöt ovat antaneet lausunnon, jossa varoitetaan, että tekoäly voi muodostaa uhan ihmiskunnan selviytymiselle, joka on verrattavissa tai jopa suurempi kuin pandemioiden ja ydinsodan riskit. 350 allekirjoittajaa väittävät, että tekoälyllä voi olla odottamattomia ja katastrofaalisia seurauksia, kuten autonomisten aseiden vapauttaminen, sosiaalisten ja taloudellisten järjestelmien hajottaminen tai superälykkäiden tekijöiden luominen, jotka voisivat ylittää ihmisten ovelta ja vallata.
He kehottavat päättäjiä ottamaan nämä riskit vakavasti ja ryhtymään toimiin turvallisen ja hyödyllisen tekoälykehityksen varmistamiseksi. The selvitys on allekirjoittanut jotkut tekoälyn tutkimuksen ja kehityksen johtavista henkilöistä, kuten OpenAI Toimitusjohtaja Sam Altman, Skype Jaan Tallinnan toinen perustaja, DeepMindin toimitusjohtaja Demis Hassabis ja tekoälyn tietojenkäsittelytieteilijä Geoffrey Hinton sekä vaikutusvaltaiset julkisuuden henkilöt, kuten muusikko Grimes ja podcaster Sam Harris.
Allekirjoittajien joukossa olivat Geoffrey Hinton ja Yoshua Bengio, jotka saivat vuoden 2018 Turing Award -palkinnon heidän panoksestaan syvään oppimiseen. Heihin liittyi professoreita arvostetuista yliopistoista, kuten Harvardista ja Tsinghuan yliopistosta Kiinasta, sekä MIT:n Max Tegmarkista.
"Tekoälyn aiheuttaman sukupuuttoon kuolemisen riskin lieventämisen tulisi olla globaali prioriteetti muiden yhteiskunnallisten riskien, kuten pandemioiden ja ydinsodan, rinnalla."
CAIS:n julkaisemassa kirjeessä todetaan.
The Center for AI Safety (CAIS), San Franciscossa sijaitseva voittoa tavoittelematon järjestö, pyrkii käsittelemään tekoälyyn liittyviä turvallisuusongelmia. Vaikka CAIS tunnustaa tekoälyn mahdolliset edut, se korostaa tarvetta kehittää ja käyttää sitä turvallisesti. Tekoälyn merkittävistä edistysaskeleista huolimatta monet tekoälyn turvallisuuden perushaasteet ovat edelleen ratkaisematta, yritys uskoo. Verkkosivustonsa mukaan CAIS:n tehtävänä on lieventää riskejä tekemällä turvallisuustutkimusta, tukemalla tekoälyn turvallisuustutkijoiden yhteisöä ja ajamalla turvallisuusstandardeja.
"Tekoälyyn liittyy monia "tärkeitä ja kiireellisiä riskejä", ei vain sukupuuttoon kuolemisen riski; esimerkiksi systeeminen harha, väärä tieto, haitallinen käyttö, kyberhyökkäykset ja aseistautuminen. Nämä ovat kaikki tärkeitä riskejä, joihin on puututtava. Yhteiskunnat voivat hallita useita riskejä kerralla; se ei ole "joko/tai" vaan "kyllä/ja". Riskienhallinnan näkökulmasta, aivan kuten olisi piittaamatonta priorisoida vain nykyiset haitat, olisi myös holtitonta jättää ne huomiotta."
Dan Hendrycks, CAIS:n johtaja kirjoitti Twitterissä.
Maaliskuussa yli 1,100 XNUMX tekniikan asiantuntijaa allekirjoitettu avoin kirje, jossa vaaditaan kuuden kuukauden keskeytystä tekoälyjärjestelmien koulutukselle GPT-4. Myös eurooppalaiset lainsäätäjät hiljattain hyväksytty tiukemmat lakiehdotukset, jotka tunnetaan nimellä AI Act, säätelevät tekoälytyökaluja, kuten ChatGPT. Laki sisältää vaatimukset turvatarkastuksista, tietojen hallinnasta ja riskien lieventämisestä perustavanlaatuisille tekoälymalleille ja kieltää käytännöt, kuten manipulointitekniikat ja tietyt biometristen tietojen käyttötavat.
Lue lisää:
- OpenAI Julkaisee uusimman lähestymistapansa tekoälyn turvallisuuden varmistamiseen
- Aikooko Google julkistaa tekstistä avatariksi generaattorin pelaajille?
- Amazonin CodeWhisperer antaa kehittäjille heidän tarvitsemansa reunan tekoälyareenalla
- Vitalik Buterin ja MIRI-johtaja Nate Soares tutkivat tekoälyn vaaroja
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Agne on toimittaja, joka käsittelee metaversumien, tekoälyn ja uusimpia trendejä ja kehitystä Web3 toimialoja varten Metaverse Post. Hänen intohimonsa tarinankerrontaan on johtanut hänen haastatteluihinsa näiden alojen asiantuntijoiden kanssa pyrkien aina löytämään jännittäviä ja mukaansatempaavia tarinoita. Agnella on kandidaatin tutkinto kirjallisuudesta ja laaja tausta kirjoittamiseen monenlaisista aiheista, kuten matkailusta, taiteesta ja kulttuurista. Hän on myös toiminut vapaaehtoisena toimittajana eläinoikeusjärjestöön, jossa hän auttoi lisäämään tietoisuutta eläinten hyvinvointikysymyksistä. Ota häneen yhteyttä [sähköposti suojattu].
lisää artikkeleita
Agne on toimittaja, joka käsittelee metaversumien, tekoälyn ja uusimpia trendejä ja kehitystä Web3 toimialoja varten Metaverse Post. Hänen intohimonsa tarinankerrontaan on johtanut hänen haastatteluihinsa näiden alojen asiantuntijoiden kanssa pyrkien aina löytämään jännittäviä ja mukaansatempaavia tarinoita. Agnella on kandidaatin tutkinto kirjallisuudesta ja laaja tausta kirjoittamiseen monenlaisista aiheista, kuten matkailusta, taiteesta ja kulttuurista. Hän on myös toiminut vapaaehtoisena toimittajana eläinoikeusjärjestöön, jossa hän auttoi lisäämään tietoisuutta eläinten hyvinvointikysymyksistä. Ota häneen yhteyttä [sähköposti suojattu].
