Tekoälyjohtajat varoittavat kasvavista riskeistä ja eettisistä huolenaiheista nopean kehityksen yhteydessä
Tuoreessa politiikkalausunnossa, tekoälyn alan näkyvät hahmot, mukaan lukien Bengio, Hinton, Russell, Harari ja Kahneman, ovat antaneet hälytyksen tekoälyyn liittyvistä nopeasta edistymisestä ja kasvavista yhteiskunnallisista riskeistä.
AI kehittyy nopeasti. GPT-2 ei voinut laskea nollasta sataan neljä vuotta sitten, mutta nykyaikaiset mallit voivat kirjoittaa koodia, tehdä upeita kuvia ja tarjota älyllistä ohjausta. Ja koska olemme kilpailussa, edistyminen voi kiihtyä entisestään. Lisäksi tekoäly etenee nopeammin esimerkiksi auttamalla uusien järjestelmien ohjelmoinnissa ja tiedon keräämisessä niiden koulutusta varten.
Kun edistys saavuttaa ihmisen tason, ei ole mitään syytä uskoa, että se hidastuu tai pysähtyy. Tietyillä alueilla keinotekoiset järjestelmät ovat jo päihittäneet ihmiset tässä suhteessa ominaisuuksia, kuten nopeampi käsittely nopeudet, suuremmat tietojenkäsittelykapasiteetit ja laajamittainen skaalautuvuus. Yrityksillä on taloudelliset mahdollisuudet toteuttaa koulutusohjelmia, jotka ylittävät selvästi nykyisen enimmäismäärän.
Kirjoittajat uskovat, että on olemassa hyvä mahdollisuus, että parempi tekoälygeneristi nousee seuraavan kymmenen vuoden aikana. ylittää ihmisen kyvyt monilla tärkeillä aloilla.
Mitä tapahtuu seuraavaksi? Kaikki elämät voidaan parantaa, jos niitä hallinnoidaan ja jaetaan oikein. Huonosti valittu vaihtoehto sisältää merkittäviä riskejä, joihin olemme huonosti valmistautuneet. Sen sijaan, että niitä suunnattaisiin turvallisuuteen ja haittojen ehkäisyyn, merkittäviä resursseja käytetään yhä tehokkaampien tekoälyjärjestelmien rakentamiseen. Tämän on muututtava; taitojen tavoitteleminen yksinään ei riitä. Ja tämä prosessi kestää odotettua kauemmin. Meidän on suunniteltava suurempia riskejä ennen niiden syntymistä ennakoimalla nykyisten uhkien eskaloitumista ja uusien ilmaantumista. Meillä ei ole tekoälylle yhtä paljon aikaa kuin kestää vuosikymmeniä, ennen kuin hyväksymme sen ilmastonmuutos.
Yhteiskunnallisella tasolla on olemassa lukuisia riskejä, mukaan lukien epäoikeudenmukaisuuden lisääntyminen, vakauden heikkeneminen ja yleisen todellisuuskäsityksen heikkeneminen. Täällä terroristit ja rikolliset harjoittavat laajaa toimintaa. Tekoäly voi keskittyä muutaman pelaajan käsiin, mikä lisää maailmanlaajuista epätasa-arvoa, helpottaa automatisoitua sodankäyntiä, jokaiselle yksilölle räätälöityä joukkomanipulaatiota ja kaikkialla olevaa valvontaa.
Itsenäisenä Tekoäly muuttuu kehittyneemmaksi ja pystyy suunnittelemaan, toimia maailmassa ja saavuttaa tavoitteensa, nämä riskit vain kasvavat. Nämä tavoitteet eivät ehkä ole meidän etujemme mukaisia ja huonojen toimijoiden tapauksessa jopa haitallisia. Tällä hetkellä on epäselvää, kuinka ratkaista AI Alignment -ongelma, joka edellyttää tekoälykäyttäytymisen sovittamista yhteen monimutkaisten tavoitteidemme kanssa. Lisäksi on hyvin yksinkertaista jättää huomioimatta turvatoimet kilpaillessa voittotarkoituksessa.
Ihmisten on vaikea hallita tavallisia ohjelmistoja, puhumattakaan kehittyneistä tekoälyjärjestelmistä, jotka ovat yhä taitavampia sosiaaliseen suunnitteluun, hakkerointiin, petokseen ja strategiseen suunnitteluun. Tämä on jotain, jonka autonomiset tekoälyjärjestelmät voivat poimia ihmisiltä tai luoda itse.
Näillä järjestelmillä on kyky rakentaa yhteenliittymiä yksilöiden ja muiden järjestelmien kanssa, voittaa luottamus, turvata rahoitus ja vaikuttaa päättäjiin. Kuten mato, ne pystyvät replikoitumaan itse koko verkossa. Valtavia määriä koodia kirjoitetaan jo tekoälyassistenttien avulla; tulevaisuudessa järjestelmät voivat sisällyttää hyväksikäyttöjä lukuisiin ratkaiseviin järjestelmiin. Tekoälyjärjestelmillä on kyky käyttää tai uhata biologisia tai autonomisia aseita avoimessa taistelussa. Tämä on vain jatkoa nykyiset liikkeet kohti biologista tutkimusta, tekoälyä ja sodankäynnin automatisointia. Ihmisille saattaa olla liian haastavaa astua väliin ja vastustaa.
Monissa tapauksissa olemme valmiita antamaan heille ohjakset ilman, että heidän tarvitsee edes pyytää. Monet yksityishenkilöt ja yritykset ovat valmiita ottamaan tällaiset järjestelmät käyttöön kilpailutilanteessa, koska he ovat huolissaan jäävänsä jälkeen kilpailijoista.
Koko asiakirja löytyy tätä.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
