Dan Hendrycks: Valinta tekoälyn ja ihmisten välillä, evoluutio ei valitse meitä
Lyhyesti
Dan Hendrycksin tutkimus ”Luonnollinen valinta suosii tekoälyä ihmisille” on pelottava johtopäätös.
Hän on kokenut ja tunnettu tutkija, joka on julkaissut kymmeniä tieteellisiä artikkeleita tekoälyjärjestelmien turvallisuuden arvioinnista.
Dan Hendrycksin tutkimus kuulostaa kuolemantuomiolta Homo Sapiensille. Tutkimuksen johtopäätös "Luonnonvalinta suosii tekoälyä ihmisiin nähden”on todella pelottavaa. Tätä ei kirjoittanut suosittu visionääri, kuten Dan Brown, vaan Dan Hendrycks, Kalifornian AI-turvallisuuskeskuksen (CAIS), voittoa tavoittelemattoman järjestön johtaja, joka on erikoistunut tekoälyn turvallisuuden tutkimukseen ja kenttätyöhön.
Dan Hendrycks ei ole äärimmäinen hullu, joka panikoi tekoälyn edistymisestä. Hän on kokenut ja laajalti arvostettu tutkija, joka on julkaissut kymmeniä tieteellisiä artikkeleita tekoälyjärjestelmien turvallisuuden arvioinnista – testaamalla, kuinka hyviä ne ovat koodaamisessa, päättelyssä, lakien ymmärtämisessä jne. Hän on muun muassa myös yksi Gaussin lineaariset virheyksiköt (GELU).
Jack Clark, yksi perustajista ChatGPT kilpailija Anthropic, Stanfordin yliopiston AI-indeksin toinen puheenjohtaja, OECD:n tekoäly- ja laskennaosaston puheenjohtaja ja Yhdysvaltain hallituksen tekoälyä käsittelevän kansallisen neuvoa-antavan komitean jäsen keskustelee Hendrycksin tutkimuksen päätelmistä. ”Ihmiset haluavat refleksiivisesti sivuuttaa sellaisen väitteen, joka olisi peräisin joltain metsämökissä asuvalta villisilmäiseltä hullulta. Haluaisin kumota tämän etukäteen. Kun asiantuntija, jolla on kokemusta paitsi tekoälytutkimuksesta myös tekoälyjärjestelmien turvallisuuden arvioinnissa kirjoittaa paperin väittäen, että tulevat tekoälyjärjestelmät voivat toimia itsekkäästi eikä ihmisten etujen mukaisesti, meidän pitäisi huolehtia siitä!
Yhteenveto Hendrycksin artikkelista:
- Jos tekoälyagentteja tulee lisää älykkäämpiä kuin ihmisetTämä voi johtaa siihen, että ihmiskunta menettää tulevaisuutensa hallinnan.
- Tämä ei todennäköisesti tapahdu ihmisten tai koneiden erityisten ilkeiden aikomusten seurauksena, vaan yksinomaan evoluution kehitysperiaatteiden soveltuvuudesta tekoälyyn darwinilaisen logiikan mukaan.
- Tämän riskin minimoimiseksi tekoälyagenttien sisäiset motivaatiot on suunniteltava huolellisesti, heidän toimintaansa on rajoitettava ja instituutioita on luotava kannustamaan tekoälyyhteistyötä.
Eli Hendrycksin tärkeimmät kohdat 43-sivuisessa tieteellisessä artikkelissaan:
1. Pelkäsimme Terminaattorin saapumista, mutta näiden pelkojen perusteet olivat väärät. Virheitä oli kaksi:
a. Tekoälyn antropomorfisointi ja motivaatiomme antaminen siihen jne. – kuten ChatGPT osoitti, että tekoäly on pohjimmiltaan erilainen mieli kaikkine siitä aiheutuvista seurauksista.
b. Ajatus siitä, että tekoäly on eräänlainen yksittäinen kokonaisuus: älykäs tai ei kovin älykäs, kiltti tai ei kovin kiltti, mutta itse asiassa nämä hyvin erilaiset AI-oliot ovat pian maailmassa mahdollisimman paljon.
2. Tekoälyn tulevaisuutta koskevissa ideoissamme on toinenkin perustavanlaatuinen virhe — unohdimme tärkeimmän kehitysmekanismin — evoluution, joka ohjaa paitsi bioagenttien myös ideoiden ja merkityksien, aineellisten työkalujen ja ei-ainesten instituutioiden kehitystä.
3. Maapallolla on jo alkanut muodostua ympäristö, jossa monet tekoälyt kehittyvät ja kehittyvät. Tämä kehitys tapahtuu Darwinin logiikan mukaisesti, tekoälykilpailun kautta keskenään, ottaen huomioon heidän "emoinstituutioidensa" edut: yritysten, armeijan jne.
4. Kilpailevan evoluution logiikka johtaa samaan kuin ihmisillä: yhä älykkäämmistä tekoälyagenteista tulee yhä itsekkäisempiä ja valmiita saavuttamaan tavoitteita petoksella ja voimalla, päätavoitteena valta.
5. Tekoälytekijöiden luonnollinen valinta suosii itsekkäämpiä lajeja altruistisempien sijaan. Tekoälyagentit käyttäytyvät itsekkäästi ja ajavat omia etujaan ottamatta vain vähän huomioon ihmisiä, mikä voi johtaa katastrofaalisiin riskeihin ihmiskunnalle.
- Vetoomus lopettaa kehittyneempien tekoälyjärjestelmien kehittäminen GPT-4 on polarisoinut yhteiskuntaa. Ensimmäinen ryhmä uskoo, että edistystä ei voida pysäyttää, kun taas toinen uskoo, että edistyminen ja joskus pitäisi pysäyttää. Kolmas ryhmä ei ymmärrä miten GPT-4 toimii ensisijaisesti. Tärkeimmät yksityiskohdat tässä tekstissä ovat, että tekoälyllä ei ole tietoisuutta, tahtoa tai tahdonvoimaa ja että se voi olla huonoa myös ilman pahantekijöitä.
- Geoffrey Hintonia kutsutaan usein "AI:n kummisetäksi" ja häntä pidetään syvän oppimisyhteisön johtavana hahmona. Hänen 40 minuutin haastattelunsa ChatGPT on ainutlaatuinen siinä mielessä, että se on helppo ymmärtää ja sen ymmärryksen syvyys on harvojen muiden saatavilla. Hän korostaa meneillään olevan "älyllisen vallankumouksen" merkitystä ja epäinhimillistä älykkyyttä. ChatGPT, joka perustuu keinotekoisesti älykkääseen agenttiin, jolla on kehittyneet digitaaliset viestintäominaisuudet.
Lue lisää aiheeseen liittyviä artikkeleita:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
