Dan Hendrycks: Če izbiramo med umetno inteligenco in ljudmi, evolucija ne bo izbrala nas
Na kratko
Raziskava Dana Hendrycksa »Naravna selekcija ima raje umetno inteligenco kot ljudi« je strašljiv zaključek.
Je izkušen in znan raziskovalec, ki je objavil več deset znanstvenih člankov o ocenjevanju varnosti sistemov AI.
Raziskava Dana Hendrycksa zveni kot smrtna obsodba za Homo Sapiensa. Zaključek študije "Naravna selekcija daje prednost AI pred ljudmi” je res strašljivo. Tega ni napisal priljubljen vizionar, kot je Dan Brown, ampak Dan Hendrycks, direktor kalifornijskega centra za varnost umetne inteligence (CAIS), neprofitne organizacije, specializirane za raziskave in terensko delo na področju varnosti umetne inteligence.
Dan Hendrycks ni obrobni norec, ki ga paniči nad napredkom umetne inteligence. Je izkušen in splošno cenjen raziskovalec, ki je objavil na desetine znanstvenih člankov o ocenjevanju varnosti sistemov umetne inteligence – preizkušanju, kako dobri so pri kodiranju, sklepanju, razumevanju zakonov itd. Med drugim je tudi soizumitelj enote Gaussove linearne napake (GELU).
Jack Clark, soustanovitelj ChatGPT tekmovalec Anthropic, sopredsednik Indeksa umetne inteligence Univerze Stanford, sopredsednik oddelka za umetno inteligenco in računalništvo pri OECD in član nacionalnega svetovalnega odbora vlade ZDA za umetno inteligenco, razpravlja o zaključku Hendrycksove študije. »Ljudje refleksno želijo zavrniti takšno izjavo, kot da prihaja od nekega norca z divjimi očmi, ki živi v gozdarski koči. Že vnaprej bi to rad ovrgel. Ko strokovnjak, ki ima izkušnje ne le z raziskavami umetne inteligence, ampak tudi z ocenjevanje varnosti sistemov AI napiše članek, v katerem trdi, da bodo prihodnji sistemi umetne inteligence lahko delovali sebično in ne v skladu z interesi ljudi, zato bi morali poskrbeti za to!
Povzetek Hendrycksovega prispevka:
- Če agentov AI postane več inteligentnejši od ljudi, bi to lahko povzročilo, da bi človeštvo izgubilo nadzor nad svojo prihodnostjo.
- Obstaja velika verjetnost, da se to zgodi ne kot posledica neke posebne zlonamerne namere ljudi ali strojev, ampak izključno zaradi uporabnosti evolucijskih načel razvoja za AI v skladu z Darwinovo logiko.
- Da bi zmanjšali tveganje za to, je treba notranjo motivacijo agentov umetne inteligence skrbno oblikovati, omejiti njihova dejanja in ustvariti institucije za spodbujanje sodelovanja z umetno inteligenco.
To so najpomembnejše točke, ki jih Hendrycks navaja v svojem 43-stranskem znanstvenem članku:
1. Bali smo se prihoda Terminatorja, vendar so bili temelji teh strahov napačni. Prišlo je do dveh napak:
a. Antropomorfizacija umetne inteligence s pripisovanjem naših motivacij temu itd ChatGPT pokazala, da je AI bistveno drugačen um z vsemi posledicami, ki izhajajo iz tega.
b. Ideja, da je umetna inteligenca nekakšna ena sama entiteta: pametna ali manj pametna, prijazna ali premalo prijazna, a v resnici bo teh zelo različnih entitet umetne inteligence kmalu na svetu čim več.
2. Obstaja še ena temeljna napaka v naših predstavah o prihodnosti z AI - pozabili smo na najpomembnejši razvojni mehanizem - evolucijo, ki poganja razvoj ne samo bioagentov, ampak tudi idej in pomenov, materialnih orodij in nematerialnih institucij.
3. Na Zemlji se je že začelo oblikovati okolje, v katerem se bodo razvijale in razvijale številne umetne inteligence. Ta evolucija bo potekala po Darwinovi logiki, skozi medsebojno tekmovanje AI, ob upoštevanju interesov njihovih »matičnih« institucij: korporacij, vojske itd.
4. Logika tekmovalne evolucije bo privedla do enakega kot pri ljudeh: čedalje bolj inteligentni agenti AI bodo postajali vse bolj sebični in pripravljeni dosegati cilje s prevaro in silo, glavni cilj pa bo moč.
5. Naravna selekcija agentov AI daje prednost bolj sebičnim vrstam pred bolj altruističnimi. Agenti umetne inteligence se bodo obnašali sebično in zasledovali lastne interese, pri čemer se bodo malo ozirali na ljudi, kar bi lahko vodilo v katastrofalna tveganja za človeštvo.
- Peticija prenehati razvijati sisteme umetne inteligence, ki so naprednejši od GPT-4 polariziral družbo. Prva skupina verjame, da napredka ni mogoče ustaviti, medtem ko druga verjame, da je napredek in ga je včasih treba ustaviti. Tretja skupina ne razume, kako GPT-4 deluje v prvi vrsti. Najpomembnejše podrobnosti v tem besedilu so, da AI nima zavesti, volje ali delovanja in da je lahko slab tudi brez zlonamernih ljudi.
- Geoffrey Hinton se pogosto imenuje "boter umetne inteligence" in velja za vodilno osebnost v skupnosti globokega učenja. Njegov 40-minutni intervju z ChatGPT je edinstven v tem, da je enostaven za razumevanje in ima globino razumevanja, ki je dostopna redkim drugim. Poudarja pomen sedanje »intelektualne revolucije« in nečloveško inteligenco ChatGPT, ki temelji na umetno inteligentnem agentu z naprednimi digitalnimi komunikacijskimi zmogljivostmi.
Preberite več sorodnih člankov:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
