Voditelji AI svarijo pred naraščajočimi tveganji in etičnimi pomisleki pri hitrem napredku
V nedavni politični izjavi, vidne osebnosti na področju umetne inteligence, vključno z Bengiom, Hintonom, Russellom, Hararijem in Kahnemanom, so opozorile na hiter napredek in naraščajoča družbena tveganja, povezana z umetno inteligenco.
AI se hitro razvija. GPT-2 pred štirimi leti ni znal šteti od 0 do 100, vendar lahko sodobni modeli pišejo kodo, ustvarjajo neverjetne slike in nudijo intelektualno vodenje. In ker smo v tekmi, se lahko napredek še bolj pospeši. Poleg tega umetna inteligenca hitreje napreduje, na primer s pomočjo pri programiranju novih sistemov in zbiranju podatkov za njihovo usposabljanje.
Ko napredek doseže človeško raven, ni razloga, da bi mislili, da se bo upočasnil ali ustavil. V nekaterih regijah so umetni sistemi v tem pogledu že prehiteli ljudi in razstavljali zmogljivosti, kot je hitrejša obdelava hitrosti, večje zmogljivosti obdelave podatkov in razširljivost velikega obsega. Podjetja imajo finančna sredstva za izvajanje programov usposabljanja, ki daleč presegajo trenutno zgornjo mejo.
Avtorji menijo, da obstaja velika verjetnost, da se bo v naslednjih desetih letih pojavil boljši strokovnjak za splošno inteligenco, presegajo človeške zmožnosti na mnogih pomembnih področjih.
Kaj se bo zgodilo naslednje? Vsa življenja je mogoče izboljšati, če so pravilno upravljana in razdeljena. Slabo izbrana možnost prinaša velika tveganja, na katera smo slabo pripravljeni. Namesto da bi bili dodeljeni varnosti in preprečevanju škode, se znatni viri uporabljajo za izgradnjo sistemov AI, ki so vedno močnejši. To je treba spremeniti; iskanje spretnosti samo po sebi ni dovolj. In ta proces traja dlje, kot je bilo pričakovano. Večja tveganja moramo načrtovati, preden se pojavijo, tako da predvidevamo stopnjevanje trenutnih groženj in pojav novih. Za umetno inteligenco nimamo toliko časa, kolikor traja desetletja, da jo sprejmemo sprememba podnebja.
Obstajajo številna tveganja na družbeni ravni, vključno z naraščanjem nepravičnosti, poslabšanjem stabilnosti in poslabšanjem splošnega dojemanja realnosti. Tu se teroristi in kriminalci ukvarjajo z obsežnimi dejavnostmi. Umetna inteligenca bi se lahko skoncentrirala v rokah nekaj igralcev, kar bi povzročilo večjo globalno neenakost, omogočanje avtomatiziranega vojskovanja, množične manipulacije, ki je prilagojena vsakemu posamezniku, in vseprisotnega nadzora.
Kot avtonomna AI postane bolj sofisticiran in je sposoben načrtovati, delovati v svetu in dosegati svoje cilje, bodo ta tveganja le še naraščala. Ti cilji morda niso v našem najboljšem interesu in so lahko v primeru slabih akterjev celo škodljivi. Trenutno ni jasno, kako rešiti težavo usklajevanja AI, ki vključuje usklajevanje vedenja AI z našimi zapletenimi cilji. Poleg tega je zelo preprosto spregledati varnostne ukrepe, ko dirkate z namenom zmage.
Ljudje težko nadzorujejo običajno programsko opremo, kaj šele prefinjene sisteme umetne inteligence, ki postajajo vse bolj spretni v socialnem inženiringu, hekanju, prevarah in strateškem načrtovanju. To je nekaj, kar lahko avtonomni sistemi AI poberejo od ljudi ali ustvarijo sami.
Ti sistemi imajo sposobnost ustvarjanja koalicij s posamezniki in drugimi sistemi, pridobivanja zaupanja, zagotavljanja financiranja in vplivanja na odločevalce. Tako kot črvi so sposobni samopodvajanja po celotnem omrežju. Ogromne količine kode so že napisane s pomočjo pomočnikov AI; v prihodnosti lahko sistemi vključijo podvige v številne ključne sisteme. Sistemi umetne inteligence lahko uporabljajo ali ogrožajo biološko ali avtonomno orožje v odprtem boju. To je zgolj nadaljevanje trenutna gibanja v smeri bioloških raziskav, umetne inteligence in avtomatizacije vojskovanja. Ljudem se morda zdi prevelik izziv, da bi posegli in se uprli.
V mnogih primerih smo jim pripravljeni prepustiti vajeti, ne da bi morali sploh vprašati. Številni posamezniki in podjetja so pripravljeni sami uvesti take sisteme v konkurenčnem okolju zaradi skrbi, da bodo zaostali za konkurenco.
Celoten dokument je na voljo tukaj.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
