OpenAI Sproži alarm glede superinteligence in potenciala umetne inteligence, da preseže človeške zmožnosti v naslednjem desetletju
Na kratko
OpenAI izda poziv k ureditvi superinteligence, pri čemer poudarja potrebo po upravljanju v luči hitrega napredka umetne inteligence.
Sistemi umetne inteligence naj bi presegli človeško strokovno znanje in izkušnje produktivnost podjetja v desetletjuPo OpenAI.
OpenAI poudarja pomen javnega nadzora in demokratičnega nadzora za zmogljive sisteme umetne inteligence.
OpenAI, ustvarjalca ChatGPT, je pozval k razmišljanju predpis superinteligence, ki vleče vzporednice z regulacijo jedrske energije. V nedavnem blog post, OpenAI poudaril morebitne posledice hitrega napredka umetne inteligence in poudaril nujno potrebo po upravljanju v tej razvijajoči se pokrajini. Podjetje je izjavilo, da bodo sistemi AI v desetih letih presegli strokovnjake in največje korporacije v produktivnosti in veščinah.
"Ublažiti moramo tudi tveganja današnje tehnologije umetne inteligence, vendar bo superinteligenca zahtevala posebno obravnavo in koordinacijo," Sam Altman, Greg Brockman in Ilya Sutskever iz OpenAI poudaril.
Superinteligenca opisuje entiteto, ki presega celotno človeško inteligenco ali nekatere specifične vidike inteligence. Po mnenju avtorjev bo imela superinteligenca AI neprimerljivo raven moči, ki bo vključevala tako pozitivne kot negativne vidike.
Razvoj in tveganja neizogibne superinteligence
OpenAI je identificiral tri pomembne ideje, ki igrajo ključno vlogo pri usmerjanju uspešnega razvoja superinteligence. Ti vključujejo usklajevanje vodilnih razvojnih prizadevanj, ustanovitev mednarodnega organa, podobnega Mednarodni agenciji za atomsko energijo (IAEA), in razvoj tehničnih zmogljivosti za varnost.
Medtem ko je OpenAI priznava, da sistemi umetne inteligence prinašajo tveganja, ki so primerljiva s tistimi, povezanimi z drugimi tehnologijami, povezanimi z internetom. Altman, Brockman in Sutskever prav tako izražajo prepričanje, da so trenutni pristopi družbe k obvladovanju teh tveganj ustrezni. Vendar pa je glavna skrb glede prihodnjih sistemov, ki bodo imeli moč brez primere.
"Nasprotno bodo sistemi, ki nas skrbijo, imeli moč, ki bo presegla katero koli tehnologijo, ki je bila še ustvarjena, in moramo paziti, da ne zmanjšamo osredotočenosti nanje z uporabo podobnih standardov za tehnologijo, ki je daleč pod to mejo," je pisalo v objavi na blogu.
Avtorji trdijo, da močni sistemi AI potrebujejo javni nadzor in demokratični nadzor. Pojasnjujejo tudi, zakaj gradijo to tehnologijo pri OpenAI: ustvariti boljši svet in se izogniti tveganjem, da bi ga ustavili. AI pomaga na različnih področjih, vključno z izobraževanjem, ustvarjalnostjo in produktivnostjo ter splošno gospodarsko rastjo.
OpenAI meni, da je težko in tvegano ustavite superinteligenco od ustvarjanja. Superinteligenca ima precejšnje prednosti, vsako leto je cenejša, več ljudi dela na njej in je del tehnološke poti podjetja.
Ilman Šažajev, tehnološki podjetnik na področju umetne inteligence in soustanovitelj podjetja Farcana Labs, je ob novici delil nekaj komentarjev. Projekcije kažejo, da bo superinteligenca, če je ne bomo pravilno upravljali, ena najbolj uničujočih človeških iznajdb vseh časov. Vendar pa pogovori o uvajanju tehnologije ostajajo razhajajoči, saj še ni razvita. Prizadevanje za zaustavitev razvoja, ki temelji na strahu pred napovedmi, lahko človeštvo prikrajša za priložnosti, ki jih ima nova tehnologija.
"OpenAIPristop decentraliziranega upravljanja lahko pomaga ohranjati njegovo široko varnost. S pravimi predpisi bi lahko program zaprli, če bi bil predstavlja grožnjo. Če bi bili ti zaščitni ukrepi vzpostavljeni, bi lahko bila superinteligenca inovacija, ki jo je vredno raziskati,« je dejal Shazhaev.
Z odprto razpravo o svojih pogledih na superinteligenco AI in predlagane regulativne ukrepe, OpenAI zdi se, da spodbuja informirane razprave in vabi k raznolikim perspektivam.
Sam Altman močno verjame v široki dostopnosti umetne inteligence javnosti. Priznava, da je vseh težav nemogoče predvideti vnaprej, zato se zavzema za čim zgodnejšo obravnavo težav. Vendar pa Altman poudarja tudi pomen neodvisnih revizij za sisteme, kot je ChatGPT pred sprostitvijo. Nadalje priznava možnost izvajanja ukrepov, kot je omejitev hitrosti ustvarjanja novih modelov ali ustanovitev odbora za oceniti varnost modelov AI pred sprostitvijo na trg. Predvsem Altman napoveduje, da se bo količina inteligence v vesolju podvojila vsakih 18 mesecev.
Preberite več:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Agne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].
več člankov
Agne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].
