OpenAI: Umetna inteligenca bi lahko povzročila veliko škode ljudem, vendar poskus zaustavitve napredka ni možnost
Na kratko
OpenAINjegov dokument »Načrtovanje za AGI in naprej« predlaga postopno, počasno uvajanje kompleksnejših in »pametnejših« modelov, organiziranje neodvisnih revizij velikih sistemov in omejevanje računalniških virov.
OpenAI želi, da je umetna inteligenca odprta za vse enako in ustvarja bolj dosledno in obvladljivi modeli zmanjšati pristranskost in nezaželeno vedenje.
OpenAI je pred kratkim objavil dokument z naslovom »Načrtovanje za AGI in naprej«. Orisuje široke ideje, ki vodijo delovanje podjetja, ko se svet približuje razvoju AGI (umetna splošna inteligenca).
OpenAI with verjame, da čeprav lahko umetna inteligenca povzroči znatno škodo ljudem, poskus zaustavitve napredka ni možnost. Posledično se moramo naučiti, kako ohraniti to izboljšavo, da se bistveno ne poslabša.
Dokument je mogoče najti tukaj. Naj izpostavimo nekaj ključnih elementov iz tega:
- OpenAI želi, da AGI pomaga ljudem uspevati v vseh vidikih njihovega življenja, tako gospodarsko kot znanstveno.
Namesto da bi ustvaril super kul velik AI in ga takoj dal v svet, OpenAI bo postopoma uvajal bolj zapletene in »pametne« modele. Predpostavka je, da postopno povečevanje zmogljivosti umetne inteligence ne bo šokiralo sveta, saj bo ljudem dal čas za prilagajanje, prilagajanje gospodarstva in izgradnjo postopkov za interakcijo z umetno inteligenco. - OpenAI poziva vse organizacije, da formalno sprejmejo zgoraj omenjeno načelo (postopno uvajanje zmogljive umetne inteligence). Altman priporoča tudi omejitev količine računalniških virov, ki se lahko uporabljajo za usposabljanje modelov, in vzpostavitev nepristranskih revizij glavnih sistemov, preden so na voljo širši javnosti. Namesto da bi se ukvarjali s tekmovanji, kot je "kdo bo prvi predstavil hladnejši in večji model?" OpenAI od podjetij zahteva, naj delati skupaj za izboljšanje varnosti AI.
- OpenAI meni, da je ključnega pomena, da so vlade obveščene o usposabljanjih, ki presegajo določen obseg. To je zanimiv koncept in o njem bi radi izvedeli več načrti OpenAI ima v zvezi s tem. Ta predlog se mi na začetku ne zdi tako dober.
- OpenAI bo poskušal razviti modele, ki so bolj zanesljivi in jih je mogoče nadzorovati, kar bo najverjetneje omejilo pristranskost in neugodno vedenje v AI. Pristop, ki ga je sprejel OpenAI v tem primeru je dati model na voljo širši javnosti v zelo omejeni obliki, hkrati pa dati uporabnikom možnost, da ga prilagodijo. Ker potrošniki tam ne bodo mogli ničesar »personalizirati«, nisem prepričan, kako bo to pripomoglo k temu, da bo model kot celota postal manj pristranski. Razen če podjetje ne razbremeni odgovornosti za dejanja modela.
Na splošno dokument kaže v pravo smer. Vendar pa je prišlo do manjšega konflikta med "ne bomo takoj pokazali kul modelov javnosti, ampak bomo o njih govorili državam" in "Ljudje bi morali vedeti o napredku AI." Skratka, čakali bomo na podrobnejša pojasnila OpenAI na vse teme.
Preberite več o AI:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
