OpenAI: AI potencijalno može učiniti mnogo štete ljudima, ali pokušaj zaustavljanja napretka nije opcija
Ukratko
OpenAIDokument 'Planning for AGI and Beyond' predlaže postupno, sporo uvođenje složenijih i "pametnijih" modela, organiziranje neovisnih revizija velikih sustava i ograničavanje računalnih resursa.
OpenAI želi da umjetna inteligencija bude jednako otvorena svima i stvara dosljednije i upravljivi modeli smanjiti pristranost i nepoželjno ponašanje.
OpenAI nedavno objavio dokument pod naslovom “Planiranje za AGI i dalje”. Ocrtava široke ideje koje vode djelovanje tvrtke dok se svijet približava razvoju AGI (umjetne opće inteligencije).
OpenAI with vjeruje da iako umjetna inteligencija ima potencijal uzrokovati značajnu štetu ljudima, pokušaj zaustavljanja napretka nije opcija. Kao rezultat toga, moramo naučiti kako održavati ovo poboljšanje kako se ne bi značajno pogoršalo.
Dokument se može pronaći ovdje. Istaknimo nekoliko ključnih elemenata iz njega:
- OpenAI želi da AGI pomogne ljudima da napreduju u svim aspektima svojih života, ekonomski i znanstveno.
Umjesto da stvori super-cool veliki AI i odmah ga pusti u svijet, OpenAI postupno će uvoditi kompliciranije i "pametnije" modele. Pretpostavka je da postupno povećanje sposobnosti umjetne inteligencije neće šokirati svijet, dajući ljudima vremena da se prilagode, prilagode gospodarstvo i izgrade procedure za interakciju s umjetnom inteligencijom. - OpenAI poziva sve organizacije da službeno usvoje gore spomenuto načelo (postupno uvođenje moćne umjetne inteligencije). Altman također preporučuje ograničavanje količine računalnih resursa koji se mogu koristiti za obuku modela i postavljanje nepristranih revizija glavnih sustava prije nego što budu dostupni široj javnosti. Umjesto da se upuštate u natjecanja poput "tko će prvi izbaciti hladniji i veći model?" OpenAI traži od poduzeća da raditi zajedno poboljšati sigurnost AI.
- OpenAI vjeruje da je ključno da vlade budu obaviještene o obukama koje prelaze određenu ljestvicu. Ovo je intrigantan koncept i željeli bismo znati više o tome Planovi OpenAI ima u tom pogledu. Ovaj prijedlog mi se isprva ne čini baš sjajnim.
- OpenAI pokušat će razviti modele koji su pouzdaniji i kontroliraniji, najvjerojatnije za ograničavanje pristranosti i nepovoljnog ponašanja u AI. Pristup koji je zauzeo OpenAI u ovom slučaju je učiniti model dostupnim široj javnosti u vrlo ograničenom obliku, a istovremeno korisnicima dati mogućnost da ga personaliziraju. Budući da potrošači tamo neće moći ništa "personalizirati", nisam siguran kako će to pomoći da model u cjelini postane manje pristran. Osim ako ne oslobađa tvrtku odgovornosti za postupke modela.
Sve u svemu, dokument pokazuje na pravi način. Međutim, došlo je do manjeg sukoba između “nećemo odmah pokazati cool modele javnosti, ali ćemo o njima govoriti državama” i “ljudi bi trebali znati o napretku umjetne inteligencije." Ukratko, čekat ćemo detaljna pojašnjenja od OpenAI na sve teme.
Pročitajte više o AI:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
