OpenAIAI potenciāli var nodarīt daudz ļauna cilvēkiem, taču mēģinājums apturēt progresu nav risinājums
Īsumā
OpenAI's dokuments "Plānošana AGI and Beyond" iesaka pakāpeniski, lēni ieviest sarežģītākus un "gudrus" modeļus, organizēt lielu sistēmu neatkarīgus auditus un ierobežot skaitļošanas resursus.
OpenAI vēlas, lai mākslīgais intelekts būtu vienādi atvērts visiem un radītu konsekventākus un pārvaldāmi modeļi lai samazinātu neobjektivitāti un nevēlamu uzvedību.
OpenAI nesen publicēja dokumentu ar nosaukumu "Plānošana AGI un tālāk". Tajā ir izklāstītas plašās idejas, kas virza uzņēmuma rīcību, pasaulei tuvojoties AGI (mākslīgā vispārējā intelekta) attīstībai.
OpenAI ar uzskata, ka, lai gan AI var nodarīt būtisku kaitējumu cilvēkiem, mēģinājums apturēt progresu nav risinājums. Rezultātā mums ir jāiemācās saglabāt šo uzlabojumu, lai tas būtiski nepasliktinātos.
Dokumentu var atrast šeit. Izcelsim dažus būtiskus elementus no tā:
- OpenAI vēlas, lai AGI palīdzētu cilvēkiem attīstīties visos viņu dzīves aspektos gan ekonomiski, gan zinātniski.
Tā vietā, lai izveidotu īpaši foršu lielu AI un nekavējoties laistu to pasaulē, OpenAI pakāpeniski ieviesīs sarežģītākus un “gudrākus” modeļus. Tiek pieņemts, ka pakāpeniski pieaugošās AI iespējas nešokēs pasauli, dodot cilvēkiem laiku pielāgoties, pielāgot ekonomiku un izveidot procedūras mijiedarbībai ar AI. - OpenAI aicina visas organizācijas oficiāli pieņemt iepriekš minēto principu (pamazām ieviest spēcīgu AI). Altmans arī iesaka ierobežot to skaitļošanas resursu apjomu, ko var izmantot modeļu apmācībai, un izveidot objektīvu galveno sistēmu auditu, pirms tās ir pieejamas plašai sabiedrībai. Tā vietā, lai piedalītos konkursos, piemēram, “kurš būs pirmais, kas izlaidīs stilīgāku un lielāku modeli?” OpenAI aicina uzņēmumus strādāt kopā lai uzlabotu AI drošību.
- OpenAI uzskata, ka ir ļoti svarīgi, lai valdības būtu informētas par apmācībām, kas pārsniedz noteiktu mērogu. Šis ir intriģējošs jēdziens, un mēs vēlētos uzzināt vairāk par plāni OpenAI ir šajā sakarā. Šis priekšlikums sākumā man nešķiet tik lielisks.
- OpenAI mēģinās izstrādāt modeļus, kas ir uzticamāki un vadāmāki, visticamāk, lai ierobežotu novirzes un nelabvēlīgu uzvedību AI. Pieeja, ko izmantoja OpenAI šajā gadījumā ir padarīt modeli pieejamu plašai sabiedrībai ļoti ierobežotā veidā, vienlaikus dodot lietotājiem iespēju to personalizēt. Tā kā patērētāji tur neko nevarēs “personalizēt”, es neesmu pārliecināts, kā tas palīdzēs modelim kopumā kļūt mazāk neobjektīvam. Ja vien tas neatbrīvo firmu no atbildības par modeļa darbībām.
Kopumā dokuments norāda uz pareizo ceļu. Taču radās neliels konflikts starp “publikai nerādīsim uzreiz foršus modeļus, bet par tiem runāsim valstīm” un "Cilvēkiem vajadzētu zināt par AI progresu. Īsāk sakot, mēs gaidīsim detalizētus paskaidrojumus no OpenAI par visām tēmām.
Lasiet vairāk par AI:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
