OpenAI Vyvoláva alarm na superinteligenciu a potenciál AI prekonať ľudské schopnosti v nasledujúcom desaťročí
Stručne
OpenAI vydáva výzvu na reguláciu superinteligencie, pričom zdôrazňuje potrebu riadenia vo svetle rýchleho pokroku AI.
Predpokladá sa, že systémy AI prekonajú ľudskú odbornosť a podnikovej produktivity za desaťročie, V závislosti na OpenAI.
OpenAI zdôrazňuje význam verejného dohľadu a demokratickej kontroly pre výkonné systémy umelej inteligencie.
OpenAI, tvorca ChatGPT, vyzval na zamyslenie regulácia superinteligencie, pričom ide o paralely s reguláciou jadrovej energie. V nedávnom blog post, OpenAI zdôraznila potenciálne dôsledky rýchleho pokroku AI a zdôraznila naliehavú potrebu riadenia v tomto vyvíjajúcom sa prostredí. Spoločnosť uviedla, že systémy AI by do desiatich rokov prekonali odborníkov a najväčšie korporácie v produktivite a zručnostiach.
„Musíme tiež zmierniť riziká dnešnej technológie AI, ale superinteligencia si bude vyžadovať špeciálne zaobchádzanie a koordináciu,“ povedal Sam Altman, Greg Brockman a Ilya Sutskever z OpenAI zdôraznené.
Superinteligencia opisuje entitu, ktorá presahuje celkovú ľudskú inteligenciu alebo niektoré špecifické aspekty inteligencie. Podľa autorov bude mať superinteligencia AI bezkonkurenčnú úroveň sily, ktorá bude zahŕňať pozitívne aj negatívne aspekty.
Vývoj a riziká nevyhnutnej superinteligencie
OpenAI identifikoval tri dôležité myšlienky, ktoré zohrávajú kľúčovú úlohu pri riadení úspešného rozvoja superinteligencie. Patrí medzi ne koordinácia medzi vedúcimi rozvojovými snahami, zriadenie medzinárodného orgánu podobného Medzinárodnej agentúre pre atómovú energiu (MAAE) a rozvoj technických spôsobilostí pre bezpečnosť.
Zatiaľ čo OpenAI uznáva, že systémy umelej inteligencie sú spojené s rizikami, pričom tieto riziká sú porovnateľné s rizikami spojenými s inými technológiami súvisiacimi s internetom. Altman, Brockman a Sutskever tiež vyjadrujú presvedčenie, že súčasné prístupy spoločnosti k riadeniu týchto rizík sú vhodné. Hlavná obava sa však týka budúcich systémov, ktoré budú mať bezprecedentnú silu.
„Naproti tomu systémy, o ktoré sa obávame, budú mať výkon presahujúci všetky doteraz vytvorené technológie a mali by sme byť opatrní, aby sme ich zameranie nezmenšili aplikáciou podobných štandardov na technológiu hlboko pod touto hranicou,“ píše sa v blogovom príspevku.
Autori tvrdia, že výkonné systémy AI potrebujú verejný dohľad a demokratickú kontrolu. Vysvetľujú tiež, prečo stavajú túto technológiu na OpenAI: vytvoriť lepší svet a vyhnúť sa riziku jeho zastavenia. AI pomáha v rôznych oblastiach vrátane vzdelávania, kreativity a produktivity, ako aj všeobecného hospodárskeho rastu.
OpenAI si myslí, že je to ťažké a riskantné zastaviť superinteligenciu od stvorenia. Superinteligencia má značné výhody, je každým rokom lacnejšia, pracuje na nej viac ľudí a je súčasťou technologickej cesty spoločnosti.
Ilman Šažajev, technologický podnikateľ v oblasti AI a spoluzakladateľ spoločnosti Farcana Labs, zdieľal niekoľko komentárov týkajúcich sa noviniek. Prognózy naznačujú, že ak nie je správne riadená, superinteligencia môže byť jedným z najničivejších vynálezov ľudstva všetkých čias. Rozhovory o nasadení technológie však naďalej rozdeľujú, keďže ešte nebola vyvinutá. Presadzovanie zastavenia vývoja založeného na strachu z predpovedí môže ľudstvo pripraviť o príležitosti, ktoré môže mať nová technológia.
"OpenAIPrístup decentralizovaného riadenia môže pomôcť zachovať jeho širokú bezpečnosť. So správnymi predpismi môže byť program v prípade, že sa tak stane, vypnutý predstavuje hrozbu. Ak budú tieto záruky zavedené, Superinteligencia môže byť inováciou, ktorú stojí za to preskúmať,“ povedal Shazhaev.
Otvorenou diskusiou o svojich názoroch na superinteligenciu AI a navrhované regulačné opatrenia, OpenAI Zdá sa, že podporuje informované diskusie a ponúka rôzne pohľady.
Sam Altman pevne verí v širokej dostupnosti AI pre verejnosť. Uznávajúc, že nie je možné predvídať všetky problémy vopred, obhajuje riešenie problémov v čo najskoršom štádiu. Altman však tiež zdôrazňuje dôležitosť nezávislých auditov pre systémy ako napr ChatGPT pred prepustením. Ďalej uznáva možnosť implementácie opatrení, ako je obmedzenie tempa tvorby nového modelu alebo zriadenie výboru pre posúdiť bezpečnosť modelov AI pred uvedením na trh. Altman predpovedá, že množstvo inteligencie vo vesmíre sa zdvojnásobí každých 18 mesiacov.
Prečítajte si viac:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
Ďalšie články
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
