OpenAI Повдига тревога за свръхинтелигентността и потенциала на AI да надмине човешките способности през следващото десетилетие
Накратко
OpenAI отправя призив за регулиране на суперинтелекта, подчертавайки необходимостта от управление в светлината на бързия напредък на ИИ.
Предвижда се AI системите да надминат човешкия опит и корпоративна производителност в рамките на едно десетилетие, Според OpenAI.
OpenAI подчертава значението на обществения надзор и демократичния контрол за мощните системи с ИИ.
OpenAI, създателят на ChatGPT, отправи провокиращ размисъл призив за регулиране на суперинтелекта, като прави паралели с регулирането на ядрената енергия. В скорошен блог пост, OpenAI подчерта потенциалните последици от бързия напредък на AI и подчерта належащата нужда от управление в този развиващ се пейзаж. Компанията заяви, че AI системите ще надминат експертите и най-големите корпорации по производителност и умения в рамките на десет години.
„Трябва да смекчим и рисковете от днешната AI технология, но суперинтелигентността ще изисква специално отношение и координация“, Сам Алтман, Грег Брокман и Иля Сутскевер от OpenAI подчертано.
Суперинтелигентността описва образувание, което надхвърля цялостната човешка интелигентност или някои специфични аспекти на интелигентността. Според авторите суперинтелигентността на AI ще има несравнимо ниво на мощ, обхващаща както положителни, така и отрицателни аспекти.
Развитието и рисковете на неизбежния суперинтелект
OpenAI идентифицира три важни идеи, които играят ключова роля в навигирането на успешното развитие на суперинтелекта. Те включват координация между водещите усилия за развитие, създаването на международен орган, подобен на Международната агенция за атомна енергия (МААЕ), и развитието на технически способности за безопасност.
Докато OpenAI признава, че AI системите идват с рискове, тези рискове са сравними с тези, свързани с други свързани с интернет технологии. Altman, Brockman и Sutskever също изразяват увереност, че настоящите подходи на обществото за управление на тези рискове са подходящи. Основното безпокойство обаче е относно бъдещите системи, които ще имат безпрецедентна мощност.
„За разлика от това, системите, за които сме загрижени, ще имат мощност отвъд която и да е създадена досега технология и трябва да внимаваме да не смекчим фокуса върху тях, като прилагаме подобни стандарти към технологии далеч под тази лента“, се казва в публикацията в блога.
Авторите твърдят, че мощните AI системи се нуждаят от публичен надзор и демократичен контрол. Те също така обясняват защо изграждат тази технология на OpenAI: да създадем по-добър свят и да избегнем рисковете от спирането му. AI помага в различни области, включително образование, творчество и производителност, както и общ икономически растеж.
OpenAI смята, че е трудно и рисковано спрете суперинтелигентността от създаване. Суперинтелигентността има значителни предимства, всяка година става по-евтина, повече хора работят върху нея и е част от технологичния път на компанията.
Илман Шажаев, технологичен предприемач в AI и съосновател на Farcana Labs, сподели няколко коментара по повод новината. Прогнозите сочат, че ако не се управлява правилно, суперинтелектът може да се окаже едно от най-разрушителните човешки изобретения на всички времена. Разговорите за внедряването на технологията обаче остават противоречиви, тъй като тя все още не е разработена. Стремежът към спиране на развитието въз основа на страха от прогнози може да лиши човечеството от възможностите, които новата технология може да има.
"OpenAIПодходът на децентрализирано управление може да помогне за поддържането на широката му безопасност. С правилните разпоредби програмата може да бъде затворена, в случай че е така представлява заплаха. Ако тези предпазни мерки са налице, тогава суперинтелектът може да бъде иновация, която си струва да се проучи“, каза Шажаев.
Чрез открито обсъждане на своите възгледи относно суперразузнаването на ИИ и предложените регулаторни мерки, OpenAI изглежда насърчава информирани дискусии и приканва към различни гледни точки.
Сам Алтман силно вярва в широко разпространената достъпност на AI за обществеността. Като признава, че е невъзможно да се предвидят всички проблеми предварително, той се застъпва за решаване на проблемите на възможно най-ранен етап. Алтман обаче подчертава и значението на независимите одити за системи като ChatGPT преди освобождаване. Освен това той признава възможността за прилагане на мерки като ограничаване на скоростта на създаване на нови модели или създаване на комитет за оценка на безопасността на AI моделите преди пускането на пазара. Трябва да се отбележи, че Алтман прогнозира, че количеството интелект във Вселената ще се удвоява на всеки 18 месеца.
Чети повече:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Агне е журналист, който отразява най-новите тенденции и развития в метавселената, ИИ и Web3 индустрии за Metaverse Post. Нейната страст към разказването на истории я кара да провежда множество интервюта с експерти в тези области, като винаги се стреми да разкрива вълнуващи и ангажиращи истории. Агне има бакалавърска степен по литература и има богат опит в писането на широк спектър от теми, включително пътуване, изкуство и култура. Тя също е била доброволец като редактор на организацията за правата на животните, където е помогнала за повишаване на осведомеността относно проблемите, свързани с хуманното отношение към животните. Свържете се с нея на [имейл защитен].
Още статии
Агне е журналист, който отразява най-новите тенденции и развития в метавселената, ИИ и Web3 индустрии за Metaverse Post. Нейната страст към разказването на истории я кара да провежда множество интервюта с експерти в тези области, като винаги се стреми да разкрива вълнуващи и ангажиращи истории. Агне има бакалавърска степен по литература и има богат опит в писането на широк спектър от теми, включително пътуване, изкуство и култура. Тя също е била доброволец като редактор на организацията за правата на животните, където е помогнала за повишаване на осведомеността относно проблемите, свързани с хуманното отношение към животните. Свържете се с нея на [имейл защитен].
