OpenAI: ИИ може потенциално да навреди много на хората, но опитът да се спре прогресът не е опция
Накратко
OpenAIДокументът на "Планиране за AGI и след това" предлага постепенно, бавно въвеждане на по-сложни и "умни" модели, организиране на независими одити на големи системи и ограничаване на изчислителните ресурси.
OpenAI иска AI да бъде отворен за всички еднакво и да създава по-последователни и управляеми модели за намаляване на пристрастията и нежеланото поведение.
OpenAI наскоро публикува документ, озаглавен „Планиране за AGI и след това“. Той очертава широките идеи, ръководещи действията на компанията, докато светът се приближава към развитието на AGI (изкуствен общ интелект).
OpenAI with вярва, че въпреки че AI има потенциала да причини значителна вреда на хората, опитът за спиране на прогреса не е опция. В резултат на това трябва да се научим как да поддържаме това подобрение, така че да не се влошава значително.
Документът може да бъде намерен тук. Нека подчертаем няколко ключови елемента от него:
- OpenAI иска AGI да помогне на хората да процъфтяват във всички аспекти на живота си, както икономически, така и научно.
Вместо да създаде супер готин голям AI и незабавно да го пусне в света, OpenAI ще въведе постепенно по-сложни и „умни“ модели. Предположението е, че постепенното увеличаване на възможностите на AI няма да шокира света, давайки време на хората да се приспособят, да адаптират икономиката и да изградят процедури за взаимодействие с AI. - OpenAI приканва всички организации официално да приемат гореспоменатия принцип (постепенно внедряване на мощен AI). Алтман също така препоръчва ограничаване на количеството изчислителни ресурси, които могат да се използват за обучение на модели и създаване на безпристрастни одити на основни системи, преди те да бъдат предоставени на широката общественост. Вместо да участвате в състезания като „кой пръв ще пусне по-готин и по-голям модел?“ OpenAI моли предприятията да работят заедно за подобряване на безопасността на AI.
- OpenAI вярва, че е изключително важно правителствата да бъдат информирани за тренировки, които надхвърлят определен мащаб. Това е интригуваща концепция и бихме искали да знаем повече за планове OpenAI има в това отношение. Първоначално това предложение не ми изглежда чак толкова добро.
- OpenAI ще се опита да разработи модели, които са по-надеждни и контролируеми, най-вероятно да ограничат пристрастията и неблагоприятното поведение в AI. Подходът, възприет от OpenAI в този случай е моделът да бъде достъпен за широката публика в много ограничена форма, като същевременно се дава възможност на потребителите да го персонализират. Тъй като потребителите няма да могат да „персонализират“ нищо там, не съм сигурен как това ще помогне на модела като цяло да стане по-малко пристрастен. Освен ако не освобождава фирмата от отговорност за действията на модела.
Като цяло документът сочи в правилната посока. Имаше обаче малък конфликт между „няма веднага да покажем страхотни модели на обществеността, но ще говорим за тях на държавите“ и „хората трябва да знаят за напредъка на AI. Накратко, ще очакваме подробни разяснения от OpenAI по всички теми.
Прочетете повече за AI:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
