Anthropic, Google, Microsoft и OpenAI Назначете изпълнителен директор за Frontier Model Forum и разкрийте фонд за безопасност на AI в размер на 10 милиона долара
Накратко
Anthropic, Google, Microsoft и OpenAI представиха Chris Meserole като встъпителен изпълнителен директор на Frontier Model Forum.
Едновременно с това те обявиха значителен фонд за безопасност на ИИ с над 10 милиона долара финансиране.
Anthropic, Google, Microsoft и OpenAI имам назначен Крис Месерол като встъпителен изпълнителен директор на Frontier Model Forum. Индустриалният консорциум е посветен на насърчаването на сигурното и етично развитие на авангардни AI модели в световен мащаб. Едновременно с това Forum въведе фонд за безопасност на изкуствения интелект от над 10 милиона долара. Целта на фонда е да стимулира напредъка в изследванията за безопасност на ИИ.
Изпълнителен директор Крис Мезерол носи богат опит в технологичната политика и управлението на нововъзникващите технологии. Преди да бъде назначен, той е бил директор на Инициативата за изкуствен интелект и нововъзникващи технологии в института Брукингс. В новото си качество Мезероле ще ръководи усилията за напредък в изследванията на безопасността на ИИ, ще идентифицира най-добрите практики за сигурно разработване на модели на ИИ, ще разпространява знания сред заинтересованите страни и ще подкрепя инициативи, които използват ИИ за справяне с обществените предизвикателства.
„Най-мощните AI модели имат огромно обещание за обществото, но за да реализираме потенциала им, трябва да разберем по-добре как безопасно да ги развиваме и оценяваме. Вълнувам се да поема това предизвикателство с Frontier Model Forum,”
каза Мезерол.
Фондът за безопасност на ИИ се появи в отговор на бързото развитие на възможностите на ИИ през последната година, което наложи допълнителни академични изследвания на безопасността на ИИ. Този фонд, сътрудничество между Frontier Model Forum и филантропски партньори, ще предостави подкрепа на независими изследователи по целия свят, свързани с академични институции, изследователски организации и стартиращи компании.
Основните участници в тази инициатива са Anthropic, Google, Microsoft и OpenAI, заедно с филантропски организации като фондация Patrick J. McGovern, фондация David and Lucile Packard, Eric Schmidt и Jaan Tallinn. Общият им принос надхвърля 10 милиона долара, като се очакват допълнителни дарения от други партньори.
По-рано тази година членовете на форума обещаха доброволни ангажименти в Белия дом, включително разрешаване на откриване от трети страни и докладване на уязвимости в техните AI системи. Фондът за безопасност на изкуствения интелект е в съответствие с този ангажимент, като предлага финансиране от външни общности за проверка на граничните системи с изкуствен интелект. Разнообразието от гласове и гледни точки ще обогати глобалния дискурс относно безопасността на ИИ и ще разшири общата база от знания за ИИ.
Повишаване на AI безопасността и сътрудничеството
Фондът за безопасност на изкуствения интелект се концентрира основно върху подпомагането на разработването на нови техники за оценка и подходи за обединяване на червени екипи за модели на изкуствен интелект, с цел разкриване на потенциални опасности. Red teaming е структуриран процес за проверка на AI системи за идентифициране на вредни способности, резултати или инфраструктурни заплахи. Увеличеното финансиране в тази област би могло да повиши стандартите за безопасност и сигурност и да предостави ценна информация за смекчаването на предизвикателствата, породени от системите за изкуствен интелект.
Освен това Фондът скоро ще търси предложения за изследвания и ще се управлява от Meridian Institute със съвети от консултативен комитет, включващ независими експерти, специалисти по изкуствен интелект и експерти по отпускане на безвъзмездни средства.
В ход е отговорен процес на разкриване, който позволява на Frontier AI labs да споделят информация за уязвимостите и опасните способности в граничните модели на AI, заедно с техните решения. Някои компании от Форума вече са идентифицирали такива проблеми в контекста на националната сигурност, служейки като казуси за насочване на други лаборатории при прилагането на процедури за отговорно разкриване.
Гледайки напред, Frontier Model Forum планира да създаде консултативен съвет през следващите месеци, натоварен със задачата да насочва стратегическите приоритети и да представлява разнообразен опит и гледни точки. Форумът редовно ще публикува актуализации, включително добавяне на нови членове. Едновременно с това Фондът за безопасност на изкуствения интелект ще публикува първата си покана за предложения, като малко след това ще бъдат предоставени безвъзмездни средства. Освен това Форумът ще продължи да публикува технически констатации, когато станат достъпни.
Основната цел на форума е да си сътрудничи с Chris Meserole и да разшири ангажираността с по-широката изследователска общност. Това включва партньорства с организации като Partnership on AI, MLCommons и други водещи неправителствени организации, правителствени организации и многонационални организации. Заедно те се стремят да използват потенциала на ИИ, като същевременно гарантират неговото сигурно и етично развитие и използване.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Агне е журналист, който отразява най-новите тенденции и развития в метавселената, ИИ и Web3 индустрии за Metaverse Post. Нейната страст към разказването на истории я кара да провежда множество интервюта с експерти в тези области, като винаги се стреми да разкрива вълнуващи и ангажиращи истории. Агне има бакалавърска степен по литература и има богат опит в писането на широк спектър от теми, включително пътуване, изкуство и култура. Тя също е била доброволец като редактор на организацията за правата на животните, където е помогнала за повишаване на осведомеността относно проблемите, свързани с хуманното отношение към животните. Свържете се с нея на [имейл защитен].
Още статии
Агне е журналист, който отразява най-новите тенденции и развития в метавселената, ИИ и Web3 индустрии за Metaverse Post. Нейната страст към разказването на истории я кара да провежда множество интервюта с експерти в тези области, като винаги се стреми да разкрива вълнуващи и ангажиращи истории. Агне има бакалавърска степен по литература и има богат опит в писането на широк спектър от теми, включително пътуване, изкуство и култура. Тя също е била доброволец като редактор на организацията за правата на животните, където е помогнала за повишаване на осведомеността относно проблемите, свързани с хуманното отношение към животните. Свържете се с нея на [имейл защитен].
