Anthropic, Google, Microsoft і OpenAI Призначте виконавчого директора Frontier Model Forum і відкрийте Фонд безпеки штучного інтелекту в розмірі 10 мільйонів доларів
Коротко
Anthropic, Google, Microsoft і OpenAI представили Кріса Месерола як першого виконавчого директора Frontier Model Forum.
Одночасно вони оголосили про створення значного Фонду безпеки штучного інтелекту з фінансуванням понад 10 мільйонів доларів.
Anthropic, Google, Microsoft і OpenAI мати призначений Кріс Мезерол став першим виконавчим директором Frontier Model Forum. Галузевий консорціум спрямований на сприяння безпечному й етичному прогресу передових моделей штучного інтелекту в усьому світі. Водночас Forum запровадив Фонд безпеки штучного інтелекту розміром понад 10 мільйонів доларів. Метою фонду є сприяння прогресу в дослідженнях безпеки ШІ.
Виконавчий директор Кріс Мезерол надає великий досвід технологічної політики та управління новими технологіями. До свого призначення він працював директором Ініціативи штучного інтелекту та нових технологій в Інституті Брукінгса. На своїй новій посаді Мезероле очолить зусилля з просування досліджень безпеки штучного інтелекту, визначення найкращих практик для безпечної розробки моделей штучного інтелекту, поширення знань серед зацікавлених сторін і підтримку ініціатив, які використовують штучний інтелект для вирішення суспільних проблем.
«Найпотужніші моделі штучного інтелекту мають величезні перспективи для суспільства, але щоб реалізувати їхній потенціал, нам потрібно краще зрозуміти, як їх безпечно розробляти та оцінювати. Я радий прийняти цей виклик із Frontier Model Forum»,
сказав Мезероле.
Фонд безпеки штучного інтелекту з’явився у відповідь на швидкий розвиток можливостей штучного інтелекту за останній рік, що потребує подальших наукових досліджень безпеки штучного інтелекту. Цей фонд, створений у рамках співпраці Frontier Model Forum і партнерів-благодійників, надаватиме підтримку незалежним дослідникам у всьому світі, пов’язаним з академічними установами, дослідницькими організаціями та стартапами.
Основними учасниками цієї ініціативи є Anthropic, Google, Microsoft та OpenAIразом із благодійними організаціями, такими як Фонд Патріка Дж. МакГоверна, Фонд Девіда та Люсіль Паккард, Еріка Шмідта та Яана Таллінна. Їхні сумарні внески перевищують 10 мільйонів доларів США з очікуванням додаткових пожертв від інших партнерів.
На початку цього року учасники Форуму пообіцяли взяти на себе добровільні зобов’язання в Білому домі, зокрема дозволити стороннім виявити вразливості в своїх системах ШІ та повідомити про них. Фонд безпеки штучного інтелекту виконує це зобов’язання, пропонуючи стороннім спільнотам фінансування для ретельного вивчення передових систем ШІ. Різноманітність голосів і точок зору збагатить глобальний дискурс щодо безпеки ШІ та розширить загальну базу знань ШІ.
Підвищення безпеки ШІ та співпраці
Фонд безпеки штучного інтелекту в першу чергу зосереджується на сприянні розробці нових методів оцінки та підходів червоної команди для моделей штучного інтелекту з метою виявлення потенційних небезпек. Red teaming — це структурований процес ретельного вивчення систем ШІ для виявлення шкідливих можливостей, результатів або інфраструктурних загроз. Збільшення фінансування в цій сфері могло б підвищити стандарти безпеки та надати цінну інформацію про пом’якшення проблем, пов’язаних із системами ШІ.
Крім того, незабаром Фонд шукатиме пропозиції щодо досліджень, і ним керуватиме Meridian Institute за допомогою дорадчого комітету, до складу якого входять незалежні експерти, спеціалісти зі штучного інтелекту та експерти з надання грантів.
Відповідальний процес розкриття інформації триває, що дозволяє лабораторіям Frontier AI ділитися інформацією про вразливості та небезпечні можливості в передових моделях AI разом із їхніми рішеннями. Деякі компанії Форуму вже визначили такі проблеми в контексті національної безпеки, слугуючи прикладами для інших лабораторій у впровадженні відповідальних процедур розкриття інформації.
Заглядаючи вперед, Frontier Model Forum планує в найближчі місяці створити Консультативну раду, якій буде доручено керувати його стратегічними пріоритетами та представляти різноманітний досвід і перспективи. Форум регулярно випускатиме оновлення, включно з додаванням нових учасників. Одночасно Фонд безпеки штучного інтелекту опублікує свій перший конкурс пропозицій, а гранти будуть надані незабаром після цього. Крім того, Форум продовжуватиме публікувати технічні висновки, щойно вони стануть доступними.
Головною метою Форуму є співпраця з Крісом Мезеролом і розширення взаємодії з більш широким дослідницьким співтовариством. Це включає партнерство з такими організаціями, як Partnership on AI, MLCommons та іншими провідними НУО, державними установами та міжнаціональними організаціями. Разом вони прагнуть використати потенціал штучного інтелекту, одночасно забезпечуючи його безпечний і етичний розвиток і використання.
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Агне — журналістка, яка висвітлює останні тенденції та події в метавсесвіті, ШІ та Web3 промисловості для Metaverse Post. Її пристрасть до оповідання привела її до численних інтерв’ю з експертами в цих галузях, завжди прагнучи розкрити захоплюючі та привабливі історії. Агне має ступінь бакалавра літератури та має великий досвід написання текстів на різноманітні теми, включаючи подорожі, мистецтво та культуру. Вона також була волонтером редактора організації з прав тварин, де допомагала підвищувати обізнаність про проблеми добробуту тварин. Зв'яжіться з нею [захищено електронною поштою].
інші статті
Агне — журналістка, яка висвітлює останні тенденції та події в метавсесвіті, ШІ та Web3 промисловості для Metaverse Post. Її пристрасть до оповідання привела її до численних інтерв’ю з експертами в цих галузях, завжди прагнучи розкрити захоплюючі та привабливі історії. Агне має ступінь бакалавра літератури та має великий досвід написання текстів на різноманітні теми, включаючи подорожі, мистецтво та культуру. Вона також була волонтером редактора організації з прав тварин, де допомагала підвищувати обізнаність про проблеми добробуту тварин. Зв'яжіться з нею [захищено електронною поштою].
