Дарио Амодей предупреждает о разрыве в управлении, поскольку развитие ИИ опережает политику, и призывает к обязательным реформам в области безопасности и экономики.
Коротко
Генеральный директор компании Anthropic Дарио Амодей излагает риски, связанные с ИИ, и предлагает ужесточить регулирование, экономические гарантии и глобальную координацию для управления быстрым прогрессом в области искусственного интеллекта.
Дарио Амодей, генеральный директор АнтропныйВ своем новом эссе он заявил, что искусственный интеллект развивается гораздо быстрее, чем политические системы успевают на него реагировать, и утверждал, что политики должны быстро адаптироваться, поскольку передовые модели начинают менять сферу безопасности, экономику и государственные институты. Он сравнил разрыв в темпах развития ИИ и законодательства с контрастом между быстро передвигающимися хоббитами и медлительным Древобородом, заявив, что это несоответствие становится все более актуальным по мере совершенствования моделей в программировании, науке и других областях интеллектуального труда.
Предприниматель подчеркнул, что ранее политические меры в основном ограничивались мерами по обеспечению прозрачности, экспортным контролем и сбором данных, поскольку риски все еще были неясными и только начинались. Он отметил, что ситуация изменилась, указав на возможности передовых моделей, которые выявили серьезные проблемы кибербезопасности и показали, что передовые системы искусственного интеллекта могут влиять на финансовую стабильность, критическую инфраструктуру и национальную безопасность. Он утверждал, что на следующем этапе политика должна выйти за рамки простого раскрытия информации и перейти к обязательным правилам для моделей с высоким риском.
Регулирование, экономические потрясения и новые приоритеты политики в эпоху искусственного интеллекта.
В отношении регулирования и общественной безопасности Дарио Амодей предложил структуру, аналогичную надзору за авиацией, с обязательным тестированием передовых моделей независимыми экспертами перед их внедрением. Он заявил, что модели, превышающие определенный вычислительный порог, должны оцениваться на предмет рисков в области кибербезопасности, биологического злоупотребления, потери контроля и автоматизированных исследований, которые могут усилить эти угрозы. Он также отметил, что правительства должны иметь возможность откладывать или блокировать внедрение, если эти риски будут сочтены неприемлемыми, одновременно требуя от разработчиков ИИ строгих мер безопасности, регулярного тестирования на проникновение (red-teaming), тестирования на проникновение и оперативного информирования об инцидентах.
В эссе также рассматривались экономические потрясения. Амодей заявил, что мощный ИИ может ускорить рост, одновременно вытесняя большое количество работников, заменяя человеческий когнитивный труд быстрее, чем это делали предыдущие технологии. Он предупредил, что это может привести к миру очень быстрого роста наряду с сохраняющимся неравенством, что затруднит обеспечение широкого распределения выгод. Он сказал, что политика должна сосредоточиться на измерении, поддержке рабочей силы, страховании заработной платы, переподготовке и, возможно, долгосрочной поддержке доходов, если спрос на рабочую силу значительно снизится.
В другом разделе генеральный директор Anthropic заявил, что ИИ может ускорить научный прогресс, особенно в биомедицине, но существующие системы регулирования могут оказаться слишком медленными, чтобы справиться с волной инноваций, осуществляемых с помощью ИИ. Он предложил подготовить такие регулирующие органы, как FDA и EMA, к принятию моделирования на основе ИИ, синтетических контрольных образцов и других методов, которые могли бы сократить разработку лекарств без снижения безопасности.
Дарио Амодей также предупредил, что ИИ может усилить власть государства и создать новые риски для гражданских свобод, включая автономное оружие, массовое наблюдение и несправедливое использование ИИ правительством. Он призвал к ужесточению правил подотчетности, ограничению внутреннего использования полностью автономного оружия и усилению защиты частной жизни.
В заключение он заявил, что демократические страны должны сотрудничать в вопросах цепочек поставок ИИ, стандартов безопасности и экономической координации, утверждая, что ИИ становится стратегической технологией, сравнимой по своему геополитическому значению с атомной энергетикой.
Условия использования
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Алиса, преданный журналист MPostспециализируется на криптовалютах, искусственном интеллекте, инвестициях и обширной сфере... Web3. Внимательно следя за новыми тенденциями и технологиями, она всесторонне освещает события, информируя и вовлекая читателей в постоянно развивающуюся среду цифровых финансов.
Другие статьи
Алиса, преданный журналист MPostспециализируется на криптовалютах, искусственном интеллекте, инвестициях и обширной сфере... Web3. Внимательно следя за новыми тенденциями и технологиями, она всесторонне освещает события, информируя и вовлекая читателей в постоянно развивающуюся среду цифровых финансов.
