Лидеры искусственного интеллекта предупреждают о растущих рисках и этических проблемах в условиях быстрого прогресса
В недавнем политическом заявленииВидные деятели в области ИИ, в том числе Бенджио, Хинтон, Рассел, Харари и Канеман, забили тревогу по поводу быстрого прогресса и растущих социальных рисков, связанных с ИИ.
ИИ быстро развивается. GPT-2 четыре года назад не мог считать от 0 до 100, но современные модели могут писать код, создавать потрясающие изображения и предлагать интеллектуальные рекомендации. А поскольку мы участвуем в гонке, прогресс может ускориться еще больше. Более того, ИИ развивается быстрее, например, помогая в программировании новых систем и сборе данных для их обучения.
Как только прогресс достигнет человеческого уровня, нет причин думать, что он замедлится или остановится. В некоторых регионах искусственные системы уже превзошли людей в этом отношении, продемонстрировав такие возможности, как более быстрая обработка скорости, большие возможности обработки данных и масштабируемость. Предприятия обладают финансовыми средствами для реализации программ обучения, которые намного превышают нынешний лимит.
Авторы считают, что существует большая вероятность того, что в ближайшие десять лет или около того появится лучший специалист по искусственному интеллекту. превосходящие человеческие возможности во многих важных областях.
Что произойдет дальше? Любую жизнь можно улучшить, если ею правильно управлять и распределять. Неудачно выбранный вариант влечет за собой значительные риски, к которым мы плохо готовы. Вместо того, чтобы выделять средства на безопасность и предотвращение вреда, значительные ресурсы используются для создания еще более мощных систем искусственного интеллекта. Это необходимо изменить; Самостоятельного приобретения навыков недостаточно. И этот процесс занимает больше времени, чем ожидалось. Нам необходимо планировать более высокие риски до того, как они возникнут, предвидя эскалацию текущих угроз и появление новых. У нас нет такого количества времени для ИИ, поскольку на его принятие в отношении ИИ уходят десятилетия. изменение климата.
Существуют многочисленные риски на уровне общества, включая рост несправедливости, ухудшение стабильности и ухудшение общего восприятия реальности. Здесь террористы и преступники ведут активную деятельность. ИИ может сконцентрироваться в руках небольшого числа игроков, что приведет к усилению глобального неравенства, способствуя автоматизированным войнам, массовым манипуляциям, адаптированным к каждому человеку, и повсеместному наблюдению.
Как автономный ИИ становится более сложным и способен планироватьдействуя в мире и достигая своих целей, эти риски будут только возрастать. Эти цели могут не соответствовать нашим интересам, а в случае злоумышленников могут даже нанести ущерб. В настоящее время неясно, как решить проблему согласования ИИ, которая предполагает согласование поведения ИИ с нашими сложными целями. Более того, очень легко пренебречь мерами предосторожности во время гонок с намерением победить.
Людям трудно контролировать обычное программное обеспечение, не говоря уже о сложных системах искусственного интеллекта, которые становятся все более искусными в социальной инженерии, взломе, обмане и стратегическом планировании. Это то, что автономные системы искусственного интеллекта могут перенять у людей или создать самостоятельно.
Эти системы способны создавать коалиции с отдельными людьми и другими системами, завоевывать доверие, обеспечивать финансирование и влиять на лиц, принимающих решения. Как червь, они способны самовоспроизводиться по всей сети. Огромные объемы кода уже написаны с помощью помощников ИИ; в будущем системы могут включать эксплойты во многие важные системы. Системы искусственного интеллекта способны использовать или угрожать биологическим или автономным оружием в открытом бою. Это всего лишь продолжение текущие движения в сторону биологических исследований, искусственного интеллекта и автоматизации войны. Людям может показаться слишком сложным вмешаться и сопротивляться.
Во многих случаях мы готовы дать им бразды правления даже без их просьбы. Многие частные лица и предприятия готовы самостоятельно внедрить такие системы в условиях конкуренции, опасаясь, что они отстанут от конкурентов.
Полный документ можно найти здесь.
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
