OpenAI: ИИ потенциально может причинить много вреда людям, но пытаться остановить прогресс — не вариант
Коротко
OpenAIВ документе «Планирование для AGI и не только» предлагается постепенное, медленное внедрение более сложных и «умных» моделей, организация независимых аудитов больших систем и ограничение вычислительных ресурсов.
OpenAI хочет, чтобы ИИ был открыт для всех в равной степени и создавал более последовательные и управляемые модели чтобы уменьшить предвзятость и нежелательное поведение.
OpenAI недавно опубликовал документ под названием «Планирование ОИИ и не только». В нем излагаются общие идеи, которыми руководствуется компания в своих действиях по мере того, как мир приближается к разработке AGI (искусственного общего интеллекта).
OpenAI с считает, что, хотя ИИ может причинить значительный вред людям, попытка остановить прогресс невозможна. В результате мы должны научиться поддерживать это улучшение, чтобы оно существенно не ухудшилось.
Документ можно найти здесь. Выделим из него несколько важных элементов:
- OpenAI хочет, чтобы AGI помогал людям преуспевать во всех аспектах их жизни, как в экономическом, так и в научном плане.
Вместо того, чтобы создавать суперкрутой большой ИИ и тут же выпускать его в мир, OpenAI будут постепенно вводить более сложные и «умные» модели. Предполагается, что постепенно увеличивающиеся возможности ИИ не шокируют мир, давая людям время на то, чтобы приспособиться, адаптировать экономику и выстроить процедуры взаимодействия с ИИ. - OpenAI предлагает всем организациям официально принять вышеупомянутый принцип (постепенно внедрять мощный ИИ). Альтман также рекомендует ограничить количество вычислительных ресурсов, которые могут использоваться для обучения моделей, и организовать беспристрастный аудит основных систем, прежде чем они станут доступны для широкой публики. Вместо того, чтобы участвовать в соревнованиях типа «кто первым выкатит более крутую и крупную модель?» OpenAI просит предприятия работать вместе повысить безопасность ИИ.
- OpenAI считает крайне важным, чтобы правительства были проинформированы о тренировках, которые превышают определенный масштаб. Это интригующая концепция, и мы хотели бы узнать больше о Планы OpenAI имеет в связи с этим. Сначала это предложение не кажется мне таким уж замечательным.
- OpenAI попытаются разработать более надежные и управляемые модели, которые, скорее всего, ограничат предвзятость и неблагоприятное поведение в ИИ. Подход, принятый OpenAI в данном случае — сделать модель доступной для широкой публики в очень ограниченной форме, а также дать пользователям возможность персонализировать ее. Поскольку потребители не смогут ничего там «персонализировать», я не уверен, как это поможет модели в целом стать менее предвзятой. Если только это не освобождает фирму от ответственности за действия модели.
В целом документ указывает на правильное направление. Однако возник небольшой конфликт между «не будем сразу показывать крутые модели публике, а будем говорить о них штатам» и «люди должны знать о прогрессе ИИ». Короче, будем ждать подробных разъяснений от OpenAI по всем темам.
Подробнее об ИИ:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
