OpenAI Вызывает тревогу по поводу сверхразума и способности ИИ превзойти человеческие возможности в следующем десятилетии
Коротко
OpenAI призывает к регулированию сверхразума, подчеркивая необходимость управления в свете быстрого развития ИИ.
Предполагается, что системы искусственного интеллекта превзойдут человеческий опыт и корпоративная производительность в течение десятилетия, Согласно OpenAI.
OpenAI подчеркивает важность общественного контроля и демократического контроля над мощными системами ИИ.
OpenAI, создатель ChatGPT, сделал наводящий на размышления призыв к регулирование сверхразума, проводя параллели с регулированием ядерной энергетики. В недавнем блоге, OpenAI подчеркнул потенциальные последствия быстрого развития ИИ и подчеркнул острую необходимость управления в этой меняющейся среде. Компания заявила, что системы ИИ превзойдут экспертов и крупнейшие корпорации по производительности и навыкам в течение десяти лет.
«Мы также должны снизить риски, связанные с сегодняшними технологиями искусственного интеллекта, но сверхразум потребует особого отношения и координации», — Сэм Альтман, Грег Брокман и Илья Суцкевер из OpenAI подчеркнул.
Суперинтеллект описывает сущность, превосходящую общий человеческий интеллект или некоторые конкретные аспекты интеллекта. По мнению авторов, сверхразум ИИ будет иметь беспрецедентный уровень мощности, включающий в себя как положительные, так и отрицательные аспекты.
Развитие и риски неизбежного сверхразума
OpenAI определил три важные идеи, которые играют ключевую роль в успешном развитии сверхразума. К ним относятся координация между ведущими усилиями по развитию, создание международного органа, аналогичного Международному агентству по атомной энергии (МАГАТЭ), и развитие технических возможностей для обеспечения безопасности.
В то время как OpenAI признает, что системы искусственного интеллекта сопряжены с рисками, эти риски сопоставимы с рисками, связанными с другими технологиями, связанными с Интернетом. Альтман, Брокман и Суцкевер также выражают уверенность в том, что нынешние подходы общества к управлению этими рисками являются подходящими. Однако основное беспокойство вызывают будущие системы, обладающие беспрецедентной мощностью.
«Напротив, системы, о которых мы беспокоимся, будут иметь мощность, превосходящую любую из когда-либо созданных технологий, и мы должны быть осторожны, чтобы не ослабить внимание к ним, применяя аналогичные стандарты к технологиям намного ниже этой планки», — говорится в сообщении в блоге.
Авторы утверждают, что мощные системы ИИ нуждаются в общественном надзоре и демократическом контроле. Они также объясняют, почему они создают эту технологию в OpenAI: создать лучший мир и избежать риска его остановки. ИИ помогает в различных областях, включая образование, творчество и производительность, а также общий экономический рост.
OpenAI думает, что это сложно и рискованно остановить суперинтеллект от создания. Суперинтеллект имеет значительные преимущества, с каждым годом он дешевеет, над ним работает все больше людей, и это часть технологического пути компании.
Ильман Шажаев, технический предприниматель в области искусственного интеллекта и соучредитель Лаборатории Фарканы, поделился несколькими комментариями по поводу новости. Прогнозы показывают, что, если не управлять им должным образом, сверхразум может стать одним из самых разрушительных изобретений человечества за все время. Однако разговоры о развертывании технологии по-прежнему вызывают разногласия, поскольку она еще не разработана. Стремление к остановке развития, основанное на страхе перед предсказаниями, может лишить человечество возможностей, которые могут быть в запасе у новой технологии.
OpenAIдецентрализованный подход к управлению может помочь сохранить безопасность в целом. При правильных правилах программа может быть закрыта, если она представляет угрозу. Если эти меры безопасности будут на месте, тогда Суперинтеллект может стать инновацией, которую стоит изучить», — сказал Шажаев.
Открыто обсуждая свои взгляды на сверхразум ИИ и предлагаемые меры регулирования, OpenAI кажется, способствует информированным дискуссиям и предлагает различные точки зрения.
Сэм Альтман твердо верит в широкой доступности ИИ для общественности. Признавая, что невозможно предвидеть все проблемы заранее, он выступает за решение проблем на самой ранней стадии. Однако Альтман также подчеркивает важность независимого аудита таких систем, как ChatGPT перед выпуском. Он также признает возможность реализации таких мер, как ограничение темпов создания новой модели или создание комитета для оценить безопасность моделей ИИ до выхода на рынок. Примечательно, что Альтман предсказывает, что количество разума во Вселенной будет удваиваться каждые 18 месяцев.
Прочитайте больше:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Агне — журналист, освещающий последние тенденции и разработки в области метавселенной, искусственного интеллекта и Web3 отрасли для Metaverse Post. Ее страсть к рассказыванию историй побудила ее проводить многочисленные интервью с экспертами в этих областях, всегда стремясь раскрыть захватывающие и увлекательные истории. Агне имеет степень бакалавра литературы и имеет обширный опыт написания статей на самые разные темы, включая путешествия, искусство и культуру. Она также работала волонтером в качестве редактора организации по защите прав животных, где помогала повышать осведомленность о проблемах защиты животных. Свяжитесь с ней по [электронная почта защищена].
Другие статьи
Агне — журналист, освещающий последние тенденции и разработки в области метавселенной, искусственного интеллекта и Web3 отрасли для Metaverse Post. Ее страсть к рассказыванию историй побудила ее проводить многочисленные интервью с экспертами в этих областях, всегда стремясь раскрыть захватывающие и увлекательные истории. Агне имеет степень бакалавра литературы и имеет обширный опыт написания статей на самые разные темы, включая путешествия, искусство и культуру. Она также работала волонтером в качестве редактора организации по защите прав животных, где помогала повышать осведомленность о проблемах защиты животных. Свяжитесь с ней по [электронная почта защищена].
