OpenAI Alerta sobre a superinteligência e o potencial da IA para superar as capacidades humanas na próxima década
Em Breve
OpenAI emite um pedido de regulamentação da superinteligência, destacando a necessidade de governança à luz dos rápidos avanços da IA.
Os sistemas de IA são projetados para superar a experiência humana e produtividade corporativa dentro de uma década, Segundo as OpenAI.
OpenAI enfatiza a importância da supervisão pública e do controle democrático para poderosos sistemas de IA.
OpenAI, o criador de ChatGPT, fez uma chamada instigante para o regulamento de superinteligência, traçando paralelos com a regulamentação da energia nuclear. em um recente no blog, OpenAI destacou as possíveis implicações dos rápidos avanços da IA e enfatizou a necessidade premente de governança neste cenário em evolução. A empresa afirmou que os sistemas de IA superariam os especialistas e as maiores corporações em produtividade e habilidades em dez anos.
“Devemos mitigar os riscos da tecnologia de IA de hoje também, mas a superinteligência exigirá tratamento e coordenação especiais”, Sam Altman, Greg Brockman e Ilya Sutskever, da OpenAI enfatizado.
A superinteligência descreve uma entidade que excede a inteligência humana geral ou alguns aspectos específicos da inteligência. Segundo os autores, a superinteligência da IA terá um nível de poder inigualável, abrangendo aspectos positivos e negativos.
O Desenvolvimento e os Riscos da Inevitável Superinteligência
OpenAI identificou três ideias importantes que desempenham um papel fundamental na navegação do desenvolvimento bem-sucedido da superinteligência. Isso inclui a coordenação entre os principais esforços de desenvolvimento, o estabelecimento de uma autoridade internacional semelhante à Agência Internacional de Energia Atômica (IAEA) e o desenvolvimento de capacidades técnicas para segurança.
Enquanto OpenAI reconhece que os sistemas de IA apresentam riscos, esses riscos são comparáveis aos associados a outras tecnologias relacionadas à Internet. Altman, Brockman e Sutskever também expressam confiança de que as abordagens atuais da sociedade para gerenciar esses riscos são adequadas. No entanto, a principal preocupação é com os sistemas futuros que terão um poder sem precedentes.
“Por outro lado, os sistemas com os quais estamos preocupados terão poder além de qualquer tecnologia já criada, e devemos ter cuidado para não diluir o foco neles aplicando padrões semelhantes à tecnologia muito abaixo desta barra”, dizia o post do blog.
Os autores argumentam que poderosos sistemas de IA precisam de supervisão pública e controle democrático. Eles também explicam por que estão construindo essa tecnologia em OpenAI: para criar um mundo melhor e evitar os riscos de pará-lo. A IA ajuda em várias áreas, incluindo educação, criatividade e produtividade, bem como no crescimento econômico geral.
OpenAI acha que é difícil e arriscado pare a superinteligência de ser criado. A superinteligência traz benefícios consideráveis, fica mais barata a cada ano, mais pessoas trabalham nela e faz parte do caminho tecnológico da empresa.
Ilman Shazhaev, techpreneur em IA e cofundador da Laboratórios Farcana, compartilhou alguns comentários sobre a notícia. As projeções indicam que, se não for gerenciada adequadamente, a superinteligência pode ser uma das invenções humanas mais destrutivas de todos os tempos. No entanto, as conversas sobre a implantação da tecnologia permanecem divisivas, pois ainda não foram desenvolvidas. Pressionar por uma parada no desenvolvimento com base no medo de previsões pode privar a humanidade das oportunidades que a nova tecnologia pode ter reservada.
"OpenAIabordagem de governança descentralizada pode ajudar a manter sua ampla segurança. Com os regulamentos corretos, o programa pode ser encerrado caso representa uma ameaça. Se essas salvaguardas estiverem em vigor, a superinteligência pode ser uma inovação que vale a pena explorar”, disse Shazhaev.
Ao discutir abertamente seus pontos de vista sobre a superinteligência de IA e as medidas regulatórias propostas, OpenAI parece promover discussões informadas e convidar diversas perspectivas.
Sam Altman acredita fortemente na ampla disponibilidade de IA para o público. Reconhecendo que é impossível antecipar todos os problemas com antecedência, ele defende a resolução dos problemas o mais cedo possível. No entanto, Altman também enfatiza a importância de auditorias independentes para sistemas como ChatGPT antes do lançamento. Ele reconhece ainda a possibilidade de implementar medidas como limitar o ritmo de criação de novos modelos ou estabelecer um comitê para avaliar a segurança dos modelos de IA antes do lançamento no mercado. Notavelmente, Altman prevê que a quantidade de inteligência no universo dobrará a cada 18 meses.
Leia mais:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
Mais artigos
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
