Max Tegmark, cofundador e presidente do Future of Life Institute

Seus interesses científicos abrangem desde a cosmologia precisa até a essência última da realidade, todos abordados em seu novo livro popular “Nosso Universo Matemático”. Conhecido como “Mad Max” por suas visões pouco convencionais e gosto pela aventura. Professor de física no MIT, é autor de mais de 200 publicações científicas e tem sido featured em vários filmes científicos. O seu trabalho sobre agrupamento de galáxias com a colaboração SDSS foi premiado com o primeiro lugar no “Breakthrough of the Year: 2003” da revista Science. Ele foi cofundador do Foundational Questions Institute com Anthony Aguirre.

2023

A revista sueca Expo revelou em janeiro de 2023 que a FLI tinha feito uma oferta de doação de 100,000 dólares a uma fundação criada pela publicação de extrema direita na Internet Nya Dagbladet na Suécia. Tegmark respondeu dizendo que a subvenção tinha sido rescindida imediatamente e que o instituto só tomou conhecimento da posição de Nya Dagbladet alguns meses depois de ter sido concedida pela primeira vez através de procedimentos de devida diligência.

A FLI divulgou uma carta intitulada “Pause Giant AI Experiments: An Open Letter” em março de 2023. Foi solicitado que os principais desenvolvedores de IA parassem verificávelmente por seis meses em qualquer sistema “mais poderoso do que GPT-4”E utilize esse tempo para estabelecer uma estrutura de segurança. Se isso falhasse, os governos deveriam intervir e impor uma moratória. A carta afirmava que “nos últimos meses vimos laboratórios de IA travados em uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode compreender, prever ou controlar de forma confiável”. A carta mencionava “uma mudança profunda na história da vida na Terra” como uma possibilidade, juntamente com os perigos da desinformação produzida pela IA, da obsolescência humana e da perda de controlo sobre a sociedade como um todo.

Elon Musk, Steve Wozniak, Evan Sharp, Chris Larsen, Gary Marcus, CEOs dos laboratórios de IA Connor Leahy e Emad Mostaque, o legislador Andrew Yang, o especialista em aprendizagem profunda Yoshua Bengio e Yuval Noah Harari estavam entre os indivíduos notáveis ​​que assinaram a petição. “O espírito está certo, mas a letra não é perfeita”, disse Marcus. Segundo Mostaque, “não acho que uma pausa de seis meses seja a melhor ideia ou concordo com tudo, mas há algumas coisas interessantes nessa carta”. Por outro lado, Bengio afirmou em entrevista coletiva que apoia o intervalo de seis meses. Musk afirmou que “os principais desenvolvedores de AGI não darão atenção a este aviso, mas pelo menos foi dito”. O medo do perigo existencial proveniente da inteligência artificial geral foi citado como a força motriz por trás da motivação de alguns signatários, incluindo Musk.

A carta da FLI foi criticada pelos autores de uma das publicações nela listadas, “Sobre os perigos dos papagaios estocásticos: os modelos de linguagem podem ser grandes demais?” Emily M. Bender, Timnit Gebru e Margaret Mitchell. De acordo com Mitchell, “a carta afirma um conjunto de prioridades e uma narrativa sobre IA que beneficia os apoiadores da FLI ao tratar muitas ideias questionáveis ​​como dadas”. Não é um luxo que todos nós tenhamos de ignorar os problemas actuais.

Últimas notícias sobre Max Tegmark

• O professor Richard Sutton, pesquisador da DeepMind, enfatizou a importância de abordar questões éticas e existenciais colocadas pelo avanço da IA. Ele apresentou o Plano Alberta, um modelo para o futuro da IA, destacando a necessidade de um plano prudente e ponderado para a transferência da administração aos herdeiros da IA. Apesar de enfrentar o cepticismo por parte dos meios de comunicação social, a mensagem de Sutton permanece inalterada, enfatizando a necessidade de previsão e sabedoria face ao poder transformador da IA.
• Marieke Flement, engenheira de computação e ex-analista financeira da LVMH, é CEO da NEAR Foundation. Ela tem uma carreira diversificada, incluindo funções na Expedia, Circle e na indústria de criptografia. Flement está liderando a organização em direção a um futuro de “web aberta”, com foco em tornar web3 mais acessível às massas. A Fundação NEAR lançou iniciativas como o Sistema Operacional Blockchain e um Programa Acelerador Base Camp.

Últimas postagens sociais de Max Tegmark