Jan Leike, colíder de superalinhamento, OpenAI

Jan Leike é co-líder da OpenAI'S super alinhamento Equipe e contribuiu para a criação de ChatGPT, InstruirGPT e GPT-4 alinhamento. Ele foi coautor do plano de pesquisa para a Equipe de Superalinhamento e criou OpenAImetodologia de pesquisa de alinhamento. Ele criou um protótipo de aprendizagem por reforço usando informações humanas enquanto trabalhava como pesquisador de alinhamento na DeepMind antes de ingressar OpenAI. Ele se formou na Australian National University com doutorado em teoria de aprendizagem por reforço.

2023

Jan Leike de OpenAI está trabalhando para manter a IA superinteligente ao nosso lado. OpenAI acha que seus potentes algoritmos de IA estão prestes a revolucionar nosso planeta. Acredita que irão, no mínimo, alterar drasticamente a forma como vivemos e trabalhamos. No máximo, pode mudar completamente o nosso mundo numa única noite.

A equipe de superalinhamento, estabelecida por OpenAI, visa descobrir como direcionar a IA sobre-humana para realizar tarefas, em vez de deixá-la agir por conta própria. Jan Leike é o líder da equipe. Sua equipe precisa descobrir como alinhar sistemas de IA fortes antes que sistemas de IA poderosos e desalinhados sejam produzidos, portanto, eles estão em uma corrida contra o tempo.

Últimas notícias sobre

• Sam Altman foi demitido do cargo de CEO da OpenAI devido a um avanço interno de IA chamado “Q-Star”, possivelmente Q-learning. A descoberta, que poderá revolucionar a investigação científica, levantou preocupações de segurança e levou à saída temporária de Altman. A equipe de cientistas de IA está trabalhando para aprimorar as habilidades de raciocínio, permitindo potencialmente que a IA contribua para o trabalho científico.
• OpenAI nomeou Sam Altman como seu novo CEO após uma tentativa de golpe por parte dos membros do conselho. Altman, que pediu demissão em protesto, ingressará no conselho da empresa formado por Bret Taylor, Larry Summers e Adam D'Angelo. A empresa também nomeou novos membros para o conselho, incluindo o ex-CEO da Salesforce, Bret Taylor, e o fundador do Quora, Adam D'Angelo. No entanto, a empresa não forneceu atualizações sobre a nomeação de Emmett Shear como novo CEO.
• OpenAIA renúncia do CEO Sam Altman causou perda de confiança e ganhos negativos para 8 dos 11 tokens. No entanto, um estudo da CoinGecko descobriu que 10 em cada 11 tokens de IA obtiveram ganhos, com ganhos variando de 11.8% a 61.1% em 23 de novembro de 2023. O aumento no valor dos tokens de IA está ligado ao otimismo em torno da potencial aprovação de um Bitcoin ETF. Os principais ganhadores incluem Akash Network (AKT), OriginTrail (TRAC) e Bittensor (TAO).

Últimas postagens sociais de