Richard Mathenge fazia parte de uma equipe de empreiteiros em Nairobi, no Quênia, que treinou OpenAI's GPT modelos. Ele fez isso como líder de equipe na Sama, uma empresa de treinamento em IA parceira do projeto. Neste episódio do Big Technology Podcast, Mathenge conta a história de sua experiência. Durante o treinamento, ele foi rotineiramente submetido a material sexualmente explícito, recebeu aconselhamento insuficiente e os membros de sua equipe receberam, em alguns casos, apenas US$ 1 por hora.
Richard Mathenge ensinou OpenAI'S GPT modelos em Nairobi, no Quênia, como parte de uma equipe terceirizada. Trabalhando como líder de equipe da Sama, uma startup de treinamento em IA que era parceira do projeto, ele conseguiu isso. Mathenge compartilha sua experiência neste episódio do Big Technology Podcast. Foi fornecido aconselhamento insuficiente, ele foi frequentemente exposto a conteúdo sexualmente explícito durante o treinamento e seus companheiros de equipe às vezes recebiam apenas US$ 1 por hora. Ouça para saber mais sobre o processo de treinamento desses modelos e o aspecto humano do Aprendizado por Reforço com Feedback Humano.
2023
Mathenge e seus colegas marcaram material explícito que viam e examinavam regularmente para o modelo enquanto trabalhavam. A fonte do conteúdo era incerta, então eles podem classificá-lo como conteúdo sexual erótico, material de abuso sexual infantil, ilegal, não sexual ou alguma outra categoria. Muito do que leram os deixou horrorizados. Segundo Mathenge, algumas passagens featured representações de estupro infantil, enquanto outros contavam a história de um homem fazendo sexo com um animal na frente de seu filho. Mathenge recusou-se a discutir alguns deles por serem muito insultuosos.
O tipo de trabalho que Mathenge realizou foi essencial para a funcionalidade e encantamento do bots como ChatGPT e o Bardo do Google. No entanto, o custo humano do esforço foi largamente ignorado. Ao fazer com que as pessoas identifiquem informações, um método conhecido como “Aprendizagem por Reforço a partir de Feedback Humano”, ou RLHF, torna os bots mais inteligentes, ensinando-os como otimizar dependendo dos comentários dos usuários. Líderes na área de inteligência artificial, como Sam Altman de OpenAI, elogiaram a eficácia da tecnologia, mas raramente discutem o preço que os humanos devem pagar para tornar os sistemas de IA consistentes com os nossos padrões morais. Mathenge e seus associados foram vítimas desse fato.
Últimas notícias sobre Richard Mathenge
OpenAI reintegrou Sam Altman como CEO, após sua remoção abrupta pelo conselho. O novo conselho, que inclui o economista Larry Summers, o cofundador do Quora Adam D’Angelo e um observador sem direito a voto da Microsoft, incluirá Bret Taylor como presidente e incluirá o maior investidor da Microsoft, a Microsoft. Altman elogiou o apoio e o otimismo da Microsoft.
Conteúdo gráfico e perturbador é a realidade diária dos moderadores. Eles navegam por ele para manter nossos espaços online seguros. Vamos reconhecer a sua resiliência e compromisso em defender os padrões de segurança digital.#ModeradoresImportampic.twitter.com/tAjPSfyuxt
As políticas de moderação variam entre plataformas e compreendê-las é essencial para os usuários. Vamos reservar um tempo para nos informar sobre as regras que regem os espaços online e contribuir para uma cultura digital positiva#ModeradoresImportampic.twitter.com/6Noc1JthNW
As divulgações por meio de registros 13F revelam investidores institucionais notáveis que se envolvem em ETFs Bitcoin, ressaltando uma aceitação crescente de ...
