Richard Mathenge, dělník OpenAIJe GPT

Richard Mathenge učil OpenAIJe GPT modely v Nairobi v Keni jako součást týmu dodavatelů. Díky práci vedoucího týmu Sama, startupu pro školení AI, který byl partnerem projektu, se mu to podařilo. Mathenge sdílí své zkušenosti v této epizodě Big Technology Podcast. Nebylo mu poskytnuto dostatečné poradenství, během tréninku byl často vystaven sexuálně explicitnímu obsahu a jeho spoluhráči někdy dostávali jen 1 dolar za hodinu. Poslechněte si, abyste se dozvěděli více o tréninkovém procesu těchto modelů a lidském aspektu posilovacího učení s lidskou zpětnou vazbou.

2023

Mathenge a jeho kolegové označili explicitní materiál, který viděli a pravidelně zkoumali pro model při práci. Zdroj obsahu byl nejistý, takže jej mohou klasifikovat jako erotický sexuální obsah, materiál obsahující sexuální zneužívání dětí, nezákonný, nesexuální nebo do jiné kategorie. Velká část toho, co četli, je děsila. Podle Mathenge některé pasáže featured zobrazení znásilnění dítěte, zatímco jiní vyprávěli příběh muže, který měl sex se zvířetem před jeho dítětem. O některých se Mathenge odmítl bavit, protože byly tak urážlivé.

Druh práce, kterou Mathenge dělal, byl zásadní pro funkčnost a okouzlení roboty jako ChatGPT a Bard společnosti Google. Lidská cena tohoto úsilí však byla z velké části ignorována. Díky tomu, že lidé identifikují informace, metoda známá jako „Reinforcement Learning from Human Feedback“ neboli RLHF, dělá roboty chytřejšími tím, že je učí, jak optimalizovat v závislosti na komentářích uživatelů. Lídři v oboru umělá inteligence, jako je Sam Altman z OpenAIchválili účinnost této technologie, ale jen zřídkakdy diskutovali o ceně, kterou musí lidé zaplatit, aby byly systémy umělé inteligence v souladu s našimi morálními standardy. Mathenge a jeho společníci se ocitli na konci této skutečnosti.

Nejnovější zprávy o Richardu Mathenge

• OpenAI znovu dosadil Sama Altmana do funkce generálního ředitele po jeho náhlém odvolání představenstvem. V novém představenstvu, jehož členy jsou ekonom Larry Summers, spoluzakladatel Quora Adam D’Angelo a nehlasující pozorovatel z Microsoftu, bude předsedat Bret Taylor a největší investor Microsoftu, Microsoft. Altman ocenil podporu a optimismus Microsoftu.
• Připisován únik 4 kanálů OpenAIQ-Star společnosti 's vyjádřil obavy z potenciálního průlomu v technologii šifrování. Únik naznačuje OpenAI upozornila americkou národní bezpečnostní agenturu, což představuje potenciální důsledky pro globální informační a finanční systémy. Autenticita úniku je pod drobnohledem, což vyvolává otázky o budoucnosti šifrovací technologie a zabezpečení dat.

Nejnovější sociální příspěvky Richarda Mathenge