Nieuwsverslag Technologie
15 december 2023

OpenAI's Superalignment-team onthult innovatieve methode voor AI-systeemtoezicht

In het kort

OpenAI's Superalignment-team publiceerde het nieuwe onderzoekspaper dat een potentiële oplossing belooft voor het toezicht op zeer geavanceerde AI-systemen.

OpenAI Superalignment-team introduceert nieuwe methode voor toezicht op geavanceerde AI-systemen

De onderzoeksorganisatie voor kunstmatige intelligentie (AI). OpenAI's Superalignment-team publiceerde een nieuw onderzoeksartikel waarin het concept werd geïntroduceerd van het gebruik van kleinere AI-modellen om toezicht te houden op meer geavanceerde modellen. Deze aanpak laat indrukwekkende resultaten zien en belooft een potentiële vereenvoudiging van het toezicht op zeer geavanceerde AI-systemen voor mensen in de toekomst.

Bij conventionele machine learning houden mensen toezicht op AI-systemen die minder intelligent zijn dan zijzelf. Met superintelligente AI zullen mensen echter toezicht moeten houden op systemen die intelligenter zijn dan zijzelf.

In hun streven om superintelligente AI-systemen te sturen en te controleren, stelden onderzoekers een methode voor waarbij een minder krachtig AI-model toezicht kon houden op een krachtiger model.

OpenAI Superalignment-team introduceert nieuwe methode voor toezicht op geavanceerde AI-systemen

Normaal gesproken is het onwaarschijnlijk dat een sterk model beter presteert dan een zwakke supervisor, maar sterke, vooraf getrainde modellen beschikken over uitstekende capaciteiten. Onderzoekers pasten deze aanpak toe door toezicht te houden GPT-4 met een GPT-2-niveaumodel. Het resulterende model wordt doorgaans uitgevoerd tussen GPT-3 en GPT-3.5, wat aangeeft dat het sterke AI-capaciteiten kan bereiken met zwakker toezicht.

Over het geheel genomen suggereren de resultaten dat, hoewel fundamenteel menselijk toezicht misschien niet goed kan worden geschaald naar superintelligente modellen, er manieren zijn om aanzienlijk te verbeteren hoe goed deze modellen leren van minder capabele toezichthouders.

De onderzoekers zijn van mening dat hun aanpak essentiële problemen bij het afstemmen van toekomstige bovenmenselijke modellen oplost, waardoor ze vooruitgang kunnen boeken.

Naast het bekendmaken van onderzoeksresultaten, OpenAI moedigde studenten, academici en andere onderzoekers aan om bij te dragen aan het brede veld van bovenmenselijke AI-uitlijning. Het bedrijf lanceerde een subsidieprogramma van $ 10 miljoen dat op dit probleem was gericht.

OpenAI Bevordert het evoluerende landschap van AI

Think OpenAIkunnen er in de komende tien jaar superintelligente AI-modellen worden ontwikkeld die de menselijke capaciteiten te boven gaan. Het beheren en aansturen van deze geavanceerde AI-systemen vormt echter een aanzienlijke uitdaging voor mensen. 

Bestaande afstemmingsmethoden, zoals versterkend leren van menselijke feedback (RLHF), zijn afhankelijk van menselijke begeleiding. Toekomstige AI-systemen zullen echter in staat zijn tot uiterst complex en creatief gedrag, waardoor het voor mensen moeilijk wordt om er op betrouwbare wijze toezicht op te houden. Daarom onderzoekt het bedrijf actief innovatieve oplossingen om het evoluerende landschap van AI-ontwikkeling aan te pakken. 

Onlangs OpenAI zogenaamd aangekondigd de release van de nieuwste ontwikkeling van het bedrijf – de GPT-4.5-model. De vermeende schermafbeelding suggereerde geavanceerde mogelijkheden, waaronder taal, audio, visie, video, 3D, complex redeneren en begrip van meerdere modellen. Echter, Sam Altman, de oprichter van OpenAI, ontkende de geruchten.

Disclaimer

In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.

Over de auteur

Alisa, een toegewijd journalist bij de MPost, is gespecialiseerd in cryptocurrency, zero-knowledge proofs, investeringen en het uitgebreide domein van Web3. Met een scherp oog voor opkomende trends en technologieën levert ze uitgebreide berichtgeving om lezers te informeren en te betrekken bij het steeds evoluerende landschap van digitale financiën.

Meer artikelen
Alisa Davidson
Alisa Davidson

Alisa, een toegewijd journalist bij de MPost, is gespecialiseerd in cryptocurrency, zero-knowledge proofs, investeringen en het uitgebreide domein van Web3. Met een scherp oog voor opkomende trends en technologieën levert ze uitgebreide berichtgeving om lezers te informeren en te betrekken bij het steeds evoluerende landschap van digitale financiën.

Hot Stories
Schrijf je in op onze nieuwsbrief.
Laatste Nieuws

Van Ripple tot The Big Green DAO: hoe cryptocurrency-projecten bijdragen aan liefdadigheid

Laten we initiatieven onderzoeken die het potentieel van digitale valuta voor goede doelen benutten.

Meer weten

AlphaFold 3, Med-Gemini en anderen: de manier waarop AI de gezondheidszorg transformeert in 2024

AI manifesteert zich op verschillende manieren in de gezondheidszorg, van het blootleggen van nieuwe genetische correlaties tot het versterken van robotchirurgische systemen...

Meer weten
Sluit u aan bij onze innovatieve technologiegemeenschap
Lees meer
Lees meer
Crypto Exchange Jupiter introduceert Jupiter Swap V3, Dynamic Slippage, naast andere belangrijke updates in de komende weken
markten Nieuwsverslag Technologie
Crypto Exchange Jupiter introduceert Jupiter Swap V3, Dynamic Slippage, naast andere belangrijke updates in de komende weken
14 June 2024
Polygon introduceert zijn governance-hub, die een uniforme, transparante interface biedt voor gemeenschapsbestuur
Nieuwsverslag Technologie
Polygon introduceert zijn governance-hub, die een uniforme, transparante interface biedt voor gemeenschapsbestuur 
14 June 2024
Binance registreert meer dan 30 miljoen nieuwe gebruikers in 2024, klantenactiva overschrijden de mijlpaal van $100 miljard
markten Nieuwsverslag Technologie
Binance registreert meer dan 30 miljoen nieuwe gebruikers in 2024, klantenactiva overschrijden de mijlpaal van $100 miljard
14 June 2024
Amazon ondersteunt generatieve AI-startups met een investering van $230 miljoen en wijst $80 miljoen toe aan zijn tweede AWS Generative AI Accelerator-programma
Business Nieuwsverslag Technologie
Amazon ondersteunt generatieve AI-startups met een investering van $230 miljoen en wijst $80 miljoen toe aan zijn tweede AWS Generative AI Accelerator-programma
14 June 2024