Nieuwsverslag Technologie
19 december 2023

OpenAI Introduceert ‘Pareparedness Framework’ om AI-ontwikkelingsrisico’s aan te pakken

In het kort

OpenAI heeft zijn ‘Preparedness Framework’ uitgerold – een reeks instrumenten en processen om de zorgen over de veiligheid van de ontwikkeling van AI-modellen weg te nemen.

OpenAI Introduceert 'Pareparedness Framework' om AI-ontwikkelingsrisico's aan te pakken

Door Microsoft ondersteund AI-bedrijf OpenAI, heeft zijn ‘Preparedness Framework’ uitgerold – een reeks instrumenten en processen om de groeiende bezorgdheid over de veiligheidsimplicaties van de ontwikkeling van geavanceerde kunstmatige intelligentie (AI)-modellen aan te pakken.

De Sam Altman-run bedrijf maakte de aankondiging via een gedetailleerd plan gepubliceerd op haar website, bedoeld om onder de aandacht te brengen OpenAI’s toewijding aan het beheersen van potentiële risico’s die verband houden met zijn geavanceerde technologieën. Het bedrijf verstrekte ook verdere details over het raamwerk op sociale media platform X .

OpenAIHet raamwerk van het bestuur stelt het bestuur in staat om veiligheidsbeslissingen van leidinggevenden ongedaan te maken, waardoor een laag van toezicht wordt geïntroduceerd bij de inzet van de nieuwste technologie. Bovendien schetste het bedrijf strenge voorwaarden voor de inzet, waarbij de nadruk lag op veiligheidsbeoordelingen op kritieke gebieden zoals cyberbeveiliging en nucleaire dreigingen.

Een van de belangrijke elementen van de strategie van het bedrijf betreft de oprichting van een adviesgroep die belast is met het beoordelen van veiligheidsrapporten. De bevindingen van deze groep zullen worden gecommuniceerd naar de leidinggevenden en het bestuur van het bedrijf, waarbij de nadruk wordt gelegd op een gezamenlijke aanpak van de aanpak bezorgdheid over de veiligheid.

Verantwoorde benadering van zorgen uit de sector

De verhuizing door OpenAI komt in de nasleep van de toenemende zorgen binnen de AI-gemeenschap over de potentiële risico’s die gepaard gaan met steeds krachtigere modellen. In april pleitte een coalitie van leiders en experts uit de AI-industrie voor een pauze van zes maanden bij het ontwikkelen van systemen die krachtiger zijn dan de huidige technologie OpenAI's GPT-4, waarbij potentiële maatschappelijke risico's worden genoemd.

Onder leiding van Sam Altman, OpenAI versterkt zijn interne veiligheidsprocessen om proactief de zich ontwikkelende dreigingen van schadelijke AI aan te pakken. Een toegewijd team zal toezicht houden op de technische werkzaamheden en de besluitvorming op het gebied van veiligheid, met een operationele structuur om efficiënte reacties op opkomende risico's mogelijk te maken.

Dit raamwerk omvat de ontwikkeling van risicoscorekaarten om verschillende indicatoren van potentiële schade bij te houden, waardoor beoordelingen en interventies kunnen worden gestart wanneer specifieke risicodrempels worden bereikt.

“We zullen evaluaties uitvoeren en de ‘scorecards’ voor onze modellen voortdurend bijwerken. We zullen al onze grensmodellen evalueren, inclusief bij elke 2x effectieve rekenkrachtverhoging tijdens trainingsruns. We zullen modellen tot het uiterste drijven”, aldus de ChatGPT maker.

“In onze veiligheidsbasislijnen kunnen alleen modellen met een post-mitigatiescore van gemiddeld of lager worden ingezet, en kunnen alleen modellen met een post-mitigatiescore van hoog of lager verder worden ontwikkeld. We verhogen ook de beveiligingsbescherming in overeenstemming met het modelrisico”, voegde het eraan toe.

OpenAI Kader

Bovendien benadrukt het bedrijf de dynamische aard van zijn raamwerk, waarbij het zich inzet voor voortdurende verfijning op basis van nieuwe gegevens, feedback en onderzoek. Het belooft ook nauw samen te werken met externe partijen en interne teams om misbruik in de echte wereld op te sporen, waarbij het zijn toewijding aan verantwoordelijkheid en verantwoordelijke AI ontwikkeling.

As OpenAI neemt proactieve stappen om veiligheidsproblemen aan te pakken, moeten bedrijven een precedent scheppen voor ethische en veilige AI-ontwikkeling in een tijdperk waarin de mogelijkheden van generatieve AI-technologie blijven boeien en tegelijkertijd belangrijke vragen oproepen over hun potentiële impact op de samenleving.

Disclaimer

In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.

Over de auteur

Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.

Meer artikelen
Kumar Gandharv
Kumar Gandharv

Kumar is een ervaren technologiejournalist met een specialisatie in de dynamische kruispunten van AI/ML, marketingtechnologie en opkomende velden zoals crypto, blockchain en NFTS. Met meer dan drie jaar ervaring in de branche heeft Kumar een bewezen staat van dienst opgebouwd in het opstellen van boeiende verhalen, het houden van inzichtelijke interviews en het leveren van uitgebreide inzichten. De expertise van Kumar ligt in het produceren van inhoud met een grote impact, waaronder artikelen, rapporten en onderzoekspublicaties voor vooraanstaande industriële platforms. Met een unieke reeks vaardigheden die technische kennis en verhalen vertellen combineert, blinkt Kumar uit in het op een duidelijke en boeiende manier communiceren van complexe technologische concepten aan een divers publiek.

Van Ripple tot The Big Green DAO: hoe cryptocurrency-projecten bijdragen aan liefdadigheid

Laten we initiatieven onderzoeken die het potentieel van digitale valuta voor goede doelen benutten.

Meer weten

AlphaFold 3, Med-Gemini en anderen: de manier waarop AI de gezondheidszorg transformeert in 2024

AI manifesteert zich op verschillende manieren in de gezondheidszorg, van het blootleggen van nieuwe genetische correlaties tot het versterken van robotchirurgische systemen...

Meer weten
Sluit u aan bij onze innovatieve technologiegemeenschap
Lees meer
Lees meer
Pyth Network implementeert Oracle op Solana, waardoor ontwikkelaars toegang krijgen tot Oracle-prijzen
Nieuwsverslag Technologie
Pyth Network implementeert Oracle op Solana, waardoor ontwikkelaars toegang krijgen tot Oracle-prijzen
17 June 2024
Aethir's AI- en gamingpartners Airdrop Tokens voor de Checker-knooppunthouders
Featured Nieuwsverslag Technologie
Aethir's AI- en gamingpartners Airdrop Tokens voor de Checker-knooppunthouders
17 June 2024
Notional Finance gaat V2 eind juli volledig afschaffen en spoort gebruikers aan om over te stappen naar V3
Nieuwsverslag Technologie
Notional Finance gaat V2 eind juli volledig afschaffen en spoort gebruikers aan om over te stappen naar V3
17 June 2024
Tether lanceert een legeringsplatform ondersteund door Tether Gold en introduceert het eerste token, een USD₮
markten Nieuwsverslag Technologie
Tether lanceert een legeringsplatform ondersteund door Tether Gold en introduceert het eerste token, een USD₮
17 June 2024