OpenAI onthult de nieuwste aanpak om de veiligheid van AI te waarborgen
In het kort
OpenAI heeft een blogpost uitgebracht waarin zij haar verbeterde veiligheidsaanpak schetst naar aanleiding van recente zorgen over veiligheid, privacy en onderzoeken.
Het bedrijf belooft rigoureuze tests uit te voeren, externe experts in te schakelen voor feedback en samen te werken met overheden om de beste te bepalen aanpak voor AI-regelgeving.
Na geconfronteerd te zijn met zorgen met betrekking tot veiligheid en privacy en volgende recent onderzoek in sommige Europese landen, OpenAI heeft uitgebracht een blogpost waarin de verbeterde benadering van veiligheid door het bedrijf wordt geschetst.
OpenAI belooft rigoureuze tests uit te voeren, externe experts in te schakelen voor feedback voordat een nieuw systeem wordt uitgebracht, en samen te werken met overheden om de beste aanpak voor AI-regelgeving te bepalen.
Eerder werkte het bedrijf ruim zes maanden aan de veiligheid en uitlijning van zijn nieuwste model, GPT-4, voordat het publiekelijk wordt vrijgegeven. Om de veiligheid van het nieuwste taalmodel te garanderen, GPT-4, OpenAI gehuurd een team van meer dan 50 experts: AI-veiligheids-, ethiek- en beleidsspecialisten, waaronder onderzoekers en ingenieurs.
"Cruciaal is dat we geloven dat de samenleving tijd moet hebben om te updaten en zich aan te passen aan steeds capabelere AI, en dat iedereen die door deze technologie wordt beïnvloed, een belangrijke stem moet hebben in hoe AI zich verder ontwikkelt."
OpenAI schreef.
OpenAI's Focus op de veiligheid en privacy van kinderen
Italië verboden ChatGPT, citerend OpenAIEen van de redenen hiervoor is dat het bedrijf er niet in slaagt de leeftijd van zijn gebruikers te verifiëren, ondanks dat het is ontworpen voor personen van 13 jaar en ouder. Een kritische focus van de veiligheidsinspanningen van het bedrijf is verschoven naar het beschermen van kinderen door het implementeren van opties voor leeftijdsverificatie OpenAI wordt nu onderzocht, vooral omdat de AI-tools bedoeld zijn voor personen van 18 jaar of ouder of 13 jaar en ouder met toestemming van de ouders.
Het bedrijf verbiedt ten strengste het genereren van haatzaaiende, intimiderende, gewelddadige of volwassen inhoud GPT-4 heeft al een 82% lagere kans om te reageren op verzoeken om niet-toegestane inhoud vergeleken met GPT-3. 5.
OpenAI heeft een robuust systeem opgezet om misbruik te monitoren en hoopt dat ook te kunnen doen GPT-4 in de loop van de tijd voor meer mensen beschikbaar. Het bedrijf werkt samen met ontwikkelaars aan op maat gemaakte veiligheidsmaatregelen, zoals de non-profit Khan Academy, en werkt aan functies die strengere normen voor modeluitvoer mogelijk maken.
Het verbeteren van de privacy is een ander veiligheidsaspect OpenAI richt zich op, vooral na de recente datalekken. De grote taalmodellen van het AI-bedrijf zijn getraind op een enorme hoeveelheid tekst, waaronder voor het publiek beschikbare inhoud, gelicentieerde inhoud en inhoud die is gegenereerd door menselijke recensenten; het gebruikt gegevens om AI-modellen nuttiger te maken voor mensen.
OpenAI onderneemt stappen om de privacy van individuen te beschermen door persoonlijke informatie uit haar trainingsgegevens te verwijderen, modellen af te stemmen om verzoeken om persoonlijke informatie af te wijzen en persoonlijke informatie op verzoek uit haar systemen te verwijderen. Dit verkleint de kans dat AI-modellen reacties genereren die persoonlijke informatie bevatten.
OpenAI's aanpak Het aanpakken van AI-veiligheidsproblemen betekent het onderzoeken van effectieve mitigaties en uitlijningstechnieken en test ze tegen misbruik in de echte wereld. Het belooft ook steeds voorzichtiger te zijn bij het creëren en inzetten van capabelere modellen en om de veiligheidsmaatregelen te verbeteren. Effectief beheer van de ontwikkeling en inzet van AI is essentieel om de veiligheid te garanderen, waarvoor technische en institutionele innovatie nodig is.
Lees verder:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].
Meer artikelen
Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].
