OpenAI CEO Sam Altman spreekt open brief over AI-vooruitgangspauze en bevestigt dat er geen huidige plannen voor zijn GPT-5 Ontwikkeling
In het kort
Tijdens het MIT-evenement OpenAI CEO Sam Altman richtte een open brief waarin hij opriep tot een pauze in de ontwikkeling van AI: hij was het eens met de behoefte aan meer veiligheidsmogelijkheden, maar was het niet eens met een financiële pauze in de ontwikkeling van AI.
Altman bevestigde dat OpenAI momenteel niet mee bezig GPT-5.
OpenAI CEO Sam Altman heeft dat gedaan uitgesproken over het onlangs gepubliceerde open brief waarin wordt opgeroepen tot een pauze in de vooruitgang van AI-technologie. Altman behandelde de brief tijdens een toespraak op MIT en deelde zijn mening over de kwestie. Altman bevestigde dat OpenAI traint momenteel niet GPT-5, waarvan wordt aangenomen dat het de opvolger is van de GPT-4 AI-taalmodel.
Vorige maand ondertekenden duizenden vooraanstaande technologie-experts, waaronder Elon Musk en Steve Wozniak, een open brief waarin werd opgeroepen tot een pauze van zes maanden bij het trainen van AI-systemen die geavanceerder zijn dan GPT-4. De brief benadrukt de groeiende bezorgdheid over de race om steeds krachtigere AI te ontwikkelen en de risico’s die dit met zich meebrengt voor de samenleving. Terwijl hedendaagse AI-systemen dat leuk vinden GPT-4 kunnen al concurreren met mensen op het gebied van algemene taken, waarschuwt de brief voor mogelijke informatievooroordelen, taakautomatisering en het risico de controle over de menselijke beschaving te verliezen.
Altman was het eens met bepaalde aspecten van de open brief, met name met betrekking tot de noodzaak om de veiligheidsmogelijkheden bij de ontwikkeling van AI te vergroten. Dat verklaarde hij OpenAI had tijdens de training uitgebreide veiligheidsmaatregelen genomen GPT-4, inclusief externe audits en veiligheidscontroles.
Hij was het echter niet eens met de voorgestelde monetaire pauze op de ontwikkeling van AI en merkte het gebrek aan technische specificiteit in de brief op. Altman weerlegde ook de bewering dat OpenAI aan het trainen was GPT-5, waarbij het belang van nauwkeurige evaluatie en monitoring van de veiligheid van AI wordt benadrukt.
“Daarnaast doen we nog andere dingen GPT-4 waarvan ik denk dat er allerlei veiligheidsproblemen zijn die belangrijk zijn om aan te pakken en die volledig uit de brief zijn weggelaten”,
zei Altman.
Hij legde dat verder uit OpenAIHet doel van het bedrijf is om de mondiale betrokkenheid bij AI aan te moedigen en individuen en instellingen ertoe aan te zetten bestaande systemen bij te werken of aan te passen om de gewenste toekomst te creëren.
OpenAI heeft recent heeft zijn benadering van AI-veiligheid geüpdatet. Het bedrijf heeft zich ertoe verbonden grondige tests uit te voeren, feedback van externe deskundigen te zoeken en samen te werken met overheden om effectieve regelgeving te ontwikkelen. In aanvulling, OpenAI neemt maatregelen om de individuele privacy te beschermen door persoonlijke informatie uit trainingsgegevens te verwijderen, verzoeken om persoonlijke informatie af te wijzen en persoonlijke informatie uit haar systemen te verwijderen. Het bedrijf heeft zijn focus ook verlegd naar de bescherming van kinderen door opties voor leeftijdsverificatie te implementeren.
Lees verder:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].
Meer artikelen
Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].
