Nieuwsverslag Technologie
18 oktober 2023

Onderzoek van Stanford onthult een alarmerend gebrek aan transparantie in AI-basismodellen

In het kort

Stanford-onderzoekers ontdekten afnemende transparantie in AI-basismodellen en roepen op tot openbaarmaking van gegevens.

Van de tien beoordeelde modellen was LLaMA 2 werd met een score van 54% het meest transparant geacht, gevolgd door GPT-4 met een transparantiescore van 48%. Titan van Amazon scoorde het laagst met slechts 12% transparantie.

Stanford-studie onthult alarmerend gebrek aan transparantie in AI-basismodellen en spoort bedrijven aan trainingsgegevens openbaar te maken

Onderzoekers van Stanford University hebben dat gedaan onthuld een rapport, de Foundation Model Transparency Index, dat de transparantie evalueert van AI-basismodellen die zijn gemaakt door bedrijven als OpenAI en Google. 

Het onderzoek geeft aanleiding tot bezorgdheid over de afnemende transparantie en benadrukt de noodzaak voor bedrijven om informatie vrij te geven over databronnen en menselijke arbeid bij het trainen van modellen, waarbij de potentiële risico’s van ondoorzichtigheid in de AI-industrie worden benadrukt.

“Het is de afgelopen drie jaar duidelijk dat de transparantie afneemt, terwijl de capaciteiten de pan uit rijzen. Wij beschouwen dit als zeer problematisch omdat we op andere gebieden, zoals sociale media, hebben gezien dat wanneer de transparantie afneemt, er slechte dingen kunnen gebeuren als gevolg daarvan”, zegt Stanford-professor Percy Liang, die aan de Foundation Model Transparency Index heeft gewerkt.

Foundation-modellen, die cruciaal zijn voor de vooruitgang op het gebied van generatieve AI en automatisering, zijn slecht beoordeeld in de Foundation Model Transparency Index, waarbij zelfs het meest transparante model, Meta's Llama 2 en scoorde slechts 54 van de 100. 

Het laagst gerangschikte model was Titan van Amazon, met slechts 12 op 100. OpenAI's GPT-4 model scoorde 48 van de 100. Ondertussen werd PaLM 2 beoordeeld met 40. 

De auteurs van het rapport hopen dat dit onderzoek zal dienen als katalysator voor meer transparantie op AI-gebied en zal fungeren als een fundamenteel referentiepunt voor regeringen die worstelen met de regelgevingsuitdagingen van deze snelgroeiende technologie.

De Europese Unie onlangs vooruitgang geboekt richting het vaststellen van 's werelds eerste alomvattende reeks regels voor AI met de 'Artificial Intelligence Act'. Volgens de voorgestelde regels zullen AI-instrumenten worden gecategoriseerd op basis van hun risiconiveau, waardoor zorgen over biometrisch toezicht, de verspreiding van misleidende informatie en discriminerend taalgebruik worden aangepakt. Bedrijven in de EU die gebruik maken van generatieve AI-tools zoals ChatGPT moeten al het auteursrechtelijk beschermde materiaal dat bij hun ontwikkeling wordt gebruikt openbaar maken, waardoor de transparantie wordt bevorderd.

Disclaimer

In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.

Over de auteur

Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].

Meer artikelen
Agne Cimerman
Agne Cimerman

Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].

Hot Stories
Schrijf je in op onze nieuwsbrief.
Laatste Nieuws

Van Ripple tot The Big Green DAO: hoe cryptocurrency-projecten bijdragen aan liefdadigheid

Laten we initiatieven onderzoeken die het potentieel van digitale valuta voor goede doelen benutten.

Meer weten

AlphaFold 3, Med-Gemini en anderen: de manier waarop AI de gezondheidszorg transformeert in 2024

AI manifesteert zich op verschillende manieren in de gezondheidszorg, van het blootleggen van nieuwe genetische correlaties tot het versterken van robotchirurgische systemen...

Meer weten
Sluit u aan bij onze innovatieve technologiegemeenschap
Lees meer
Lees meer
Crypto Exchange Jupiter introduceert Jupiter Swap V3, Dynamic Slippage, naast andere belangrijke updates in de komende weken
markten Nieuwsverslag Technologie
Crypto Exchange Jupiter introduceert Jupiter Swap V3, Dynamic Slippage, naast andere belangrijke updates in de komende weken
14 June 2024
Polygon introduceert zijn governance-hub, die een uniforme, transparante interface biedt voor gemeenschapsbestuur
Nieuwsverslag Technologie
Polygon introduceert zijn governance-hub, die een uniforme, transparante interface biedt voor gemeenschapsbestuur 
14 June 2024
Binance registreert meer dan 30 miljoen nieuwe gebruikers in 2024, klantenactiva overschrijden de mijlpaal van $100 miljard
markten Nieuwsverslag Technologie
Binance registreert meer dan 30 miljoen nieuwe gebruikers in 2024, klantenactiva overschrijden de mijlpaal van $100 miljard
14 June 2024
Amazon ondersteunt generatieve AI-startups met een investering van $230 miljoen en wijst $80 miljoen toe aan zijn tweede AWS Generative AI Accelerator-programma
Business Nieuwsverslag Technologie
Amazon ondersteunt generatieve AI-startups met een investering van $230 miljoen en wijst $80 miljoen toe aan zijn tweede AWS Generative AI Accelerator-programma
14 June 2024