Novinky Technika
Října 18, 2023

Stanfordská studie odhaluje alarmující nedostatek transparentnosti v modelech AI Foundation

Stručně

Výzkumníci ze Stanfordu odhalili klesající transparentnost v modelech nadace umělé inteligence a volají po zveřejnění dat.

Mezi 10 hodnocenými modely LLaMA 2 byl považován za nejtransparentnější se skóre 54 %, následovaný GPT-4 se skóre transparentnosti 48 %. Titan od Amazonu dosáhl nejnižšího skóre s pouze 12% průhledností.

Stanfordská studie odhaluje alarmující nedostatek transparentnosti v modelech nadace AI a naléhá na společnosti, aby zveřejnily údaje o školení

Vědci ze Stanfordské univerzity ano odhalen zpráva Foundation Model Transparency Index, která hodnotí transparentnost základních modelů umělé inteligence vytvořených společnostmi jako OpenAI a Google. 

Studie vyvolává obavy z klesající transparentnosti a zdůrazňuje, že je třeba, aby společnosti prozrazovaly informace o zdrojích dat a lidské práci v modelovém školení, přičemž zdůrazňuje potenciální rizika neprůhlednosti v odvětví umělé inteligence.

„Během posledních tří let je jasné, že transparentnost klesá, zatímco schopnosti překračují střechu. Považujeme to za vysoce problematické, protože v jiných oblastech, jako jsou sociální média, jsme viděli, že když se transparentnost sníží, mohou se v důsledku toho stát špatné věci,“ řekl profesor ze Stanfordu Percy Liang, který pracoval na indexu transparentnosti modelu Foundation.

Základní modely, které jsou stěžejní v generativních AI a vylepšeních automatizace, byly hodnoceny špatně v indexu transparentnosti základního modelu, a to dokonce i u nejtransparentnějšího modelu Meta. Llama 2, dosáhl pouze 54 bodů ze 100. 

Nejnižším hodnoceným modelem byl Amazon's Titan s pouhými 12 ze 100. OpenAIJe GPT-4 model skóroval 48 ze 100. Mezitím byl PaLM 2 ohodnocen 40. 

Autoři zprávy doufají, že tato studie poslouží jako katalyzátor pro zvýšení transparentnosti v oblasti umělé inteligence a bude sloužit jako základní referenční bod pro vlády, když se budou potýkat s regulačními výzvami této rozvíjející se technologie.

Evropská unie nedávno udělal pokrok k uzákonění prvního komplexního souboru předpisů pro umělou inteligenci na světě se zákonem o umělé inteligenci. Podle navrhovaných pravidel budou nástroje umělé inteligence kategorizovány podle úrovně jejich rizika, přičemž se budou řešit obavy z biometrického sledování, šíření zavádějících informací a diskriminačního jazyka. Společnosti v EU využívající generativní nástroje AI jako např ChatGPT musí zveřejnit veškerý materiál chráněný autorským právem použitý při jejich vývoji a podporovat transparentnost.

Odmítnutí odpovědnosti

V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.

O autorovi

Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].

Další články
Agne Cimermanová
Agne Cimermanová

Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].

Hot Stories

Fractal oznamuje plány na reset svého Testnetu 20. července

by Alisa Davidsonová
Července 19, 2024
Připojte se k našemu zpravodaji.
Novinky

Fractal oznamuje plány na reset svého Testnetu 20. července

by Alisa Davidsonová
Července 19, 2024

Od zvlnění k velké zelené DAO: Jak kryptoměnové projekty přispívají k charitě

Pojďme prozkoumat iniciativy využívající potenciál digitálních měn pro charitativní účely.

Vědět více

AlphaFold 3, Med-Gemini a další: The Way AI Transforms Healthcare in 2024

Umělá inteligence se ve zdravotnictví projevuje různými způsoby, od odhalování nových genetických korelací až po posílení robotických chirurgických systémů...

Vědět více
Připojte se k naší komunitě inovativních technologií
Více
Více informací
Fractal oznamuje plány na reset svého Testnetu 20. července
Novinky Vývoj Technika
Fractal oznamuje plány na reset svého Testnetu 20. července
Července 19, 2024
Prolomení kodexu DeFi Zranitelná místa: Hluboký ponor společnosti Alp Bassa do inteligentního zabezpečení smluv
Rozhovor businessu Trhy Vývoj Technika
Prolomení kodexu DeFi Zranitelná místa: Hluboký ponor společnosti Alp Bassa do inteligentního zabezpečení smluv
Července 19, 2024
Cysic spouští svůj Testnet a odhaluje sezónní kampaň Verifier, čímž komunitě uděluje whitelisty validátorových uzlů
Novinky Technika
Cysic spouští svůj Testnet a odhaluje sezónní kampaň Verifier, čímž komunitě uděluje whitelisty validátorových uzlů
Července 19, 2024
Terra obdržela povolení od konkurzního soudu znovu otevřít Shuttle Bridge a spálit 150 milionů LUNA tokenů
Trhy Novinky Technika
Terra obdržela povolení od konkurzního soudu znovu otevřít Shuttle Bridge a spálit 150 milionů LUNA tokenů
Července 19, 2024
CRYPTOMERIA LABS PTE. LTD.