Novinky Technika
30

Odborníci na umělou inteligenci a veřejné osobnosti varují před rizikem zániku umělé inteligence

Stručně

Významní odborníci na umělou inteligenci a vlivné osobnosti vyjadřují svůj názor obavy ohledně rizik spojených s AI.

Navzdory značnému pokroku v oblasti umělé inteligence zůstává mnoho problémů souvisejících s rizikem umělé inteligence nevyřešeno.

Odborníci na umělou inteligenci a veřejné osobnosti varují před rizikem zániku umělé inteligence

Prominentní odborníci na umělou inteligenci a veřejní činitelé vydali prohlášení s varováním, že umělá inteligence by mohla představovat hrozbu pro přežití lidstva, srovnatelnou nebo dokonce větší než rizika pandemie a jaderné války. 350 signatářů tvrdí, že umělá inteligence by mohla mít nepředvídatelné a katastrofální důsledky, jako je vypuštění autonomních zbraní, narušení sociálních a ekonomických systémů nebo vytvoření superinteligentních agentů, kteří by dokázali přelstít a přemoci lidi.

Vyzývají tvůrce politik, aby tato rizika brali vážně a přijali opatření k zajištění bezpečného a přínosného rozvoje umělé inteligence. The prohlášení je podepsána některá z předních osobností výzkumu a vývoje AI, jako např OpenAI Generální ředitel Sam Altman, spoluzakladatel Skype Jaan Tallinn, generální ředitel DeepMind Demis Hassabis a počítačový odborník na umělou inteligenci Geoffrey Hinton a také vlivné veřejné osobnosti, jako je hudebník Grimes a podcaster Sam Harris.

Mezi signatáři byli vítězové Turingovy ceny za rok 2018 za přínos k hlubokému učení: Geoffrey Hinton a Yoshua Bengio. K nim se připojili profesoři z prestižních univerzit, jako je Harvard a Tsinghua University v Číně, a také Max Tegmark z MIT.

„Zmírnění rizika vyhynutí v důsledku umělé inteligence by mělo být globální prioritou spolu s dalšími riziky společenského rozsahu, jako jsou pandemie a jaderná válka,“

uvádí dopis zveřejněný CAIS.

Centrum pro bezpečnost umělé inteligence (CAIS), nezisková organizace se sídlem v San Franciscu, se snaží řešit bezpečnostní problémy související s umělou inteligencí. CAIS si uvědomuje potenciální výhody umělé inteligence a zároveň zdůrazňuje, že je třeba ji vyvíjet a používat bezpečně. Společnost věří, že navzdory významnému pokroku v oblasti umělé inteligence zůstává řada zásadních problémů v oblasti bezpečnosti umělé inteligence nevyřešena. Podle svých webových stránek je posláním CAIS zmírňovat rizika prováděním bezpečnostního výzkumu, podporou komunity výzkumníků bezpečnosti AI a prosazováním bezpečnostních standardů.

„Existuje mnoho „důležitých a naléhavých rizik AI“, nejen riziko vyhynutí; například systémová zaujatost, dezinformace, zlomyslné použití, kybernetické útoky a zbrojení. To vše jsou důležitá rizika, která je třeba řešit. Společnosti mohou řídit více rizik najednou; není to „buď/nebo“, ale „ano/a“. Z hlediska řízení rizik, stejně jako by bylo lehkomyslné upřednostňovat výlučně současné škody, bylo by také lehkomyslné je také ignorovat,“

Dan Hendrycks, ředitel CAIS napsal na Twitteru. 

V březnu více než 1,100 technologických expertů podepsaný otevřený dopis požadující šestiměsíční zastavení školení systémů umělé inteligence GPT-4. Nedávno také evropští zákonodárci schválený přísnější návrh legislativy, známý jako zákon o umělé inteligenci, regulující nástroje umělé inteligence, jako je např ChatGPT. Zákon obsahuje požadavky na bezpečnostní kontroly, správu dat a zmírnění rizik pro základní modely umělé inteligence a zakazuje praktiky, jako jsou manipulativní techniky a určitá použití biometrie.

Čtěte více:

Tagy:

Odmítnutí odpovědnosti

V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.

O autorovi

Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].

Další články
Agne Cimermanová
Agne Cimermanová

Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].

Hot Stories
Připojte se k našemu zpravodaji.
Novinky

Od zvlnění k velké zelené DAO: Jak kryptoměnové projekty přispívají k charitě

Pojďme prozkoumat iniciativy využívající potenciál digitálních měn pro charitativní účely.

Vědět více

AlphaFold 3, Med-Gemini a další: The Way AI Transforms Healthcare in 2024

Umělá inteligence se ve zdravotnictví projevuje různými způsoby, od odhalování nových genetických korelací až po posílení robotických chirurgických systémů...

Vědět více
Připojte se k naší komunitě inovativních technologií
Více
Dozvědět se více
Zvyšte úroveň svých kryptografických dovedností: Ponořte se do sítě DePIN PowerPool a získejte odměny
Názor Business Vzdělání Trhy Vývoj Technika
Zvyšte úroveň svých kryptografických dovedností: Ponořte se do sítě DePIN PowerPool a získejte odměny
Června 21, 2024
Tabi umožňuje uživatelům, na které se vztahují omezení KYC, žádat o refundaci VIP vstupenek Captain Node do 30. června
Novinky Technika
Tabi umožňuje uživatelům, na které se vztahují omezení KYC, žádat o refundaci VIP vstupenek Captain Node do 30. června
Června 21, 2024
Router V2 odhalen: Revoluční skok v interoperabilitě blockchainu, slibující bleskově rychlé transakce a vylepšené zabezpečení
Rozhovor Business Trhy Vývoj Technika
Router V2 odhalen: Revoluční skok v interoperabilitě blockchainu, slibující bleskově rychlé transakce a vylepšené zabezpečení
Června 21, 2024
Crypto Exchange Binance spolupracuje s Brazilskou fotbalovou konfederací a uvolňuje volný vstup do hlavní národní fotbalové ligy
Životní styl Novinky Technika
Crypto Exchange Binance spolupracuje s Brazilskou fotbalovou konfederací a uvolňuje volný vstup do hlavní národní fotbalové ligy
Června 21, 2024
CRYPTOMERIA LABS PTE. LTD.