Dario Amodei varuje před mezerami ve správě věcí veřejných, protože pokrok umělé inteligence předbíhá politiku, a naléhá na závazné bezpečnostní a ekonomické reformy
Stručně
Generální ředitel společnosti Anthropic Dario Amodei nastiňuje rizika umělé inteligence a navrhuje přísnější regulaci, ekonomická ochranná opatření a globální koordinaci pro řízení rychlého pokroku umělé inteligence.
Dario Amodei, generální ředitel Antropický, v nové eseji uvedl, že umělá inteligence se rozvíjí mnohem rychleji, než na to dokážou reagovat politické systémy, a argumentoval, že tvůrci politik se musí rychle přizpůsobit tomu, jak hraniční modely začínají přetvářet bezpečnost, ekonomiku a veřejné instituce. Přirovnal rozdíl v tempu mezi vývojem umělé inteligence a legislativou ke kontrastu mezi rychle se rozvíjejícími Hobity a pomalým Stromovousem s tím, že tento nesoulad je stále naléhavější s tím, jak se modely zlepšují v kódování, vědě a dalších znalostních pracích.
Podnikatel zdůraznil, že dřívější politické úsilí se z velké části omezovalo na opatření v oblasti transparentnosti, kontroly vývozu a sběr dat, protože rizika se stále objevovala a byla nejasná. Řekl, že situace se nyní změnila, a poukázal na možnosti hraničních modelů, které odhalily vážné obavy v oblasti kybernetické bezpečnosti a ukázaly, že pokročilé systémy umělé inteligence mohou ovlivnit finanční stabilitu, kritickou infrastrukturu a národní bezpečnost. Tvrdil, že další fáze politiky by se měla posunout nad rámec pouhého zveřejňování informací směrem k závazným pravidlům pro vysoce rizikové modely.
Regulace, ekonomické narušení a vznikající politické priority v éře umělé inteligence
V oblasti regulace a veřejné bezpečnosti navrhl Dario Amodei rámec podobný dohledu v letectví, s povinným testováním pokročilých modelů třetí stranou před nasazením. Uvedl, že modely nad určitou výpočetní hranicí by měly být vyhodnoceny z hlediska rizik v oblasti kybernetické bezpečnosti, biologického zneužití, ztráty kontroly a automatizovaného výzkumu, který by mohl tyto hrozby zesílit. Dále uvedl, že vlády by měly mít možnost odložit nebo zablokovat nasazení, pokud jsou tato rizika považována za nepřijatelná, a zároveň by měly být vyžadovány silné bezpečnostní postupy, pravidelné red-teamingové testování, penetrační testování a rychlé hlášení incidentů od vývojářů umělé inteligence.
Esej se také zaměřila na ekonomické narušení. Amodei uvedl, že výkonná umělá inteligence by mohla urychlit růst a zároveň vytlačit velké množství pracovníků tím, že by rychleji než předchozí technologie nahradila lidskou kognitivní práci. Varoval, že by to mohlo vést k velmi rychlému růstu spolu s přetrvávající nerovností, což by ztížilo zajištění širokého sdílení výhod. Řekl, že by se politika měla zaměřit na měření, podporu pracovní síly, pojištění mezd, rekvalifikaci a případně dlouhodobější podporu příjmů, pokud poptávka po pracovní síle výrazně poklesne.
V jiné části generální ředitel společnosti Anthropic uvedl, že umělá inteligence by mohla urychlit vědecký pokrok, zejména v biomedicíně, ale že stávající regulační systémy mohou být příliš pomalé na to, aby zvládly vlnu inovací s pomocí umělé inteligence. Navrhl připravit schvalovací agentury, jako jsou FDA a EMA, aby akceptovaly simulace založené na umělé inteligenci, syntetické kontrolní skupiny a další metody, které by mohly zkrátit vývoj léků bez snížení bezpečnosti.
Dario Amodei také varoval, že umělá inteligence by mohla posílit moc státu a vytvořit nová rizika pro občanské svobody, včetně autonomních zbraní, hromadného sledování a nekalého využívání umělé inteligence vládou. Vyzval k přísnějším pravidlům odpovědnosti, omezením domácího používání plně autonomních zbraní a přísnější ochraně soukromí.
Nakonec uvedl, že demokracie by měly spolupracovat na dodavatelských řetězcích umělé inteligence, bezpečnostních standardech a ekonomické koordinaci s tím, že se umělá inteligence stává strategickou technologií srovnatelnou s jadernou energií co do geopolitického významu.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Alisa, oddaná novinářka v MPost, specializuje se na kryptoměny, umělou inteligenci, investice a rozsáhlou oblast Web3. S velkým okem pro nové trendy a technologie poskytuje komplexní pokrytí, aby informovala a zapojila čtenáře do neustále se vyvíjejícího prostředí digitálních financí.
Další články
Alisa, oddaná novinářka v MPost, specializuje se na kryptoměny, umělou inteligenci, investice a rozsáhlou oblast Web3. S velkým okem pro nové trendy a technologie poskytuje komplexní pokrytí, aby informovala a zapojila čtenáře do neustále se vyvíjejícího prostředí digitálních financí.
