Spoločnosti AI by mali minúť 30 % svojich finančných prostriedkov na výskum a vývoj v oblasti bezpečnosti a etiky
Škody spôsobené predsudkami a nepravdivými informáciami sú už zjavné. Existujú náznaky, že sa môžu objaviť aj iné nebezpečenstvá. Je dôležité zmierniť súčasné riziká a predvídať vznikajúce.
Nevedeli by sme, ako zabezpečiť, aby pokročilé autonómne systémy alebo AGI boli bezpečné, alebo ako ich otestovať, ak by boli práve teraz dostupné. Okrem toho vládam chýbajú inštitúcie potrebné na zastavenie zneužívania a zavedenie bezpečných praktík, aj keď áno. Autori podporujú rozvoj efektívneho vládneho dohľadu a presmerovanie úsilia výskumu a vývoja smerom k bezpečnosti a etike.
Kontrola a čestnosť (sofistikovanejšie systémy môžu prekabátiť testovanie tým, že budú produkovať falošné, ale presvedčivé odpovede), robustnosť (v nových podmienkach s posunom distribúcie alebo kontradiktórnymi vstupmi), interpretovateľnosť (pochopenie práce), hodnotenie rizika (objavia sa nové schopnosti, ktoré je ťažké predvídať), a objavenie sa nových výziev (bezprecedentné spôsoby zlyhania) sú niektoré z výziev výskumu a vývoja, ktoré nebude možné vyriešiť vývoj výkonnejších systémov AI.
Autori naznačujú, že bezpečnosť a etika by mali dostať aspoň jednu tretinu financovania výskumu a vývoja AI.
Normy je potrebné presadzovať vo vzťahu k národným inštitúciám aj globálnemu riadeniu. To AI chýba, ale farmaceutický, finančný a jadrový priemysel áno. V súčasnosti existujú stimuly pre národy a podniky, aby šetrili na úkor bezpečnosti. Spoločnosti môžu profitovať z pokrokov AI a zároveň nechať spoločnosť, aby znášala následky, podobne ako priemyselné odvetvia vyhadzujú odpad do riek.
Silné technické know-how a schopnosť rýchlo sa pohybovať sú požiadavkami na národné inštitúcie. Na globálnej scéne sú partnerstvá a dohody nevyhnutné. Je potrebné vyhnúť sa byrokratickým prekážkam malých a predvídateľných modelov, aby sa zabezpečil akademický výskum a aplikácie s nízkym rizikom. Najväčšia pozornosť by sa mala venovať hraničným modelom – vybranej skupine najsilnejších systémov trénovaných na miliardových superpočítačoch.
Vlády musia byť otvorenejšie k vývoju, aby boli nariadenia účinné. Regulačné orgány by mali nariadiť registráciu modelov, chrániť interných informátorov, nariadiť hlásenie incidentov a dohliadať na vývoj modelov a používanie superpočítačov.
Regulačné orgány musia mať tiež prístup k týmto systémom pred ich uvedením do výroby, aby mohli hodnotiť potenciálne škodlivé funkcie ako generovanie patogénov, samoreplikácia a prienik do systému.
Systémy s potenciálom byť nebezpečné potrebujú rôzne kontrolné metódy. Hraničný model tvorcovia musia niesť zákonnú zodpovednosť za akékoľvek škody na ich systémoch, ktorým sa dalo predísť. To by malo podporiť investície do bezpečnosti. Viac funkcií, ako napríklad vládne licencie, schopnosť zastaviť vývoj v reakcii na potenciálne nebezpečné Extrémne schopné systémy môžu vyžadovať schopnosti, kontroly prístupu a opatrenia na bezpečnosť informácií, ktoré sú nepriepustné pre hackerov na štátnej úrovni.
Aj keď neexistujú žiadne pravidlá, podniky by si mali rýchlo ujasniť svoje povinnosti vtedy, keď načrtnú presné kroky, ktoré podniknú, ak určité schopnosti modelu prekročia červenú čiaru. Tieto opatrenia je potrebné dôkladne vysvetliť a nezávisle potvrdiť. Teda je. Samostatný Dodatok k zásadám zostavuje súhrn téz.
- V októbri Frontier Model Forum zaviedla bezpečnostný fond AI vo výške viac ako 10 miliónov dolárov, ktorej cieľom je podporiť pokrok vo výskume bezpečnosti AI. Fond, ktorý spolupracuje medzi Frontier Model Forum a filantropickými partnermi, bude poskytovať podporu nezávislým výskumníkom na celom svete pridruženým k akademickým inštitúciám, výskumným organizáciám a startupom. Hlavnými prispievateľmi do iniciatívy sú Antropic, Google, Microsoft, OpenAI, spolu s filantropickými organizáciami ako Patrick J. McGovern Foundation, David and Lucile Packard Foundation, Eric Schmidt a Jaan Tallinn. Fond AI Safety sa primárne zameriava na podporu vývoja nových techník hodnotenia a červených tímových prístupov pre modely AI s cieľom odhaliť potenciálne nebezpečenstvá. Fórum plánuje v nadchádzajúcich mesiacoch zriadiť poradný výbor a krátko nato vydá svoju prvú výzvu na predkladanie návrhov a udeľuje ceny.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
