DI įmonės turėtų išleisti 30 % savo lėšų saugos ir etikos tyrimams ir plėtrai
Išankstinio nusistatymo ir melagingos informacijos padaryta žala jau akivaizdi. Yra požymių, kad gali iškilti ir kitų pavojų. Labai svarbu sumažinti esamą riziką ir numatyti kylančią riziką.
Nežinotume, kaip užtikrinti, kad pažangios autonominės sistemos ar AGI būtų saugūs arba kaip jas išbandyti, jei jos būtų prieinamos dabar. Be to, vyriausybėms trūksta institucijų, reikalingų sustabdyti piktnaudžiavimą ir įdiegti saugią praktiką, net jei tai padarė. Autoriai remia veiksmingos vyriausybės priežiūros plėtrą ir mokslinių tyrimų ir plėtros pastangų nukreipimą į saugą ir etiką.
Kontrolė ir sąžiningumas (sudėtingesnės sistemos gali aplenkti testavimą pateikdamos klaidingus, bet įtikinamus atsakymus), tvirtumas (naujomis sąlygomis, kai pasiskirstymas keičiasi arba priešingi įnašai), aiškinamumas (darbo supratimas), rizikos įvertinimas (atsiranda naujų sugebėjimų, kuriuos sunku numatyti), ir naujų iššūkių atsiradimas (precedento neturintys gedimo būdai) yra keletas MTTP iššūkių, kurių nepavyks išspręsti kuriant galingesnes AI sistemas.
Autoriai siūlo, kad saugai ir etikai turėtų būti skiriama bent trečdalis AI MTTP finansavimo.
Standartai turi būti taikomi tiek nacionalinėms institucijoms, tiek pasauliniam valdymui. AI jų trūksta, bet farmacijos, finansų ir branduolinės pramonės šakos. Dabar yra paskatų tautoms ir įmonėms taupyti saugumo sąskaita. Įmonės gali pasipelnyti iš dirbtinio intelekto pažangos, palikdamos visuomenei prisiimti pasekmes, panašiai kaip pramonės įmonės išmeta atliekas į upes.
Stiprios techninės žinios ir gebėjimas greitai judėti yra reikalavimai nacionalinėms institucijoms. Pasaulinėje arenoje partnerystė ir susitarimai yra būtini. Reikia vengti biurokratinių kliūčių mažiems ir nuspėjamiems modeliams, kad būtų apsaugoti akademiniai tyrimai ir mažos rizikos taikymas. Didžiausias dėmesys turėtų būti skiriamas pasienio modeliams – atrinktai galingiausių sistemų, parengtų naudojant milijardus dolerių kainuojančius superkompiuterius, grupei.
Kad reglamentai būtų veiksmingi, vyriausybės turi būti atviresnės apie pokyčius. Reguliavimo institucijos turėtų įpareigoti registruoti modelius, apsaugoti vidinius informatorius, įpareigoti pranešti apie incidentus ir stebėti modelių kūrimą bei superkompiuterių naudojimą.
Reguliavimo institucijos taip pat turi turėti prieigą prie šių sistemų prieš jas išleidžiant į gamybą, kad galėtų įvertinti potencialiai kenksmingas tokias funkcijas kaip patogeno generavimas, savaiminis replikacija ir įsiskverbimas į sistemą.
Sistemoms, kurios gali būti pavojingos, reikia įvairių valdymo metodų. Pasienio modelis kūrėjai taip pat turi būti teisiškai atsakingi už bet kokią jų sistemoms padarytą žalą, kurios buvo galima išvengti. Tai turėtų paskatinti investicijas į saugumą. Daugiau funkcijų, tokių kaip vyriausybės licencijavimas, galimybė sustabdyti plėtrą reaguojant į potencialiai pavojingas ypač galingoms sistemoms gali prireikti galimybių, prieigos kontrolės ir informacijos saugumo priemonių, nepralaidžių valstybės lygio įsilaužėliams.
Nors taisyklių nėra, įmonės turėtų greitai išsiaiškinti savo pareigas „jei tada“, nurodydamos tikslius veiksmus, kurių jos imsis, jei tam tikros modelio galimybės peržengs raudoną liniją. Šios priemonės turi būti nuodugniai paaiškintos ir nepriklausomai patvirtintos. Taigi, tai yra. Atskiras Politikos priedas rengia tezių santrauką.
- Spalio mėn. Frontier Model Forum įvedė AI saugos fondą, kurio vertė viršija 10 mln, kuriuo siekiama paskatinti dirbtinio intelekto saugos tyrimų pažangą. Šis fondas, bendradarbiaujantis tarp Frontier Model Forum ir filantropinių partnerių, teiks paramą nepriklausomiems tyrėjams visame pasaulyje, susijusiems su akademinėmis institucijomis, mokslinių tyrimų organizacijomis ir startuoliais. Pagrindiniai iniciatyvos dalyviai yra Anthropic, Google, Microsoft, OpenAI, kartu su filantropinėmis organizacijomis, tokiomis kaip Patrick J. McGovern Foundation, David and Lucile Packard fondas, Eric Schmidt ir Jaan Tallinn. AI saugos fondas daugiausia dėmesio skiria naujų vertinimo metodų kūrimui ir AI modeliams skirtų raudonųjų komandų sudarymo metodams, kuriais siekiama atskleisti galimus pavojus. Forumas artimiausiais mėnesiais planuoja įsteigti patariamąją tarybą ir netrukus po to paskelbs pirmąjį kvietimą teikti paraiškas ir skirti apdovanojimus.
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
