AI-ettevõtted peaksid kulutama 30% oma rahalistest vahenditest ohutuse ja eetika alasele uurimis- ja arendustegevusele
Eelarvamuste ja valeandmete tekitatud kahju on juba ilmne. On märke, et esile võivad kerkida ka muud ohud. Kriitiline on praeguste riskide maandamine ja tekkivate riskide ettenägemine.
Me ei tea, kuidas tagada täiustatud autonoomsete süsteemide või AGI ohutus või kuidas neid testida, kui need oleksid praegu saadaval. Lisaks puuduvad valitsustel institutsioonid, mis on vajalikud kuritarvitamise peatamiseks ja ohutute tavade kehtestamiseks, isegi kui nad seda tegid. Autorid toetavad tõhusa valitsuse järelevalve arendamist ning teadus- ja arendustegevuse ümbersuunamist ohutuse ja eetika poole.
Kontroll ja ausus (keerulisemad süsteemid võivad testimisest üle kavaldada, andes valesid, kuid veenvaid vastuseid), tugevus (uutes tingimustes jaotuse nihkega või vastandlike sisenditega), tõlgendatavus (töö mõistmine), riskianalüüs (tekivad uued võimed, mida on raske ennustada), ja uute väljakutsete esilekerkimine (enneolematud rikkerežiimid) on mõned teadus- ja arendustegevuse väljakutsed, mida ei lahenda võimsamate AI-süsteemide arendamine.
Autorid soovitavad, et ohutus ja eetika peaksid saama vähemalt ühe kolmandiku tehisintellekti teadus- ja arendustegevuse rahastamisest.
Standardeid tuleb jõustada nii riiklike institutsioonide kui ka ülemaailmse juhtimise suhtes. Tehisintellektil need puuduvad, kuid farmaatsia-, finants- ja tuumatööstusel on. Nüüd on riikidel ja ettevõtetel stiimulid turvalisuse arvelt säästa. Ettevõtted saavad tehisintellekti edusammudest kasu saada, jättes samas ühiskonna tagajärgede kanda, sarnaselt sellele, nagu tööstused viskavad jäätmeid jõgedesse.
Tugev tehniline oskusteave ja kiire liikumisvõime on riigiasutustele esitatavad nõuded. Globaalsel areenil on partnerlussuhted ja kokkulepped hädavajalikud. Akadeemilise uurimistöö ja madala riskitasemega rakenduste kaitsmiseks tuleb vältida bürokraatlikke takistusi väikestele ja prognoositavatele mudelitele. Piirimudelid – valitud rühm kõige võimsamaid süsteeme, mis on koolitatud miljardi dollari väärtuses superarvutitel – peaksid saama kõige rohkem tähelepanu.
Valitsused peavad olema arengute suhtes avatumad, et regulatsioonid oleksid tõhusad. Reguleerivad asutused peaksid volitama mudelite registreerimist, kaitsma sisemisi informaatoreid, volitama juhtumitest teatamist ning hoidma silma peal mudelite arendamisel ja superarvutite kasutamisel.
Reguleerivatel asutustel peab olema ka juurdepääs nendele süsteemidele enne nende tootmisse laskmist, et hinnata potentsiaalselt kahjulik funktsioone, nagu patogeeni tekitamine, iseseplikatsioon ja süsteemi tungimine.
Süsteemid, mis võivad olla ohtlikud, vajavad erinevaid juhtimismeetodeid. Piiri mudel loojad peavad vastutama ka nende süsteemidele tekitatud kahju eest, mida oleks saanud vältida. See peaks julgustama turvainvesteeringuid. Rohkem funktsioone, nagu valitsuse litsentsimine, võime peatada arendus vastuseks potentsiaalselt ohtlik Äärmiselt võimekate süsteemide puhul võib vaja minna võimalusi, juurdepääsu kontrolle ja infoturbemeetmeid, mis on osariigi tasandi häkkeritele mitteläbilaskvad.
Kuigi reeglid puuduvad, peaksid ettevõtted kiiresti oma kohustused selgeks tegema, kirjeldades täpseid samme, mida nad astuvad, kui teatud mudeli võimalused ületavad punase joone. Neid meetmeid tuleb põhjalikult selgitada ja sõltumatult kinnitada. Seega on. Eraldi Poliitika lisa koostab teesidest kokkuvõtte.
- Oktoobris Frontier Model Forum on kasutusele võtnud üle 10 miljoni dollari suuruse tehisintellekti ohutusfondi, mille eesmärk on edendada tehisintellekti ohutusuuringuid. Frontier Model Forumi ja filantroopsete partnerite koostööna loodud fond toetab akadeemiliste institutsioonide, teadusorganisatsioonide ja idufirmadega seotud sõltumatuid teadlasi kogu maailmas. Algatuse peamised panustajad on Anthropic, Google, Microsoft, OpenAI, koos filantroopsete organisatsioonidega nagu Patrick J. McGovern Foundation, David ja Lucile Packardi fond, Eric Schmidt ja Jaan Tallinn. Tehisintellekti ohutusfond keskendub peamiselt tehisintellektimudelite uute hindamismeetodite ja punaste meeskonnatöö väljatöötamise toetamisele, eesmärgiga avastada võimalikke ohte. Foorum kavatseb lähikuudel asutada nõuandekogu ning varsti pärast seda kuulutab välja oma esimese konkursikutse ja annab välja toetusi.
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
