AI uzņēmumiem vajadzētu tērēt 30% no sava finansējuma pētniecībai un attīstībai drošības un ētikas jomā
Aizspriedumu un nepatiesas informācijas radītais kaitējums jau ir acīmredzams. Ir norādes, ka var parādīties arī citi apdraudējumi. Ir ļoti svarīgi mazināt pašreizējos riskus un paredzēt iespējamos riskus.
Mēs nezinātu, kā nodrošināt uzlaboto autonomo sistēmu vai AGI drošību vai kā tās pārbaudīt, ja tās būtu pieejamas tieši tagad. Turklāt valdībām trūkst iestāžu, kas vajadzīgas, lai apturētu ļaunprātīgu izmantošanu un ieviestu drošu praksi, pat ja tās to darītu. Autori atbalsta efektīvas valdības uzraudzības attīstību un pētniecības un attīstības centienu novirzīšanu uz drošību un ētiku.
Kontrole un godīgums (sarežģītākas sistēmas var pārspēt testēšanu, sniedzot nepatiesas, bet pārliecinošas atbildes), robustums (jaunos apstākļos ar sadales maiņu vai pretrunīgu ievadi), interpretējamība (darba izpratne), riska novērtējums (rodas jaunas spējas, kuras ir grūti paredzēt), un jaunu izaicinājumu parādīšanās (bezprecedenta atteices režīmi) ir daži no pētniecības un attīstības izaicinājumiem, kurus neatrisinās jaudīgāku AI sistēmu izstrāde.
Autori ierosina, ka drošībai un ētikai jāsaņem vismaz viena trešdaļa finansējuma AI pētniecībai un attīstībai.
Standarti ir jāievieš gan attiecībā uz valsts iestādēm, gan globālo pārvaldību. AI to trūkst, bet farmācijas, finanšu un kodolieroču nozarēs ir. Tagad valstīm un uzņēmumiem ir stimuli taupīt uz drošības rēķina. Uzņēmumi var gūt labumu no mākslīgā intelekta sasniegumiem, vienlaikus atstājot sabiedrību, lai uzņemtos sekas, līdzīgi kā nozares izmet atkritumus upēs.
Spēcīgas tehniskās zināšanas un spēja ātri pārvietoties ir prasības valsts iestādēm. Globālajā arēnā partnerattiecības un vienošanās ir būtiskas. Jāizvairās no birokrātiskiem šķēršļiem maziem un paredzamiem modeļiem, lai aizsargātu akadēmisko pētniecību un zema riska lietojumus. Pierobežas modeļiem — atlasītai spēcīgāko sistēmu grupai, kas apmācītas uz miljardu dolāru vērtiem superdatoriem — būtu jāpievērš vislielākā uzmanība.
Valdībām ir jābūt atvērtākām par notikumu attīstību, lai noteikumi būtu efektīvi. Regulatoriem vajadzētu noteikt pienākumu modeļu reģistrāciju, aizsargāt iekšējos informatorus, pilnvarot ziņot par incidentiem un sekot līdzi modeļu izstrādei un superdatoru izmantošanai.
Regulatoriem arī ir jābūt piekļuvei šīm sistēmām pirms to laišanas ražošanā, lai tās varētu novērtēt potenciāli kaitīgs funkcijas, piemēram, patogēnu ģenerēšana, pašreplikācija un iespiešanās sistēmā.
Sistēmām, kas var būt bīstamas, ir vajadzīgas dažādas kontroles metodes. Pierobežas modelis radītājiem ir arī jāatbild juridiski par jebkādiem viņu sistēmām nodarītiem bojājumiem, no kuriem varēja izvairīties. Tam vajadzētu veicināt ieguldījumus drošības jomā. Vairāk funkciju, piemēram, valdības licencēšana, spēja apturēt attīstību, reaģējot uz potenciāli bīstams Īpaši spējīgām sistēmām var būt nepieciešamas iespējas, piekļuves kontrole un informācijas drošības pasākumi, kas ir necaurlaidīgi valsts līmeņa hakeriem.
Lai gan nav noteikumu, uzņēmumiem ātri jāprecizē savi pienākumi, ja-tad, norādot precīzas darbības, ko tie veiks, ja noteiktas modeļa iespējas šķērsos sarkano līniju. Šie pasākumi ir rūpīgi jāizskaidro un neatkarīgi jāapstiprina. Tādējādi tā ir. Atsevišķs Politikas papildinājums sastāda tēžu kopsavilkumu.
- Oktobrī Frontier Model Forum ir ieviesusi AI drošības fondu vairāk nekā 10 miljonu ASV dolāru apmērā, kuras mērķis ir veicināt progresu AI drošības izpētē. Fonds, kas ir Frontier Model Forum un filantropisko partneru sadarbība, sniegs atbalstu neatkarīgiem pētniekiem visā pasaulē, kas saistīti ar akadēmiskajām iestādēm, pētniecības organizācijām un jaunizveidotiem uzņēmumiem. Galvenie iniciatīvas atbalstītāji ir Anthropic, Google, Microsoft, OpenAI, kopā ar filantropiskām organizācijām, piemēram, Patrika J. Makgoverna fondu, Deivida un Lūsīlas Pakardu fondu, Ēriku Šmitu un Jānu Tallinu. AI drošības fonds galvenokārt koncentrējas uz jaunu novērtēšanas metožu un sarkano komandu veidošanas pieeju izstrādi AI modeļiem, lai atklātu iespējamos apdraudējumus. Forums plāno tuvāko mēnešu laikā izveidot padomdevēju padomi un drīz pēc tam izsludinās pirmo uzaicinājumu iesniegt priekšlikumus un piešķirt balvas.
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
