Experții în inteligență artificială susțin nevoia de investiții sporite în siguranță în inteligența artificială de către guverne și întreprinderi
Pe scurt
Un grup de cercetători în inteligența artificială a emis o scrisoare comună prin care solicită companiilor de inteligență artificială și guvernelor să aloce mai multe fonduri pentru a acorda prioritate utilizării sigure și etice a sistemelor de inteligență artificială.
Experții își exprimă îngrijorarea cu privire la progresul rapid al tehnologiei AI și la potențialul acesteia de a exacerba nedreptățile sociale, destabiliza societatea și reprezintă amenințări la adresa securității globale.
Cercetătorii de frunte în domeniul inteligenței artificiale, inclusiv câștigătorii Premiului Turing și laureații Nobel, îndeamnă companiile de inteligență artificială și guvernele să aloce cel puțin o treime din fondurile lor de cercetare și dezvoltare în domeniul inteligenței artificiale pentru a asigura utilizarea sigură și etică a sistemelor de inteligență artificială.
Într-o scrisoare comună lansat chiar înainte de summitul internațional pentru siguranța AI de la Londra, experții au subliniat măsuri pentru a aborda riscurile legate de IA. De asemenea, susțin ca guvernele să tragă la răspundere legal companiile pentru prejudiciile previzibile cauzate de sistemele lor avansate de inteligență artificială.
„Sistemele AI ar putea ajunge rapid să-i depășească pe oameni într-un număr tot mai mare de sarcini... Ele amenință să amplifice nedreptatea socială, să erodeze stabilitatea socială și să slăbească înțelegerea noastră comună a realității, care este fundamentală pentru societate”, figuri proeminente din domeniul AI, cum ar fi Geoffrey Hinton, Andrew Yao, Daniel Kahneman, Dawn Song și Yuval Noah Harari, au scris în scrisoare.
„Ar putea, de asemenea, să permită activități criminale sau teroriste pe scară largă. În special în mâinile câtorva actori puternici, inteligența artificială ar putea să cimenteze sau să exacerbeze inechitățile globale sau să faciliteze războiul automat, manipularea personalizată în masă și supravegherea generalizată.”
Acțiuni urgente necesare pentru dezvoltarea sigură și etică a IA
Urgența acestei pledoarii provine din convingerea că reglementările actuale nu reușesc să abordeze în mod adecvat progresul rapid al tehnologiei AI.
În dezvoltarea AI, experții recunosc nevoia presantă de a face față provocărilor complexe. Ei susțin că doar consolidarea capacităților AI nu va atinge obiectivul. Aceste provocări cuprind supravegherea și onestitatea, în care IA avansată poate exploata vulnerabilitățile de testare, precum și probleme legate de robustețe, interpretabilitate, evaluarea riscurilor și provocări emergente.
Viitoarele sisteme AI pot manifesta moduri de eșec neprevăzute, subliniind importanța ca marile companii tehnologice și finanțatorii publici să aloce o parte semnificativă din bugetul lor de cercetare și dezvoltare AI pentru a acorda prioritate siguranței și eticii alături de îmbunătățirea capabilităților AI.
Potrivit scrisorii, absența guvernării AI poate tenta companiile și națiunile să acorde prioritate capacităților față de siguranță sau să delege funcții societale importante sistemelor AI cu supraveghere umană limitată.
Pentru o reglementare eficientă, guvernele au nevoie urgent de perspective complete asupra dezvoltării AI. În plus, măsurile suplimentare sunt esențiale pentru sistemele AI foarte puternice, inclusiv acordarea de licențe pentru dezvoltarea acestora, opriri temporare ca răspuns la capabilități, controale de acces și securitate solidă a informațiilor.
În ciuda unor preocupări din partea companiilor AI cu privire la costurile de conformitate și riscurile de răspundere, susținătorii susțin că reglementările solide sunt esențiale pentru a atenua riscurile potențiale asociate cu dezvoltarea necontrolată a AI.
„AI poate fi tehnologia care modelează acest secol. În timp ce capabilitățile AI avansează rapid, progresele în materie de siguranță și guvernare sunt în urmă. Pentru a orienta AI spre rezultate pozitive și departe de catastrofă, trebuie să ne reorientăm. Există o cale responsabilă, dacă avem înțelepciunea să o luăm”, se încheie scrisoarea.
Citeşte mai mult:
- Ce caută liderii tehnologiei în inteligența artificială? Vizionarii tehnologiei împărtășesc perspective
- OpenAI: AI ar putea face mult rău oamenilor, dar încercarea de a opri progresul nu este o opțiune
- AI face tranziția către sisteme de operare, potrivit Sequoia
- Laureatul Nobel Paul Krugman spune că boom-ul cripto seamănă cu bula imobiliară
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Agne este o jurnalistă care acoperă cele mai recente tendințe și evoluții în metaverse, AI și Web3 industrii pentru Metaverse Post. Pasiunea ei pentru povestire a determinat-o să conducă numeroase interviuri cu experți în aceste domenii, căutând mereu să descopere povești interesante și captivante. Agne deține o diplomă de licență în literatură și are o experiență vastă în scris despre o gamă largă de subiecte, inclusiv călătorii, artă și cultură. De asemenea, s-a oferit voluntar ca editor pentru organizația pentru drepturile animalelor, unde a contribuit la creșterea gradului de conștientizare cu privire la problemele de bunăstare a animalelor. Contactează-o pe [e-mail protejat].
Mai multe articole
Agne este o jurnalistă care acoperă cele mai recente tendințe și evoluții în metaverse, AI și Web3 industrii pentru Metaverse Post. Pasiunea ei pentru povestire a determinat-o să conducă numeroase interviuri cu experți în aceste domenii, căutând mereu să descopere povești interesante și captivante. Agne deține o diplomă de licență în literatură și are o experiență vastă în scris despre o gamă largă de subiecte, inclusiv călătorii, artă și cultură. De asemenea, s-a oferit voluntar ca editor pentru organizația pentru drepturile animalelor, unde a contribuit la creșterea gradului de conștientizare cu privire la problemele de bunăstare a animalelor. Contactează-o pe [e-mail protejat].
