OpenAI: AI ar putea face mult rău oamenilor, dar încercarea de a opri progresul nu este o opțiune
Pe scurt
OpenAIDocumentul „Planificare pentru AGI și dincolo” sugerează o introducere treptată, lentă a modelelor mai complexe și „inteligente”, organizarea de audituri independente ale sistemelor mari și limitarea resurselor de calcul.
OpenAI vrea ca inteligența artificială să fie deschisă tuturor în mod egal și să creeze mai consecvente și modele gestionabile pentru a reduce părtinirea și comportamentul nedorit.
OpenAI a publicat recent un document intitulat „Planificare pentru AGI și dincolo”. Acesta prezintă ideile generale care ghidează acțiunile companiei pe măsură ce lumea se apropie de dezvoltarea AGI (inteligența generală artificială).
OpenAI with consideră că, deși AI are potențialul de a provoca un rău semnificativ oamenilor, încercarea de a opri progresul nu este o opțiune. Ca urmare, trebuie să învățăm cum să menținem această îmbunătățire, astfel încât să nu se deterioreze semnificativ.
Documentul poate fi găsit aici. Să evidențiem câteva elemente esențiale din acesta:
- OpenAI dorește ca AGI să ajute oamenii să prospere în toate aspectele vieții lor, atât economic, cât și științific.
În loc să creezi o IA mare super-cool și să o lansezi imediat în lume, OpenAI va introduce treptat modele mai complicate și „inteligente”. Presupunerea este că creșterea treptată a capacităților AI nu va șoca lumea, oferind oamenilor timp să se adapteze, să adapteze economia și să construiască proceduri pentru interacțiunea cu AI. - OpenAI invită toate organizațiile să adopte în mod oficial principiul menționat mai sus (dezvoltare treptat de IA puternică). Altman recomandă, de asemenea, limitarea cantității de resurse de calcul care pot fi utilizate pentru a antrena modele și stabilirea de audituri imparțiale ale sistemelor majore înainte ca acestea să fie puse la dispoziția publicului larg. În loc să te implici în competiții precum „cine va fi primul care va lansa un model mai cool și mai mare?” OpenAI cere întreprinderilor să lucram impreuna pentru a îmbunătăți siguranța AI.
- OpenAI consideră că este esențial ca guvernele să fie informate cu privire la cursele de antrenament care depășesc o anumită scară. Acesta este un concept intrigant și am dori să aflăm mai multe despre Planurile OpenAI are în acest sens. Această propunere nu mi se pare deloc grozavă la început.
- OpenAI va încerca să dezvolte modele care sunt mai de încredere și mai controlabile, cel mai probabil să limiteze părtinirea și comportamentul nefavorabil în IA. Abordarea luată de OpenAI în acest caz, este de a pune modelul la dispoziția publicului larg într-o formă foarte restrânsă, oferind și utilizatorilor opțiunea de a-l personaliza. Deoarece consumatorii nu vor putea „personaliza” nimic acolo, nu sunt sigur cum acest lucru va ajuta modelul în ansamblu să devină mai puțin părtinitor. Cu excepția cazului în care absolvă firma de răspundere pentru acțiunile modelului.
În general, documentul arată în modul corect. Cu toate acestea, a existat un conflict minor între „nu vom arăta imediat publicului modele cool, dar vom vorbi despre ele statelor” și „Oamenii ar trebui să știe despre progresul AI.” Pe scurt, vom aștepta clarificări detaliate de la OpenAI pe toate subiectele.
Citiți mai multe despre AI:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
