OpenAI Crește alarma cu privire la potențialul superinteligenței și al inteligenței artificiale de a depăși capacitățile umane în următorul deceniu
Pe scurt
OpenAI emite un apel pentru reglementarea superinteliiajului, subliniind nevoia de guvernare în lumina progreselor rapide ale AI.
Se estimează că sistemele AI vor depăși expertiza umană și productivitatea corporativă într-un deceniu, conform OpenAI.
OpenAI subliniază importanța supravegherii publice și a controlului democratic pentru sistemele AI puternice.
OpenAI, creatorul lui ChatGPT, a făcut un apel de gândire pentru regulament de superinteligență, făcând paralele cu reglementarea energiei nucleare. Într-un recent blog, OpenAI a subliniat potențialele implicații ale progreselor rapide ale IA și a subliniat nevoia presantă de guvernare în acest peisaj în evoluție. Compania a declarat că sistemele AI vor depăși experții și cele mai mari corporații în productivitate și competențe în decurs de zece ani.
„Trebuie să atenuăm și riscurile tehnologiei AI de astăzi, dar superintelligence va necesita un tratament și o coordonare speciale”, a spus Sam Altman, Greg Brockman și Ilya Sutskever de la OpenAI accentuat.
Superinteligența descrie o entitate care depășește inteligența umană generală sau unele aspecte specifice ale inteligenței. Potrivit autorilor, superinteligența AI va avea un nivel de putere inegalabil, cuprinzând atât aspecte pozitive, cât și negative.
Dezvoltarea și riscurile superinteligenței inevitabile
OpenAI a identificat trei idei importante care joacă un rol esențial în navigarea în dezvoltarea cu succes a superinteligenței. Acestea includ coordonarea între eforturile de dezvoltare de top, înființarea unei autorități internaționale asemănătoare cu Agenția Internațională pentru Energie Atomică (AIEA) și dezvoltarea capacităților tehnice pentru siguranță.
In timp ce OpenAI recunoaște că sistemele AI prezintă riscuri, aceste riscuri sunt comparabile cu cele asociate cu alte tehnologii legate de internet. Altman, Brockman și Sutskever își exprimă, de asemenea, încrederea că abordările actuale ale societății pentru gestionarea acestor riscuri sunt adecvate. Cu toate acestea, principala preocupare este legată de sistemele viitoare care vor avea o putere fără precedent.
„Dimpotrivă, sistemele de care suntem îngrijorați vor avea o putere dincolo de orice tehnologie creată până acum și ar trebui să avem grijă să nu reducem atenția asupra lor prin aplicarea unor standarde similare tehnologiei mult sub această bară”, se arată în postarea blogului.
Autorii susțin că sistemele AI puternice au nevoie de supraveghere publică și control democratic. Ei explică, de asemenea, de ce construiesc această tehnologie la OpenAI: pentru a crea o lume mai bună și pentru a evita riscurile de a o opri. AI ajută în diverse domenii, inclusiv educație, creativitate și productivitate, precum și creșterea economică generală.
OpenAI crede că este dificil și riscant opriți superinteligența de la a fi creat. Superintelligence are beneficii considerabile, devine mai ieftină în fiecare an, mai mulți oameni lucrează la ea și face parte din calea tehnologică a companiei.
Ilman Shazhaev, techpreneur în AI și co-fondator al Farcana Labs, a împărtășit câteva comentarii cu privire la știri. Proiecțiile indică faptul că, dacă nu este gestionată corespunzător, superinteligența poate fi una dintre cele mai distructive invenții ale omului din toate timpurile. Cu toate acestea, discuțiile despre implementarea tehnologiei rămân divizoare, deoarece aceasta nu a fost încă dezvoltată. Împingerea pentru oprirea dezvoltării bazată pe frica de predicții poate priva omenirea de oportunitățile pe care noua tehnologie le-ar putea avea rezervate.
OpenAIabordarea de guvernanță descentralizată a lui poate ajuta la menținerea siguranței sale generale. Cu reglementările corecte, programul ar putea fi oprit în cazul în care acesta este reprezintă o amenințare. Dacă aceste garanții ar fi puse în aplicare, atunci Superintelligence ar putea fi o inovație care merită explorată”, a spus Shazhaev.
Discută în mod deschis opiniile sale cu privire la superintelligence AI și măsurile de reglementare propuse, OpenAI pare să favorizeze discuții informate și să invite perspective diverse.
Sam Altman crede cu tărie în disponibilitatea IA pe scară largă pentru public. Recunoscând că este imposibil să anticipăm toate problemele în avans, el pledează pentru abordarea problemelor cât mai devreme posibil. Cu toate acestea, Altman subliniază, de asemenea, importanța auditurilor independente pentru sisteme precum ChatGPT înainte de eliberare. El recunoaște, de asemenea, posibilitatea de a implementa măsuri precum limitarea ritmului creării de noi modele sau înființarea unui comitet pentru să evalueze siguranța modelelor AI înainte de lansarea pe piață. În special, Altman prezice că cantitatea de inteligență din univers se va dubla la fiecare 18 luni.
Citeşte mai mult:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Agne este o jurnalistă care acoperă cele mai recente tendințe și evoluții în metaverse, AI și Web3 industrii pentru Metaverse Post. Pasiunea ei pentru povestire a determinat-o să conducă numeroase interviuri cu experți în aceste domenii, căutând mereu să descopere povești interesante și captivante. Agne deține o diplomă de licență în literatură și are o experiență vastă în scris despre o gamă largă de subiecte, inclusiv călătorii, artă și cultură. De asemenea, s-a oferit voluntar ca editor pentru organizația pentru drepturile animalelor, unde a contribuit la creșterea gradului de conștientizare cu privire la problemele de bunăstare a animalelor. Contactează-o pe [e-mail protejat].
Mai multe articole
Agne este o jurnalistă care acoperă cele mai recente tendințe și evoluții în metaverse, AI și Web3 industrii pentru Metaverse Post. Pasiunea ei pentru povestire a determinat-o să conducă numeroase interviuri cu experți în aceste domenii, căutând mereu să descopere povești interesante și captivante. Agne deține o diplomă de licență în literatură și are o experiență vastă în scris despre o gamă largă de subiecte, inclusiv călătorii, artă și cultură. De asemenea, s-a oferit voluntar ca editor pentru organizația pentru drepturile animalelor, unde a contribuit la creșterea gradului de conștientizare cu privire la problemele de bunăstare a animalelor. Contactează-o pe [e-mail protejat].
