Buletin de stiri Tehnologia
December 15, 2023

OpenAIEchipa de Superalignment a lui dezvăluie o metodă inovatoare pentru supravegherea sistemului AI

Pe scurt

OpenAIEchipa de Superalignment a publicat noua lucrare de cercetare care promite o soluție potențială pentru supravegherea sistemelor AI foarte avansate.

OpenAI Echipa de Superalignment a introdus o nouă metodă de supraveghere avansată a sistemelor AI

Organizația de cercetare a inteligenței artificiale (AI). OpenAI'S Echipa de supraaliniere a publicat o nouă lucrare de cercetare care introduce conceptul de utilizare a modelelor AI mai mici pentru a le supraveghea pe cele mai avansate. Această abordare demonstrează rezultate impresionante, promițând o potențială simplificare a supravegherii sistemelor AI foarte avansate pentru oameni în viitor.

În învățarea automată convențională, oamenii supraveghează sistemele AI mai puțin inteligente decât ei înșiși. Cu toate acestea, cu IA superinteligentă, oamenii vor trebui să supravegheze sisteme mai inteligente decât ei înșiși.

În căutarea ghidării și controlului sistemelor AI superinteligente, cercetătorii au propus o metodă prin care un model AI mai puțin puternic ar putea supraveghea unul mai puternic.

OpenAI Echipa de Superalignment a introdus o nouă metodă de supraveghere avansată a sistemelor AI

În mod obișnuit, este puțin probabil ca un model puternic să depășească un supervizor slab, dar modelele puternice pre-antrenate posedă capacități excelente. Cercetătorii au aplicat această abordare prin supraveghere GPT-4 cu GPT-2-model de nivel. Modelul rezultat este de obicei realizat între GPT-3 și GPT-3.5, indicând că poate obține capacități AI puternice cu o supraveghere mai slabă.

În general, rezultatele sugerează că, deși supravegherea umană de bază ar putea să nu se adapteze bine la modele superinteligente, există modalități de a îmbunătăți semnificativ cât de bine învață aceste modele de la supraveghetori mai puțin capabili.

Cercetătorii cred că abordarea lor surprinde dificultăți esențiale în alinierea viitoarelor modele supraomenești, permițându-le să facă progrese.

Pe lângă anunțarea rezultatelor cercetării, OpenAI a încurajat studenții, cadrele universitare și alți cercetători să contribuie la domeniul larg al alinierii IA supraumane. Compania a lansat un program de granturi de 10 milioane de dolari axat pe această problemă.

OpenAI Progrese peisajul evolutiv al IA

În conformitate cu OpenAI, modelele AI superinteligente care depășesc capacitățile umane ar putea fi dezvoltate în următorul deceniu. Cu toate acestea, gestionarea și direcționarea acestor sisteme AI sofisticate reprezintă o provocare considerabilă pentru oameni. 

Metodele de aliniere existente, cum ar fi învățarea prin întărire din feedbackul uman (RLHF), depind de îndrumarea umană. Cu toate acestea, viitoarele sisteme AI vor fi capabile de comportamente extrem de complexe și creative, care vor face dificilă supravegherea fiabilă pentru oameni. Astfel, compania explorează în mod activ soluții inovatoare pentru a aborda peisajul evolutiv al dezvoltării AI. 

Recent, OpenAI pretins anunţat lansarea celei mai recente dezvoltări a companiei – the GPT-4.5 model. Presupusa captură de ecran a sugerat capabilități avansate care cuprind limbaj, audio, viziune, video, 3D, raționament complex și înțelegere între modele. Cu toate acestea, Sam Altman, fondatorul OpenAI, a negat zvonurile.

Declinare a responsabilităţii

În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.

Despre autor

Alisa, o jurnalistă dedicată la MPost, este specializată în criptomonede, dovezi fără cunoștințe, investiții și tărâmul expansiv al Web3. Cu un ochi aprofundat pentru tendințele și tehnologiile emergente, ea oferă o acoperire cuprinzătoare pentru a informa și a implica cititorii în peisajul în continuă evoluție al finanțelor digitale.

Mai multe articole
Alisa Davidson
Alisa Davidson

Alisa, o jurnalistă dedicată la MPost, este specializată în criptomonede, dovezi fără cunoștințe, investiții și tărâmul expansiv al Web3. Cu un ochi aprofundat pentru tendințele și tehnologiile emergente, ea oferă o acoperire cuprinzătoare pentru a informa și a implica cititorii în peisajul în continuă evoluție al finanțelor digitale.

Hot Stories
Alăturați-vă Newsletter-ului nostru.
Ultimele ştiri

De la Ripple la Big Green DAO: Cum contribuie proiectele de criptomonede la caritate

Să explorăm inițiativele care valorifică potențialul monedelor digitale pentru cauze caritabile.

Aflați mai multe

AlphaFold 3, Med-Gemini și alții: modul în care AI transformă asistența medicală în 2024

Inteligența artificială se manifestă în diferite moduri în asistența medicală, de la descoperirea de noi corelații genetice până la abilitarea sistemelor chirurgicale robotizate...

Aflați mai multe
Alăturați-vă comunității noastre tehnologice inovatoare
Citeste mai mult
Află mai multe
Crypto Exchange Jupiter va introduce Jupiter Swap V3, Dynamic Slippage, printre alte actualizări cheie în săptămânile următoare
pieţe Buletin de stiri Tehnologia
Crypto Exchange Jupiter va introduce Jupiter Swap V3, Dynamic Slippage, printre alte actualizări cheie în săptămânile următoare
14 Iunie, 2024
Polygon își lansează centrul de guvernare, oferind o interfață transparentă unificată pentru guvernarea comunității
Buletin de stiri Tehnologia
Polygon își lansează centrul de guvernare, oferind o interfață transparentă unificată pentru guvernarea comunității 
14 Iunie, 2024
Binance înregistrează peste 30 de milioane de utilizatori noi în 2024, activele clienților depășesc pragul de 100 de miliarde de dolari
pieţe Buletin de stiri Tehnologia
Binance înregistrează peste 30 de milioane de utilizatori noi în 2024, activele clienților depășesc pragul de 100 de miliarde de dolari
14 Iunie, 2024
Amazon sprijină startup-urile generative AI cu investiții de 230 de milioane de dolari, alocă 80 de milioane de dolari celui de-al doilea program AWS Generative AI Accelerator
Afaceri Buletin de stiri Tehnologia
Amazon sprijină startup-urile generative AI cu investiții de 230 de milioane de dolari, alocă 80 de milioane de dolari celui de-al doilea program AWS Generative AI Accelerator
14 Iunie, 2024
CRYPTOMERIA LABS PTE. LTD.