Afaceri Buletin de stiri
Octombrie 25, 2023

Antropic, Google, Microsoft și OpenAI Numiți director executiv pentru Frontier Model Forum și dezvăluie un fond de siguranță AI de 10 milioane USD

Pe scurt

Antropic, Google, Microsoft și OpenAI l-am prezentat pe Chris Meserole ca director executiv inaugural al Frontier Model Forum.

Simultan, au anunțat un fond substanțial pentru siguranță AI, cu finanțare de peste 10 milioane de dolari.

Antropic, Google, Microsoft și OpenAI Numiți director executiv pentru Frontier Model Forum și dezvăluie un fond de siguranță AI de 10 milioane USD

Antropic, Google, Microsoft și OpenAI avea numit Chris Meserole în calitate de director executiv inaugural al Frontier Model Forum. Consorțiul din industrie este dedicat promovării progresiei sigure și etice a modelelor de IA de ultimă oră la nivel global. Simultan, Forum a introdus un Fond de siguranță AI de peste 10 milioane USD. Obiectivul fondului este de a promova progrese în cercetarea în domeniul siguranței AI.

Director Executiv Chris Meserole aduce un fundal extins în politica tehnologiei și guvernarea tehnologiilor emergente. Înainte de numirea sa, a ocupat funcția de director al Inițiativei de Inteligență Artificială și Tehnologie Emergentă la Brookings Institution. În noua sa capacitate, Meserole va conduce eforturile de a promova cercetarea în domeniul siguranței AI, va identifica cele mai bune practici pentru dezvoltarea securizată a modelelor AI, va disemina cunoștințele părților interesate și va sprijini inițiativele care valorifică AI pentru a aborda provocările societale.

„Cele mai puternice modele AI sunt promițătoare pentru societate, dar pentru a le realiza potențialul, trebuie să înțelegem mai bine cum să le dezvoltăm și să le evaluăm în siguranță. Sunt încântat să accept această provocare cu Frontier Model Forum,”

spuse Meserole.

Fondul pentru Siguranța AI a apărut ca răspuns la progresul rapid al capabilităților AI în ultimul an, necesitând cercetări academice suplimentare în domeniul siguranței AI. Acest fond, o colaborare între Frontier Model Forum și partenerii filantropici, va oferi sprijin cercetătorilor independenți din întreaga lume afiliați cu instituții academice, organizații de cercetare și startup-uri. 

Principalii contribuitori la această inițiativă sunt Anthropic, Google, Microsoft și OpenAI, împreună cu organizații filantropice precum Fundația Patrick J. McGovern, Fundația David și Lucile Packard, Eric Schmidt și Jaan Tallinn. Contribuțiile lor combinate depășesc 10 milioane de dolari, cu anticiparea unor donații suplimentare de la alți parteneri.

La începutul acestui an, membrii Forumului și-au promis angajamente voluntare la Casa Albă, inclusiv să permită descoperirea și raportarea de către terți a vulnerabilităților în sistemele lor AI. Fondul pentru Siguranță AI se aliniază acestui angajament oferind comunităților externe finanțare pentru a controla sistemele AI de frontieră. O diversitate de voci și perspective va îmbogăți discursul global privind siguranța AI și va extinde baza generală de cunoștințe AI.

Creșterea siguranței și colaborării AI

Fondul pentru Siguranța AI se concentrează în primul rând pe consolidarea dezvoltării de noi tehnici de evaluare și abordări de echipă roșie pentru modelele AI, cu scopul de a descoperi potențiale pericole. Red Teaming-ul este un proces structurat de examinare a sistemelor AI pentru a identifica capabilitățile dăunătoare, rezultatele sau amenințările infrastructurale. O finanțare sporită în acest domeniu ar putea ridica standardele de siguranță și securitate și ar putea oferi informații valoroase pentru atenuarea provocărilor generate de sistemele AI.

În plus, Fondul va căuta în curând propuneri de cercetare și va fi gestionat de Institutul Meridian cu sfatul unui comitet consultativ, care include experți independenți, profesioniști în IA și experți în acordarea de granturi.

Un proces responsabil de dezvăluire este în desfășurare, permițând laboratoarelor Frontier AI să partajeze informații despre vulnerabilități și capabilități periculoase din modelele frontier AI, împreună cu soluțiile lor. Unele companii din Forum au identificat deja astfel de probleme în contextul securității naționale, servind drept studii de caz pentru ghidarea altor laboratoare în implementarea procedurilor de dezvăluire responsabilă.

Privind în perspectivă, Frontier Model Forum intenționează să înființeze un Consiliu consultativ în următoarele luni, însărcinat să-și conducă prioritățile strategice și să reprezinte diverse expertize și perspective. Forumul va lansa în mod regulat actualizări, inclusiv adăugarea de noi membri. Simultan, AI Safety Fund va lansa prima sa cerere de propuneri, cu granturi acordate la scurt timp după aceea. În plus, Forumul va continua să elibereze constatări tehnice pe măsură ce acestea devin disponibile.

Scopul general al forumului este de a colabora cu Chris Meserole și de a extinde angajamentul cu comunitatea de cercetare mai largă. Aceasta include parteneriate cu organizații precum Parteneriatul pentru AI, MLCommons și alte ONG-uri de top, entități guvernamentale și organizații multinaționale. Împreună, își propun să valorifice potențialul AI, asigurând în același timp dezvoltarea și utilizarea ei sigure și etice.

Related: 5 perspective cheie despre viitorul AI și LLM de la Dario Amodei, CEO al Anthropic

Declinare a responsabilităţii

În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.

Despre autor

Agne este o jurnalistă care acoperă cele mai recente tendințe și evoluții în metaverse, AI și Web3 industrii pentru Metaverse Post. Pasiunea ei pentru povestire a determinat-o să conducă numeroase interviuri cu experți în aceste domenii, căutând mereu să descopere povești interesante și captivante. Agne deține o diplomă de licență în literatură și are o experiență vastă în scris despre o gamă largă de subiecte, inclusiv călătorii, artă și cultură. De asemenea, s-a oferit voluntar ca editor pentru organizația pentru drepturile animalelor, unde a contribuit la creșterea gradului de conștientizare cu privire la problemele de bunăstare a animalelor. Contactează-o pe [e-mail protejat].

Mai multe articole
Agne Cimerman
Agne Cimerman

Agne este o jurnalistă care acoperă cele mai recente tendințe și evoluții în metaverse, AI și Web3 industrii pentru Metaverse Post. Pasiunea ei pentru povestire a determinat-o să conducă numeroase interviuri cu experți în aceste domenii, căutând mereu să descopere povești interesante și captivante. Agne deține o diplomă de licență în literatură și are o experiență vastă în scris despre o gamă largă de subiecte, inclusiv călătorii, artă și cultură. De asemenea, s-a oferit voluntar ca editor pentru organizația pentru drepturile animalelor, unde a contribuit la creșterea gradului de conștientizare cu privire la problemele de bunăstare a animalelor. Contactează-o pe [e-mail protejat].

Hot Stories
Alăturați-vă Newsletter-ului nostru.
Ultimele ştiri

De la Ripple la Big Green DAO: Cum contribuie proiectele de criptomonede la caritate

Să explorăm inițiativele care valorifică potențialul monedelor digitale pentru cauze caritabile.

Aflați mai multe

AlphaFold 3, Med-Gemini și alții: modul în care AI transformă asistența medicală în 2024

Inteligența artificială se manifestă în diferite moduri în asistența medicală, de la descoperirea de noi corelații genetice până la abilitarea sistemelor chirurgicale robotizate...

Aflați mai multe
Alăturați-vă comunității noastre tehnologice inovatoare
Citeste mai mult
Află mai multe
Sarah Grace de la zkLink explorează sinergia dintre ZK Proofs și rețelele DePIN
Interviu Afaceri Stil de viață pieţe Software Tehnologia
Sarah Grace de la zkLink explorează sinergia dintre ZK Proofs și rețelele DePIN
Iulie 17, 2024
Saga deschide seiful trei pentru a stimula deținătorii și stakerii de jetoane SAGA
Buletin de stiri Tehnologia
Saga deschide seiful trei pentru a stimula deținătorii și stakerii de jetoane SAGA
Iulie 17, 2024
Maelstrom lansează programul de granturi Bitcoin pentru a sprijini dezvoltatorii cu până la 150,000 USD
Buletin de stiri Software Tehnologia
Maelstrom lansează programul de granturi Bitcoin pentru a sprijini dezvoltatorii cu până la 150,000 USD
Iulie 17, 2024
Fundația Sui dezvăluie prima cerere pentru beneficiarii de granturi din programul de propuneri
Buletin de stiri Tehnologia
Fundația Sui dezvăluie prima cerere pentru beneficiarii de granturi din programul de propuneri
Iulie 17, 2024
CRYPTOMERIA LABS PTE. LTD.