Războiul Rece al IA a început, dar oare nu înțelegem esențialul?
Pe scurt
Emergentul „Război Rece al IA”, evidențiat de presupusele atacuri de distilare asupra lui Claude LLM de la Anthropic, subliniază riscurile tot mai mari la adresa proprietății intelectuale, a securității naționale și a implementării etice a IA, provocând în același timp dezbateri privind dezvoltarea descentralizată versus cea izolată a IA.
Era inevitabil să se întâmple. Dar chiar și așa, valurile inițiale ale „Războiului Rece al IA” emergent sunt încă tulburătoare, punând sub semnul întrebării protecțiile pe care le au companiile, capacitatea noastră de a proteja în mod fiabil proprietatea intelectuală de actorii răi și modul în care acest război rece ar putea escalada. Mai mult decât orice, însă, ar trebui să declanșeze o conversație despre cum prețuim IA, ce probleme dorim să rezolve și cine ar trebui, în cele din urmă, să dețină controlul asupra celui mai mare potențial de schimbare a regulilor jocului din lume.
Războiul Rece în acțiune
Deci, ce s-a întâmplat exact? Conform diverselor RapoarteAnthropic AI a dezvăluit public că s-a aflat în centrul unei acțiuni invazive susținute de către trei laboratoare chineze de inteligență artificială - DeepSeek, Moonshot AI și MiniMax. În loc să pirateze direct centrul de date Anthropic, aceste laboratoare ar fi creat hoarde de roboți inteligenți care l-au folosit, în esență, pe Claude LLM de la Anthropic pentru a extrage informații pe care le puteau folosi apoi pentru a-și îmbunătăți propriile modele.
Mai precis, valurile de atacuri au folosit o formă de spionaj numită „distilare”. În esență, aceasta se întâmplă atunci când un cont poate adresa unui LLM precum Claude multe întrebări diferite și specifice, apoi poate folosi răspunsurile pentru a înțelege mai bine cum funcționează modelul AI. Acest lucru permite răufăcătorului să își actualizeze propriile modele cu această nouă perspectivă. În cazul acestor atacuri recente, Anthropic a declarat că atacul a fost masiv, acoperind peste 16 milioane de schimburi între peste 24,000 de conturi și Claude, înregistrând rezultatele și dezvoltând perspective cheie asupra modului în care modelul gândește și se comportă. Conform... Anunțul lui Anthropic, au fost implicate trei firme chineze. Folosind conturi frauduloase mascate în servicii proxy, scopul aparent al firmelor era de a obține cât mai multe cunoștințe intelectuale despre Claude, în special în domeniile în care modelul de inteligență artificială este cel mai puternic. DeepSeek a vizat domenii precum capacitățile de raționament, sarcinile de notare în stil rubrică și o mai bună înțelegere a modului de a evita cenzura pe subiecte sensibile din punct de vedere politic/social. Moonshot AI s-a concentrat pe raționamentul agentic, codare și procesele de viziune computerizată. MiniMax a vizat codarea agentică a lui Claude, împreună cu utilizarea instrumentelor de către agenții de inteligență artificială.
Ca să fie clar, companiilor chineze le este deja interzis să utilizeze Claude din cauza unei varietăți de riscuri (distilarea fiind unul dintre acestea). Companiile au folosit proxy-uri care operau mii de conturi de boți amestecate cu solicitări de conturi valide, ceea ce a făcut mai dificilă detectarea numeroaselor conturi de boți și aproape imposibilă închiderea tuturor, deoarece nu aveau o sursă comună evidentă. Acest eșec ar fi trebuit să fie o primă linie puternică de apărare, dar în schimb a fost ușor de evitat. Deși Claude a anunțat contramăsuri la acest tip de atac, eficacitatea lor este departe de a fi dovedită în acest moment.
Ce înseamnă asta pentru IA?
Ironia este că aceste firme nu l-au atacat direct pe Claude. În schimb, au creat un număr mare de roboți pentru a-l utiliza eficient pe Claude în moduri specifice. Într-un fel, acești roboți au jucat „20 de întrebări” cu Claude, dar în loc să ghicească răspunsul corect, fiecare răspuns dat de Claude oferea din ce în ce mai multe informații despre modul în care acesta gândește.
Fie că a implicat spargerea unui firewall sau crearea de roboți care să interacționeze cu Claude așa cum a fost intenționat, rezultatul a fost un furt intelectual. În diversele cazuri, firmele vinovate au reușit probabil să afle multe despre Claude ca model de inteligență artificială incredibil de complex. Acest lucru ar putea oferi unui concurent suficiente informații pentru a-și construi propriul model, evitând în același timp sarcinile enorme de a găsi, organiza și stoca datele necesare pentru antrenarea modelului. În schimb, se presupune că aceste firme au obținut proprietatea intelectuală fără a face nicio muncă reală.
Însă riscurile depășesc cu mult furtul de proprietate intelectuală. Modelele distilate s-ar putea comporta ca modele antrenate corespunzător de cele mai multe ori, însă antrenamentul necorespunzătoare creează unele lacune majore în raționamentul și utilizarea instrumentelor unui model distilat. Acesta poate fi construit fără garanțiile necesare, ceea ce ar putea dezvălui informații sensibile, dar ar putea oferi și informații periculoase utilizatorilor, rezultând în prejudicii acestora. În plus, înțelegerea modului în care funcționează un model precum Claude ar putea crea riscuri de securitate națională, deoarece actorul rău intenționat ar putea, eventual, să îi furnizeze date de antrenament în așa fel încât modelul să se comporte într-un mod previzibil, permițându-i actorului rău intenționat să manipuleze rezultatele modelului. Având în vedere că Anthropic și alți giganți ai inteligenței artificiale discută acorduri cu Departamentul Apărării, acest lucru are implicații îngrijorătoare.
Deși Anthropic a anunțat că a învățat din acest lucru, Războiul Rece pentru IA a început și nu poate decât să escaladeze. Actorii rău intenționați vor găsi o modalitate de a ocoli contramăsurile lor, Anthropic va răspunde, iar cursa înarmărilor va continua. În cele din urmă, acest lucru creează vulnerabilități în companiile de IA care investesc corect în modele de instruire, dar descurajează și investițiile majore necesare în acest sens dacă o companie rivală poate interveni și descifra proprietatea intelectuală fără a investi timp sau bani.
Poate fi oprit? Ar trebui?
Având în vedere natura acestor tipuri de escaladări, acest lucru va deveni probabil realitate în competiția globală în domeniul inteligenței artificiale. Acestea fiind spuse, există argumente pentru evitarea completă a războiului rece al inteligenței artificiale. Giganții IA ai lumii se concentrează pe protejarea muncii lor și pe paza atentă a oricărui tip de proprietate intelectuală. Acest lucru plasează în mod natural o putere masivă în jurul gâtului câtorva, generând un dezechilibru masiv în dinamica puterii globale.
O alianță tot mai mare a jucătorilor din domeniul inteligenței artificiale, numită Alianța ASI, au sugerat că, în loc să construiască compartimente izolate de proprietate intelectuală (PI), lumea ar putea construi o inteligență artificială (IA) și mai puternică prin utilizarea unei IA deschise și descentralizate. Alianța ASI lucrează pentru a promova dezvoltarea IA descentralizată, bazându-se pe date, analize și instrumente (cum ar fi LLM-uri și cadre de agenți orientate spre dezvoltatori), susținând că IA este o tehnologie menită să aibă cel mai mare succes dacă capabilitățile sale sunt disponibile tuturor. Aceasta contrazice protecționismul PI, dar evită dorința companiilor de a găsi modalități de a fura modele, date și inovații. Chiar și o industrie precum IA, dacă ar fi descentralizată și disponibilă tuturor, ar crea un mediu foarte fertil pentru inovația în domeniul protecției și investițiile care pot fi efectiv protejate.
Gânduri finale
Înainte ca Războiul Rece al Inteligenței Artificiale să continue să se intensifice, ar trebui să ne gândim nu cum să consolidăm protecția propriei noastre proprietăți intelectuale, ci mai degrabă cum să evităm nevoia de inovații izolate. Inteligența artificială descentralizată ar putea deveni viitorul, deoarece proprietatea intelectuală izolată a inteligenței artificiale se confruntă cu numeroase amenințări noi, creând o bază stabilă pentru ca inteligența artificială să fie apoi dezvoltată, partajată și generând fluxuri de venituri într-un mod crucial diferit.
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Gregory, un nomad digital originar din Polonia, nu este doar un analist financiar, ci și un colaborator valoros la diverse reviste online. Cu o bogată experiență în industria financiară, cunoștințele și expertiza lui i-au adus recunoașterea în numeroase publicații. Folosindu-și timpul liber în mod eficient, Gregory este în prezent dedicat scrierii unei cărți despre criptomonede și blockchain.
Mai multe articole
Gregory, un nomad digital originar din Polonia, nu este doar un analist financiar, ci și un colaborator valoros la diverse reviste online. Cu o bogată experiență în industria financiară, cunoștințele și expertiza lui i-au adus recunoașterea în numeroase publicații. Folosindu-și timpul liber în mod eficient, Gregory este în prezent dedicat scrierii unei cărți despre criptomonede și blockchain.
