Rossas Andersonas aptaria AI modelio žlugimą kaip augančią internetinio turinio problemą
Trumpai
Rossas Andersonas įspėja apie galimą pavojų, susijusį su būsimų didelių kalbų modelių kartų intelektualiniu nuosmukiu.LLM), kurie tapo pagrindiniu įrankiu redaguoti ir kurti naujus tekstus.
Modelio žlugimo galima išvengti suprantant ir sumažinant su juo susijusią riziką generatyvinis AI.
Vos per šešis mėnesius generatyvusis AI padarė didelę pažangą ir patraukė pasaulio dėmesį. ChatGPT, ryškus šios technologijos pavyzdys, greitai išpopuliarėjo ir plačiai paplito. Tačiau žinomas ekspertas Rossas Andersonas perspėja apie galimą riziką siejamas su ateities modelių kartų intelektualiniu nuosmukiu.
Rossas Andersonas yra saugos inžinerijos pradininkas ir pirmaujanti institucija, ieškanti saugumo sistemų ir algoritmų pažeidžiamumo. Būdamas Karališkosios inžinerijos akademijos nariu ir Kembridžo universiteto profesoriumi, jis daug prisidėjo prie informacijos saugumo srities, formuodamas grėsmių modelius įvairiuose sektoriuose.
Dabar Andersonas kelia nerimą dėl pasaulinės grėsmės žmonijai –didelių kalbų modelių (LLM) žlugimas. Dar visai neseniai didžioji dalis internete esančio teksto buvo sukurta žmonių. LLM dabar tapo pagrindiniu įrankiu redaguoti ir kurti naujus tekstus, pakeičiančius žmogaus sukurtą turinį.
Šis pokytis kelia svarbių klausimų: kur nuves ši tendencija ir kas nutiks, kai internete dominuos LLM? Pasekmės neapsiriboja vien tik tekstu. Pavyzdžiui, jei a muzikinis modelis mokomas su Mocarto kompozicijomis, vėlesnės kartos gali trūkti originalo blizgesio ir duoti prastesnių rezultatų, panašių į miuziklą „Salieri“. Su kiekviena sekančia karta didėja kokybės ir intelekto prastėjimo rizika.
Ši koncepcija gali priminti filmą „Daugybė“, kuriame vaidina Michaelas Keatonas, kur klonavimas lemia intelekto nuosmukį ir kiekvieno sekančio klono kvailumo didėjimą.
Tas pats reiškinys gali atsirasti ir su LLM. Modelio mokymas naudojant modelio sukurtą turinį sukelia negrįžtamus defektus ir teksto kokybės pablogėjimą per kelias kartas. Pradinis turinio paskirstymas tampa iškraipytas, todėl atsiranda beprasmės informacijos antplūdis. Gauso skirstiniai susilieja, o kraštutiniais atvejais tekstas gali tapti beprasmis. Vėlesnės kartos gali net klaidingai suvokti tikrovę, remdamosi savo pirmtakų padarytomis klaidomis. Šis reiškinys žinomas kaip „modelio žlugimas“.
Modelio žlugimo pasekmės yra reikšmingos:
✔️ Internetas vis labiau prisipildo nesąmoningo turinio.
✔️ Asmenys, vartojantys šį turinį, gali netyčia tapti mažiau informuoti ir prarasti intelektualinius gebėjimus.
Laimei, yra vilties. Andersonas teigia, kad modelio žlugimo galima išvengti, o tai suteikia optimizmo žvilgesiui tarp nerimo. Jei norite sužinoti daugiau apie galimus sprendimus ir kaip išvengti internetinės informacijos kokybės pablogėjimo, raginame tyrinėti toliau.
Nors generatyvus AI žada, labai svarbu išlikti budriems ir spręsti jo keliamus iššūkius. Suprasdami ir sumažindami riziką, susijusią su modelio žlugimu, galime stengtis pasinaudoti šios technologijos pranašumais, kartu išsaugodami informacijos internete vientisumą.
Skaitykite daugiau apie AI:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
