Ross Anderson arutab AI mudeli kokkuvarisemist kui veebisisu kasvavat probleemi
Põgusalt
Ross Anderson hoiatab võimalike riskide eest, mis on seotud suurte keelemudelite tulevaste põlvkondade intellektuaalse allakäiguga (LLM-id), millest on saanud peamine tööriist uute tekstide toimetamisel ja loomisel.
Mudeli kokkuvarisemist saab vältida, kui mõista ja maandada sellega seotud riske generatiivne AI.
Vaid kuue kuuga on generatiivne AI teinud olulisi edusamme, püüdes kogu maailma tähelepanu. ChatGPT, selle tehnoloogia silmapaistev näide, saavutas kiiresti populaarsuse ja laialdase kasutuse. Tuntud ekspert Ross Anderson hoiatab aga selle eest võimalikud riskid seotud tulevaste modellide põlvkondade intellektuaalse allakäiguga.
Ross Anderson on ohutustehnika pioneer ja juhtiv asutus turvasüsteemide ja -algoritmide haavatavuste leidmisel. Kuningliku tehnikaakadeemia stipendiaadina ja Cambridge'i ülikooli professorina on ta panustanud palju infoturbe valdkonda, kujundades ohumudeleid erinevates sektorites.
Nüüd tõstab Anderson häire inimkonda ähvardava ülemaailmse ohu pärast –suurte keelemudelite (LLM) kokkuvarisemine. Kuni viimase ajani oli enamik Internetis leiduvast tekstist inimeste loodud. LLM-idest on nüüdseks saanud peamine tööriist uute tekstide redigeerimiseks ja loomiseks, asendades inimese loodud sisu.
See nihe tõstatab olulisi küsimusi: kuhu see suundumus viib ja mis juhtub, kui LLM-id domineerivad Internetis? Mõju ulatub kaugemale kui ainult tekst. Näiteks kui a muusikaline mudel on koolitatud Mozarti kompositsioonidega, siis võib järgmistel põlvkondadel puududa originaali sära ja need annavad kehvemaid tulemusi, mis on võrreldavad muusikaliga "Salieri". Iga järgmise põlvkonnaga suureneb kvaliteedi ja intelligentsuse languse oht.
See kontseptsioon võib teile meelde tuletada filmi "Mitmekordsus”, mille peaosas on Michael Keaton, kus kloonimine toob kaasa intelligentsuse languse ja iga järgneva klooni rumaluse suurenemise.
Sama nähtus võib ilmneda ka LLM-ide puhul. Mudeli väljaõpetamine mudeli loodud sisuga põhjustab pöördumatuid defekte ja teksti kvaliteedi halvenemist põlvkondade jooksul. Sisu algne jaotus moondub, mille tulemuseks on mõttetu teabe sissevool. Gaussi jaotused lähenevad ja äärmuslikel juhtudel võib tekst muutuda mõttetuks. Järgmised põlvkonnad võivad eelkäijate tehtud vigade põhjal tegelikkust isegi valesti tajuda. Seda nähtust nimetatakse "mudeli kokkuvarisemiseks".
Mudeli kokkuvarisemise tagajärjed on märkimisväärsed:
✔️ Internet täitub üha enam mõttetu sisuga.
✔️ Seda sisu tarbivad inimesed võivad tahtmatult olla vähem informeeritud ja kaotada intellektuaalsed võimed.
Õnneks on lootust. Anderson viitab sellele, et mudeli kokkuvarisemist saab ära hoida, pakkudes murede keskel optimismi. Võimalike lahenduste kohta lisateabe saamiseks ja veebiteabe kvaliteedi languse vältimiseks soovitame teil seda edasi uurida.
Kuigi generatiivne tehisintellekt on paljulubav, on oluline jääda valvsaks ja tegeleda sellega kaasnevate väljakutsetega. Mudeli kokkuvarisemisega seotud riskide mõistmisel ja maandamisel saame töötada selle tehnoloogia eeliste ärakasutamiseks, säilitades samal ajal Internetis leiduva teabe terviklikkuse.
Loe AI kohta lähemalt:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
