Ross Anderson keskustelee tekoälymallin romahtamisesta kasvavana ongelmana verkkosisällössä
Lyhyesti
Ross Anderson varoittaa mahdollisista riskeistä, jotka liittyvät suurten kielimallien tulevien sukupolvien älylliseen heikkenemiseen (LLM:t), joista on tullut ensisijainen työkalu uusien tekstien muokkaamiseen ja luomiseen.
Mallin romahtaminen voidaan estää ymmärtämällä ja vähentämällä niihin liittyviä riskejä generatiivinen tekoäly.
Vain kuudessa kuukaudessa generatiivinen tekoäly on saavuttanut merkittäviä harppauksia ja vanginnut maailman huomion. ChatGPT, näkyvä esimerkki tästä tekniikasta, sai nopeasti suosion ja laajan käytön. Tunnettu asiantuntija Ross Anderson kuitenkin varoittaa mahdolliset riskit liittyy tulevien sukupolvien mallien älylliseen rappeutumiseen.
Ross Anderson on turvallisuustekniikan edelläkävijä ja johtava viranomainen turvajärjestelmien ja -algoritmien haavoittuvuuksien etsimisessä. Kuninkaallisen tekniikan akatemian stipendiaattina ja Cambridgen yliopiston professorina hän on työskennellyt laajasti tietoturva-alalla muokkaamalla uhkamalleja eri sektoreilla.
Nyt Anderson herättää hälytyksen ihmiskunnalle kohdistuvasta maailmanlaajuisesta uhasta.suurten kielimallien (LLM) romahtaminen. Viime aikoihin asti suurin osa Internetin tekstistä on ihmisten luomia. LLM:istä on nyt tullut ensisijainen työkalu uusien tekstien muokkaamiseen ja luomiseen, mikä korvaa ihmisen luoman sisällön.
Tämä muutos herättää tärkeitä kysymyksiä: Mihin tämä suuntaus johtaa ja mitä tapahtuu, kun LLM:t hallitsevat Internetiä? Vaikutukset ylittävät pelkän tekstin. Esimerkiksi jos a musiikillinen malli on koulutettu Mozartin sävellyksistä, myöhemmiltä sukupolvilta saattaa puuttua alkuperäisen loisto ja ne voivat tuottaa huonompia tuloksia, jotka ovat verrattavissa musikaaliin "Salieri". Jokaisen seuraavan sukupolven myötä riski laadun ja älykkyyden heikkenemisestä kasvaa.
Tämä käsite saattaa muistuttaa sinua elokuvasta "moninaisuus”, pääosassa Michael Keaton, jossa kloonaus johtaa älykkyyden heikkenemiseen ja jokaisen seuraavan kloonin tyhmyyden lisääntymiseen.
Sama ilmiö voi tapahtua LLM:ien kanssa. Mallin kouluttaminen mallin luomalla sisällöllä johtaa peruuttamattomiin virheisiin ja tekstin laadun heikkenemiseen sukupolvien aikana. Sisällön alkuperäinen jakelu vääristyy, mikä johtaa järjettömän tiedon tulvaan. Gaussin jakaumat konvergoivat, ja äärimmäisissä tapauksissa tekstistä voi tulla merkityksetöntä. Seuraavat sukupolvet voivat jopa ymmärtää todellisuuden väärin edeltäjiensä tekemien virheiden perusteella. Tämä ilmiö tunnetaan nimellä "mallin romahdus".
Mallin romahtamisen seuraukset ovat merkittäviä:
✔️ Internet täyttyy yhä enemmän järjettömällä sisällöllä.
✔️ Tätä sisältöä käyttävistä henkilöistä saattaa tahattomasti tulla vähemmän tietoisia ja he voivat menettää älyllisiä kykyjä.
Onneksi toivoa on. Anderson ehdottaa, että mallin romahtaminen voidaan estää, mikä tarjoaa optimismin välähdyksen huolien keskellä. Saadaksesi lisätietoja mahdollisista ratkaisuista ja siitä, miten voit välttää online-tiedon laadun heikkenemisen, suosittelemme tutkimaan asiaa tarkemmin.
Vaikka luova tekoäly lupaa, on tärkeää pysyä valppaana ja vastata sen tuomiin haasteisiin. Ymmärtämällä ja lieventämällä mallin romahtamiseen liittyviä riskejä voimme hyödyntää tämän tekniikan edut säilyttäen samalla Internetissä olevien tietojen eheyden.
Lue lisää tekoälystä:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
