Ross Anderson az AI-modell összeomlásáról beszél, mint az online tartalmak növekvő problémája
Röviden
Ross Anderson a nagy nyelvi modellek jövő generációinak intellektuális hanyatlásával kapcsolatos lehetséges kockázatokra figyelmeztet.LLM-ek), amelyek az új szövegek szerkesztésének és létrehozásának elsődleges eszközévé váltak.
A modell összeomlása megelőzhető a kapcsolódó kockázatok megértésével és mérséklésével generatív AI.
Mindössze hat hónap alatt a generatív mesterséges intelligencia jelentős előrelépéseket tett, és lekötötte a világ figyelmét. ChatGPT, ennek a technológiának a kiemelkedő példája, gyorsan népszerűvé és széles körben elterjedtté vált. Ross Anderson neves szakértő azonban figyelmeztet a potenciális kockázatok a modellek jövő generációinak intellektuális hanyatlásával kapcsolatos.
Ross Anderson úttörő a biztonságtechnika területén, és vezető hatóság a biztonsági rendszerek és algoritmusok sebezhetőségeinek feltárásában. A Királyi Mérnöki Akadémia ösztöndíjasaként és a Cambridge-i Egyetem professzoraként nagymértékben hozzájárult az információbiztonság területén, különféle ágazatokban fenyegetettségi modellek kialakításában.
Anderson most az emberiséget fenyegető globális fenyegetés miatt riasztotta fel…a nagy nyelvi modellek (LLM) összeomlása. Egészen a közelmúltig az interneten található szövegek nagy részét emberek generálták. Az LLM-ek mára a szövegek szerkesztésének és létrehozásának elsődleges eszközévé váltak, felváltva az ember által generált tartalmakat.
Ez az elmozdulás fontos kérdéseket vet fel: hová vezet ez a tendencia, és mi fog történni, amikor az LLM-ek uralják az internetet? A következmények túlmutatnak a szövegen. Például, ha a zenei modell Mozart kompozícióira nevelték, a következő generációkból hiányozhat az eredeti ragyogása, és gyengébb eredményeket produkálnak, mint a „Salieri” musical. Minden következő generációval növekszik a minőség és az intelligencia csökkenésének kockázata.
Ez a koncepció emlékeztethet a filmresokféleség”, Michael Keaton főszereplésével, ahol a klónozás az intelligencia csökkenéséhez és az egyes következő klónok ostobaságának növekedéséhez vezet.
Ugyanez a jelenség fordulhat elő az LLM-eknél is. Egy modell betanítása a modell által generált tartalommal visszafordíthatatlan hibákhoz és a szövegminőség generációkon keresztüli romlásához vezet. A tartalom eredeti terjesztése torzul, ami értelmetlen információk beáramlását eredményezi. A Gauss-eloszlások konvergálnak, és szélsőséges esetekben a szöveg értelmetlenné válhat. A következő nemzedékek az elődeik által elkövetett hibák alapján akár félre is érzékelhetik a valóságot. Ezt a jelenséget „modellösszeomlásnak” nevezik.
A modell összeomlásának következményei jelentősek:
✔️ Az internet egyre inkább megtelik értelmetlen tartalommal.
✔️ Az ezt a tartalmat fogyasztó egyének akaratlanul is kevésbé tájékozottak lehetnek, és elveszíthetik intellektuális képességeiket.
Szerencsére van remény. Anderson azt sugallja, hogy a modell összeomlása megelőzhető, optimizmusra csillantva az aggodalmak közepette. Ha többet szeretne megtudni a lehetséges megoldásokról és arról, hogyan kerülheti el az online információminőség romlását, javasoljuk, hogy tájékozódjon tovább.
Bár a generatív mesterséges intelligencia ígéretes, elengedhetetlen, hogy ébernek maradjunk, és kezeljük az általa jelentett kihívásokat. A modell összeomlásával járó kockázatok megértésével és mérséklésével azon dolgozhatunk, hogy kiaknázzuk e technológia előnyeit, miközben megőrizzük az interneten található információk integritását.
Tudjon meg többet az AI-ról:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
További cikkek
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
