5 pagrindinės įžvalgos apie AI ir LLM ateitį iš Dario Amodei, Anthropic generalinio direktoriaus
Neseniai paskelbtame podcast'e Dario Amodei, Anthropic generalinis direktorius, pasidalino vertingomis įžvalgomis apie AI pasaulį. Štai 5 geriausi ištraukos iš jo dviejų valandų pokalbio.
Sutelkite dėmesį į tai, ko modeliai negali padaryti šiandien
Paklaustas apie įmones ir produktus, susijusius su didžiųjų kalbų modeliais (LLM), Dario patarė: „Geriau sutelkti dėmesį į tai, ko modeliai šiandien negali padaryti“. Jis pabrėžė, kad jei LLM gali teisingai atlikti užduotį tik 40% laiko, artimiausioje ateityje yra kur gerokai patobulinti. Jis skatino įmones kurti produktus atsižvelgiant į pažangą ir netgi pasiūlė bendradarbiauti su Anthropic, kad padidintų sėkmės galimybes.
Dario taip pat paaiškino, kad nustatydamos LLM apribojimus, įmonės gali atskleisti neišnaudotas naujovių ir diferenciacijos galimybes. Jis pabrėžė, kaip svarbu suprasti kontekstinius niuansus ir sudėtingus samprotavimo gebėjimus, kurių trūksta dabartiniams modeliams, o tai gali sudaryti sąlygas naujiems sprendimams ir natūralios kalbos apdorojimo technologijos pažangai.
Nepavykusios prognozės ir mokymosi pastiprinimo siekis
Dario pripažinus nesėkmingą prognozę, kad LLM pavirs į agentus per „Reforcement Learning“, panašius į populiarius žaidimus, tokius kaip „Dota 2“, „Go“ ir „Starcraft“, paskatino technologinį kraštovaizdį iš naujo įvertinti. Užuot stebėjusi numatomą progresą, pramonė patyrė didelį dėmesio pasikeitimą. Įmonės dabar savo investicijas nukreipia į stiprinimą skaičiavimo galia ir sustiprina neuronų skaičių.
Pradinė LLM vizija sklandžiai pereina į visišką autonominiai agentai per stiprinimo mokymąsi susidūrė su kliūtimis. Nepaisant šios nesėkmės, Dario vis dar optimistiškai žiūri į ateitį. Jis mano, kad nors šis vystymosi etapas dar laukia priešakyje, netikėti posūkiai pakeitė technologijų pažangos seką.
Daugiausia dėmesio skirdamos skaičiavimo galios ir neuronų skaičiaus didinimui, įmonės stengiasi pagerinti LLM galimybes. Ši nauja kryptis reiškia skaičiavimo išteklių svarbos ir neuroninio tinklo sudėtingumo pripažinimą. Daug investuodami į šias sritis, mokslininkai ir kūrėjai tikisi atverti naujas galimybes ir įveikti iššūkius, trukdžiusius įgyvendinti pradinį Dario spėjimą.
LLM didinimo ateitis
Spręsdamas susirūpinimą dėl LLM mastelio, atsižvelgiant į duomenų apribojimus, Amodei užtikrintai išreiškė, kad jis nenumato, kad artimiausioje ateityje tai taps pagrindine kliūtimi, išskyrus galbūt paskutinius 10 % pažangos. Apreiškime jis užsiminė apie sintetinių duomenų generavimo potencialą kaip perspektyvų sprendimą įveikti šį iššūkį – temą, į kurią jis anksčiau nebuvo gilinęsis. Tačiau Amodei perspėjo, kad šio metodo veiksmingumas norimu mastu lieka neįrodytas.
Amodei patikinimas dėl LLM mastelio suteikia AI bendruomenei optimizmo jausmą. Nors duomenų trūkumas kėlė susirūpinimą, jo tikėjimas, kad dauguma pažangos pavyks išspręsti šią problemą, teikia vilčių. Pripažindamas, kad galutinis 10 % gali sukelti didesnių iššūkių, Amodei pabrėžia, kad reikia novatoriškų sprendimų, siekiant išplėsti LLM galimybių ribas.
Amodei paminėjimas apie šį metodą reiškia, kad mokslininkai ir kūrėjai aktyviai tiria alternatyvius metodus esamiems duomenų rinkiniams papildyti. Sintetinių duomenų generavimas apima dirbtinių duomenų, imituojančių realaus pasaulio modelius ir charakteristikas, kūrimą. Naudojant šią techniką, gali būti įmanoma generuoti papildomų mokymo duomenų, kad būtų pagerintas LLM našumas ir mastelio keitimas.
LLM ateities numatymas
Dario Amodei prognozė dėl DI kraštovaizdžio 2024 m. turi reikšmingų pasekmių tolesnei didelių kalbų modelių raidai (LLM). Nors jis tikisi esminės, bet ne revoliucinės pažangos LLM vartotojų požiūriu per ateinančius metus, verta tyrinėti pagrindinę dinamiką.
Savo 2024 m. vizijoje Dario numato, kad vartotojai bus pastebimi LLM galimybių patobulinimai. Šie patobulinimai gali paversti tikslesniais atsakymais, gilesniu niuansuotų užklausų supratimu ir didesniu pokalbio sklandumu. Vartotojai gali bendrauti su dirbtinio intelekto sistemomis, kurių sąveika vis labiau intuityvi ir panaši į žmones. Tačiau jo prognozės esmė slypi įmonių potenciale pasinaudoti šia pažanga.
Nors 2024 m. žada naujų įvykių, Dario tikimasi didesnių pokyčių iki 2025 ar 2026 m., tai rodo galimą AI kraštovaizdžio posūkį. Šis laikotarpis rodo, kad dirbtinio intelekto technologijos subrendo iki taško, kuriame jos pradeda atsinaujintidefine visuomenės normas ir lūkesčius.
LLM aiškinimo pažanga
Amodei palietė LLM interpretavimo temą ir atskleidė, kad Anthropic dirba prie naujo projekto, pavadinto „Monosemantiškumo link: kalbos modelių skaidymas naudojant žodyną“. Jis išreiškė optimizmą siekdamas geros pažangos suprantant atskirus neuronus LLM, o praktinių rezultatų tikimasi po 2–3 metų. Ši plėtra galėtų žymiai padidinti AI saugumą.
Plačiau paskaitykite čia:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
