Karti pamoka: kodėl ChatGPT Nugalėjo rankų darbo skaičiavimo technikos
Trumpai
Profesoriaus Richo Suttono 2019 m. esė „Karti pamoka“ numato reikšmingą DI pažangą, pvz. ChatGPT/GPT-4 ir OpenAImetodikas.
Tekste pabrėžiamas AI paradigmos pokytis, kai skaičiavimo metodai dominuoja atliekant našumą be žmogaus intuicijos.
Tačiau daugelis mokslininkai ir toliau taiko intuicija pagrįstus metodus, neatsižvelgiant į skaičiavimais pagrįstų metodų potencialą.
Esė“Karti pamoka“, kurį 2019 m. parašė profesorius Richas Suttonas, nuo to laiko įgijo svarbą mašininio mokymosi ekspertams ir žmonėms, norintiems suprasti AI ateitį. Šiame dokumente pateiktos įžvalgos numatė svarbius DI pokyčius, įskaitant jo atsiradimą ChatGPT/GPT-4 ir priėmimas OpenAImetodikas.
„Karčios pamokos“ esmė tiria paradigmos pokytį AI srityje. Anksčiau AI tyrinėjantys mokslininkai buvo linkę manyti, kad norint sukurti pažangų AI, reikia išskirtinio požiūrio, dar vadinamo „indukciniu šališkumu“. Ši idėja yra susijusi su specializuotos informacijos papildymu arba intuityviu konkrečios problemos supratimu, kuris vėliau nukreipia mašinos sprendimo kelią.
Pagrindinė „Karčios pamokos“ tema nagrinėja dirbtinio intelekto tyrimo paradigmos pokytį. Anksčiau dirbtinį intelektą tyrinėjantys mokslininkai buvo linkę manyti, kad norint sukurti pažangų AI, reikia nepaprasto ir unikalaus požiūrio. Šis šališkumas vadinamas „indukciniu poslinkiu“. Ši koncepcija siūlo papildyti specializuotas žinias arba intuityvią įžvalgą apie tam tikrą problemą, kuri vėliau nukreipia mašinos sprendimo kelią.
Tačiau pasikartojantis modelis išryškėjo. Tyrėjai ne kartą nustatė, kad tiesiog pridėjus daugiau duomenis ir skaičiavimo galią, jie gali pranokti šių kruopščiai sukurtų metodų rezultatus. Šis modelis nebuvo būdingas vienai sričiai, bet atsirado šachmatų, go, starcraft ir tikriausiai nethack srityse. Konvoliuciniai neuroniniai tinklaiPavyzdžiui, kompiuterinio matymo srityje veikia geriau nei rankiniai metodai SIJOJIMAS. Įdomu pastebėti, kad SIFT išradėjas vėliau pasakė, kad jei jam atliekant tyrimus būtų buvę neuroniniai tinklai, jis būtų pasirinkęs tokį veiksmą. Panašus į šį, LSTM pranoko visas taisyklėmis pagrįstas sistemas mašininio vertimo srityje. Naudojant paprastą „pridėti daugiau sluoksnių“ strategiją, ChatGPT/GPT-4, pagrindinis šios tendencijos pavyzdys, sugebėjo pranokti labai išvystytus modelius, sukurtus skaičiavimo lingvistų.
Suttono „karčios pamokos“ esmė yra ta, kad skaičiavimo metodai, kurių nepakeičia žmogaus intuicija, našumu dažnai pranoksta kitus metodus. Tačiau šis supratimas nebuvo plačiai priimtas. Daugelis mokslininkų vis dar taiko sudėtingas, intuicija pagrįstas strategijas, dažnai ignoruodami įtraukiųjų, skaičiavimais pagrįstų metodų potencialą.
Penkios priežastys kodėl GPT nugalėjo rankų darbo skaičiavimo metodus:
- Mastelis: Skaičiavimo metodai, ypač papildyti daugiau duomenų, turi galimybę tobulėti ir prisitaikyti tobulėjant technologijoms, todėl jie yra labiau tinkami ateičiai.
- Efektyvumas: bendrieji skaičiavimais ir duomenimis pagrįsti metodai įvairiose srityse nuolat lenkė specializuotus, žmogaus intuicija pagrįstus metodus, pradedant žaidimais, tokiais kaip šachmatai ir „Go“, baigiant mašininiu vertimu ir kompiuterine vizija.
- Platus pritaikymas: Šie bendrieji skaičiavimu pagrįsti metodai yra universalūs ir gali būti taikomi įvairiose srityse, nereikalaujant konkrečių domeno pakeitimų.
- Paprastumas: sistemos, sukurtos ant neapdorotos skaičiavimo galia ir duomenys paprastai yra paprastesni, nereikia sudėtingų koregavimų, pagrįstų žmogaus intuicija.
- Nuoseklus atlikimas: Kaip rodo tokie pavyzdžiai kaip ChatGPT/GPT-4, skaičiavimais pagrįsti modeliai gali pasiekti pastovų aukštą našumą, dažnai pranokstant specializuotus metodus.
Originalus esė yra neįkainojamas įrankis, leidžiantis geriau suprasti profesoriaus Suttono požiūrį ir principus, kuriais vadovaujamasi šioje DI trajektorijoje.
Straipsnį įkvėpė kanalas „Telegram“Vėl Borisas."
Skaitykite daugiau apie AI:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
