Lecția amară: De ce ChatGPT A triumfat asupra tehnicilor de calcul artizanale
Pe scurt
Eseul din 2019 al profesorului Rich Sutton, „Lecția amară”, prezice progrese semnificative în IA, cum ar fi ChatGPT/GPT-4 și OpenAImetodologiile lui.
Textul evidențiază schimbarea de paradigmă în AI, unde metodele de calcul domină performanța fără intuiția umană.
Cu toate acestea, multe cercetătorii continuă să urmărească abordări bazate pe intuiție, trecând cu vederea potențialul metodelor bazate pe calcul.
Eseul "Lecția amară”, scrisă de profesorul Rich Sutton în 2019, a câștigat de atunci importanță pentru experții în învățarea automată și pentru persoanele interesate să înțeleagă viitorul AI. Perspectivele furnizate în acest document au prevăzut evoluții importante în IA, inclusiv apariția ChatGPT/GPT-4 si acceptarea OpenAImetodologiile lui.
Miezul „Lecția amară” explorează o schimbare de paradigmă în domeniul AI. În trecut, oamenii de știință care studiau IA au avut tendința de a crede că dezvoltarea IA avansată necesita o abordare remarcabilă, distinctă, cunoscută și sub numele de „prejudecată inductivă”. Această idee face aluzie la adăugarea de informații specializate sau la înțelegerea intuitivă a unei probleme specifice, care direcționează apoi calea soluției mașinii.
Tema centrală a „Lecția amară” examinează o schimbare de paradigmă în studiul inteligenței artificiale. Anterior, cercetătorii care studiau AI aveau tendința de a crede că crearea AI avansată necesita o abordare remarcabilă, unică. Această părtinire este denumită „prejudecată inductivă”. Acest concept sugerează adăugarea de cunoștințe specializate sau o perspectivă intuitivă într-o anumită problemă, care apoi direcționează calea soluției mașinii.
Dar un model recurent a devenit evident. Cercetătorii au descoperit în mod repetat asta prin simpla adăugare a mai multor date și putere de calcul, ei ar putea depăși rezultatele produse de aceste metode minuțios elaborate. Acest model nu era specific unui domeniu, dar a apărut și în șah, go, starcraft și, probabil, nethack. Rețele neuronale convoluționale, de exemplu, au performanțe mai bune în domeniul viziunii computerizate decât tehnicile manuale precum cerne. Este interesant de observat că inventatorul SIFT a spus mai târziu că, dacă ar fi existat rețele neuronale atunci când își desfășura cercetările, ar fi ales acel curs de acțiune. Similar cu aceasta, LSTM-urile au depășit toate sistemele bazate pe reguli în domeniul traducerii automate. Folosind o strategie simplă „adăugați mai multe straturi”, ChatGPT/GPT-4, un exemplu important al acestei tendințe, a reușit să depășească modelele foarte dezvoltate create de lingviștii computaționali.
Miezul „lecției amare” a lui Sutton este că metodele de calcul care nu sunt modificate de intuiția umană depășesc frecvent alte abordări în ceea ce privește performanța. Această înțelegere nu a fost totuși acceptată pe scară largă. Mulți cercetători încă urmăresc strategii complexe, bazate pe intuiție, ignorând frecvent potențialul abordărilor incluzive, bazate pe calcul.
Cinci motive pentru care GPT a triumfat asupra tehnicilor de calcul artizanale:
- scalabilitate: Metodele de calcul, în special atunci când sunt amplificate cu mai multe date, au potențialul de a evolua și de a se adapta pe măsură ce tehnologia progresează, făcându-le mai pregătite pentru viitor.
- Eficiență: Metodele generale bazate pe calcule și date au depășit în mod constant metodele specializate, bazate pe intuiția umană, în diferite domenii, de la jocuri precum șah și Go la traducere automată și viziune pe computer.
- Aplicabilitate largă: Aceste metode generale, bazate pe calcul, sunt versatile și pot fi aplicate în diverse discipline fără a fi nevoie de modificări specifice domeniului.
- Simplitate: Sisteme construite pe raw puterea de calcul iar datele tind să fie mai simple în abordarea lor, fără a fi nevoie de ajustări complexe bazate pe intuiția umană.
- Performanță constantă: După cum se demonstrează prin exemple precum ChatGPT/GPT-4, modelele bazate pe calcul pot atinge performanțe ridicate consistente, depășind adesea metodele specializate.
Eseul original este un instrument neprețuit pentru a obține o mai bună înțelegere a punctului de vedere al profesorului Sutton și a principiilor care ghidează această traiectorie AI.
Articolul a fost inspirat de canalul Telegram „Boris din nou.
Citiți mai multe despre AI:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
