Горчивият урок: защо ChatGPT Триумфира над ръчно изработените изчислителни техники
Накратко
Есето на професор Рич Сътън от 2019 г. „Горчивият урок“ прогнозира значителен напредък в ИИ, като напр. ChatGPT/GPT-4 намлява OpenAIметодологиите на.
Текстът подчертава промяната на парадигмата в AI, където изчислителните методи доминират производителността без човешка интуиция.
Въпреки това, много изследователите продължават да следват подходи, основани на интуицията, пренебрегвайки потенциала на методите, управлявани от изчисления.
Есето "Горчивият урок”, написана от професор Рич Сътън през 2019 г., оттогава придоби значение за експертите по машинно обучение и хората, които се интересуват от разбирането на бъдещето на ИИ. Прозренията, предоставени в този документ, предвиждат важни развития в ИИ, включително появата на ChatGPT/GPT-4 и приемането на OpenAIметодологиите на.
Ядрото на „Горчивият урок“ изследва промяната на парадигмата в областта на ИИ. В миналото учените, изучаващи ИИ, са имали склонност да смятат, че разработването на усъвършенстван ИИ изисква забележителен, отличителен подход, известен също като „индуктивно отклонение“. Тази идея загатва за добавяне на специализирана информация или интуитивно разбиране на конкретен проблем, което след това насочва пътя на решението на машината.
Централната тема на „Горчивият урок“ разглежда промяната на парадигмата в изучаването на изкуствения интелект. Преди това изследователите, изучаващи AI, са имали склонност да вярват, че създаването на усъвършенстван AI изисква забележителен, уникален подход. Това отклонение се нарича „индуктивно отклонение“. Тази концепция предполага добавянето на специализирано знание или интуитивно вникване в определен проблем, което след това насочва пътя на решението на машината.
Но един повтарящ се модел стана очевиден. Изследователите многократно откриват това, като просто добавят повече данни и изчислителна мощност, те биха могли да надминат резултатите, получени от тези старателно изработени методи. Този модел не беше специфичен за една област, но се появи в шах, го, старкрафт и вероятно също така и в нетак. Конволюционни невронни мрежи, например, се представят по-добре в областта на компютърното зрение, отколкото ръчните техники като ПРЕСЕЕТЕ. Интересно е да се отбележи, че изобретателят на SIFT по-късно каза, че ако невронните мрежи са съществували, когато е провеждал своите изследвания, той е щял да избере този курс на действие. Подобно на това, LSTM превъзхождаха всички базирани на правила системи в областта на машинния превод. Използвайки проста стратегия за „добавяне на още слоеве“, ChatGPT/GPT-4, водещ пример за тази тенденция, успя да надмине силно развитите модели, създадени от компютърни лингвисти.
Ядрото на „горчивия урок“ на Сътън е, че изчислителните методи, които не са модифицирани от човешката интуиция, често превъзхождат други подходи по отношение на ефективността. Това разбиране обаче не е широко прието. Много изследователи все още следват сложни, базирани на интуиция стратегии, често пренебрегвайки потенциала на включващите, базирани на изчисления подходи.
Пет причини защо GPT триумфира над ръчно изработените изчислителни техники:
- скалируемост: Изчислителните методи, особено когато са допълнени с повече данни, имат потенциала да се развиват и адаптират с напредването на технологиите, което ги прави по-устойчиви на бъдещето.
- Ефективност: Общите методи, базирани на изчисления и данни, постоянно превъзхождат специализираните, базирани на човешката интуиция методи в различни области, от игри като шах и Go до машинен превод и компютърно зрение.
- Широка приложимост: Тези общи, базирани на изчисления методи са многостранни и могат да се прилагат в различни дисциплини без необходимост от специфични за домейн настройки.
- Простота: Системи, изградени върху raw изчислителна мощност и данните обикновено са по-опростени в подхода си, без необходимост от сложни корекции, базирани на човешката интуиция.
- Постоянна производителност: Както се вижда от примери като ChatGPT/GPT-4, базираните на изчисления модели могат да постигнат постоянна висока производителност, често надминавайки специализираните методи.
Оригиналното есе е безценен инструмент за по-добро разбиране на гледната точка на професор Сътън и принципите, ръководещи тази траектория на ИИ.
Статията е вдъхновена от канала Telegram “Пак Борис."
Прочетете повече за AI:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
