6-месечна пауза в обучението за AI е добра идея, но може да не е достатъчно
Накратко
Историята с петицията и публикуването на статията на Юдковски поляризираха обществото.
Дилемата на затворника и теорията на игрите предполагат, че е необходима критична маса от здрави хора на различни места, за да бъдат разрешени подобни проблеми.
Въпреки това, има няколко но на тази идея, като липсата на съзнание, воля и свобода на действие в дигиталната еволюция.
Историята на петиция за спиране на разработването на AI системи, по-напреднали от GPT-4 забележимо поляризира обществото. Освобождаването на Юдковски статията с искане за спиране на по-нататъшното развитие на GPT моделите наляха масло в огъня, особено пасажите му за бомбардировките на центрове за данни.
От това, което може да се види онлайн, изглежда има много по-малко поддръжници на петицията, отколкото противници, които имат три основни аргумента:
| 1 | – Прогресът не може да бъде спрян. – Петицията е измислена от OpenAI конкуренти. – Китай няма да чака. |
| 2 | – Не трябва да се страхувате от ИИ, а от хората. - GPT няма съзнание, воля, стремежи или свобода на действие, така че няма от какво да се страхува. - GPT-4 е безумно далеч от това да поробва света, защото не разбира нищо, прави глупави грешки и като цяло е доста глупав. - GPT-4 няма да може да управлява света, защото няма ръце/крака. |
| 3 | – Третата група не разбира как GPT-4 действа на първо място. |
Няма да се концентрираме върху третата група, защото тяхната позиция идва от невежество. Това не означава, че всички противници на ИИ знаят всичко за ИИ; можете да намерите много анти-AI хора, които нямат разбиране за технологията и какво включва тя, въпреки че самият Юдковски е много по-навътре в темата за AI, така че не може да бъде обвинен в невежество.
Нека да разгледаме първата група хора – тези, които вярват, че прогресът не може да бъде спрян. Те предлагат различни, но все пак подобни аргументи и като цяло тези хора не отричат възможностите на AI и перспективите, които носи неговото приемане, и вярват, че развитието на AI ще продължи, независимо от всичко.
Първата теза за неудържимия прогрес е лозунг, който не е задължително да е верен. Хората изглежда са спрели някои научни експерименти и много някога приети изследователски проекти вече не се считат за етични и подобни никога не биха били разрешени днес. Но колко повече напредък в миналото е бил спрян от инквизицията и други религиозни преследвания, забрани на книги и убийства на учени в Китай (и други страни)? Това е нещо, което никога няма да можем да разберем напълно поради пристрастията към оцеляването.
Други тези включват подхода, който може да се обобщи като „ако не ние, те ще бъдат“. Въпреки че тази линия на мислене може да е по-разбираема, тя също не изглежда правилното решение. Това е много подобно на дилемата на затворника в теорията на игрите.
Втората група аргументи е най-интересна. Въпреки че аз лично съм съгласен с това до известна степен, има няколко но, които трябва да бъдат разгледани. Да, изкуственият интелект няма съзнание, воля, свобода на действие и т.н. Нито COVID-19, но все пак причини хаос в световен мащаб. Нещо не трябва да има чувство за свобода на действие и съзнание, за да стане опасно; сценарий, според който животът на земята е унищожен поради вирус, не е немислим. След като свърши работата си, то може да постави столовете на масите, да загаси светлините и да си тръгне завинаги.
Продължавайки биологичната аналогия, има една прекрасна статия „Изненадващата креативност на цифровата еволюция: колекция от анекдоти от общностите за еволюционни изчисления и изследвания на изкуствен живот“, която предоставя много примери за това, когато процесите вървят в неочаквана посока. Дори и без еволюционен процес, всичко може да отиде в грешното обобщение „Погрешно обобщаване на целта: Защо правилните спецификации не са достатъчни за правилните цели.“ Даването на воля на процес на оптимизация може да се обърка се обсъжда в „Рискове от научено оптимизиране в усъвършенствани системи за машинно обучение"
В същото време ние обикновено не отчитаме рисковете от злонамерено използване на AI и всички други злоупотреба, което само подхранва аргумента, че трябва да се страхуваме от хората, а не от самия ИИ. Истината обаче е, че AI може да бъде лош дори и без злонамерени хора.
Също така съм съгласен с факта, че моделът прави глупави грешки, но хората също, но ние знаем, че могат да навредят. Докато моделите правят много грешки, те също могат да разрешат много страхотни, готини и сложни проблеми, които обикновеният човек не може да разреши. От прословутата работа „Искрите на изкуствения общ интелект: ранни експерименти с GPT-4” Бях поразен, че изкуственият интелект успя да реши, макар и не винаги правилно, проблеми на Ферми, доста сложни математически проблеми. Неговата теория за ума и „нещо като способността да се разбират“ действията на другите също са много впечатляващи. Всички тези неща сочат към интелигентността на AI; съществуващи, но не съвсем като нашите.
Елиминирането на поне някои от грешките, които AI моделите правят, обикновено е възможно, така че техният интелект може само да расте. Всичко, което трябва да направите, е да добавите модул за точни изчисления, фактическа база и валидиране с друг модел.
Най-важното в цялата тази история е скоростта на развитие на AI. GPT модели са нараснали неимоверно с главозамайваща скорост. Сега има ChatGPT плъгини налични, можете да използвате GPT модели за писане на код, API са достъпни за широката публика и можете да използвате външни инструменти без предварително обучение.
GPT-4, разбира се, няма да завладее света, но може много да разклати икономиката. GPT-5, и бъдещата итерация на модела, може да не е много напред и вероятно ще дойде с много по-силни способности. И нека си признаем, не можем да се надяваме да разберем все още несъществуващите модели; дори не сме се доближили до разбирането на моделите, които вече съществуват. В този смисъл шестмесечна почивка може да е добра идея, но просто може да не е достатъчна.
И като се има предвид, че AI състезание започна, няма време за учене.
Общо взето с оглед на всичко това и аз се подписах в петицията. Въпреки че не вярвам, че ще помогне по някакъв начин.
Прочетете още свързани теми:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
