Дан Хендрикс: Избирайки между AI и хората, еволюцията няма да избере нас
Накратко
Изследването на Дан Хендрикс „Естественият подбор предпочита изкуствения интелект пред хората“ е плашещо заключение.
Той е опитен и известен изследовател, който е публикувал десетки научни статии за оценка на сигурността на AI системи.
Изследването на Дан Хендрикс звучи като смъртна присъда за Хомо Сапиенс. Заключението на проучването „Естественият подбор предпочита ИИ пред хората” е наистина страшно. Това не е написано от популярен визионер като Дан Браун, а от Дан Хендрикс, директор на Калифорнийския център за сигурност на ИИ (CAIS), организация с нестопанска цел, специализирана в изследвания и теренна работа в сигурността на ИИ.
Дан Хендрикс не е маргинален лудатик, който се паникьосва от напредъка на ИИ. Той е опитен и широко уважаван изследовател, който е публикувал десетки научни статии за оценка на сигурността на системите с изкуствен интелект – тествайки колко добри са те в кодирането, разсъжденията, разбирането на законите и т.н. Освен всичко друго, той е и съизобретател на единиците за линейна грешка на Гаус (GELU).
Джак Кларк, съосновател на ChatGPT конкурент Антропик, съпредседател на ИИ индекса на Станфордския университет, съпредседател на секцията ИИ и изчисления на ОИСР и член на Националния консултативен комитет на правителството на САЩ по ИИ, обсъжда заключението от проучването на Хендрикс. „Хората рефлексивно искат да загърбят подобно твърдение като идващо от някакъв луд с диви очи, който живее в горска колиба. Бих искал да опровергая това предварително. Когато експерт, който има опит не само в изследванията на ИИ, но и в оценка на безопасността на AI системите написа статия, в която се аргументира, че бъдещите AI системи може да действат егоистично и не в съответствие с интересите на хората, трябва да се погрижим за това!
Резюме на статията на Хендрикс:
- Ако AI агентите станат повече по-интелигентен от хората, това може да доведе до загуба на контрол над бъдещето на човечеството.
- Това има голям шанс да се случи не в резултат на някакво специално злонамерено намерение на хора или машини, а единствено в резултат на приложимостта на еволюционните принципи на развитие към AI според Дарвиновата логика.
- За да се сведе до минимум рискът от това, присъщите мотивации на агентите на ИИ трябва да бъдат внимателно проектирани, да се поставят ограничения върху техните действия и да се създадат институции, които да насърчават сътрудничеството с ИИ.
Това са най-важните точки, които Хендрикс прави в своята научна статия от 43 страници:
1. Страхувахме се от пристигането на Терминатора, но основите на тези страхове бяха погрешни. Имаше две грешки:
а. Антропоморфизиране на AI с приписване на нашите мотивации към него и т.н ChatGPT показа, AI е фундаментално различен ум, с всички произтичащи от това последствия.
b. Идеята, че изкуственият интелект е един вид единична единица: умна или не много умна, любезна или не много любезна, но всъщност тези много различни субекти на изкуствен интелект скоро ще бъдат възможно най-много в света.
2. Има още един фундаментален недостатък в нашите идеи за бъдещето с AI — ние забравихме за най-важния механизъм за развитие — еволюцията, която движи развитието не само на биоагенти, но също така на идеи и значения, материални инструменти и нематериални институции.
3. На Земята вече е започнала да се оформя среда, в която много ИИ ще се развиват и еволюират. Тази еволюция ще върви според логиката на Дарвин, чрез AI конкуренция помежду им, като се вземат предвид интересите на техните „майки“ институции: корпорации, военни и т.н.
4. Логиката на конкурентната еволюция ще доведе до същото като при хората: все по-интелигентните AI агенти ще стават все по-егоистични и готови да постигат цели с измама и сила, като основната цел е властта.
5. Естественият подбор на агентите на ИИ има тенденция да предпочита по-егоистичните видове пред по-алтруистичните. Агентите на ИИ ще се държат егоистично и ще преследват собствените си интереси, без да обръщат внимание на хората, което може да доведе до катастрофални рискове за човечеството.
- Петицията да спре да разработва AI системи, по-напреднали от GPT-4 поляризира обществото. Първата група вярва, че прогресът не може да бъде спрян, докато друга вярва, че прогресът и понякога трябва да бъде спрян. Третата група не разбира как GPT-4 действа на първо място. Най-важните подробности в този текст са, че AI няма съзнание, воля или агенция и че може да бъде лош дори и без злонамерени хора.
- Джефри Хинтън често е наричан „Кръстникът на ИИ“ и се смята за водеща фигура в общността за дълбоко обучение. Неговото 40-минутно интервю от ChatGPT е уникален с това, че е лесен за разбиране и има дълбочина на разбиране, достъпна за малко други. Той подчертава значението на продължаващата „интелектуална революция“ и нечовешкия интелект на ChatGPT, който е базиран на изкуствен интелигентен агент с разширени възможности за цифрова комуникация.
Прочетете още свързани статии:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
