Количеството интелект във Вселената ще се удвоява на всеки 18 месеца, казва Сам Алтман
Накратко
Апокалипсисът на ИИ започна, като количеството интелект във Вселената се удвоява на всеки 18 месеца.
OpenAIТова е Сам Алтман веднъж се пошегува, че AI ще доведе до края на света, но преди това ще бъде огромен бизнес.
Ерик Хоел, американски невролог и философ от университета Тъфтс, твърди, че AI системите не могат да се считат за интелигентни на този етап, тъй като те не разбират света и нямат личност, която да се проявява в техните намерения и действия.
Хипотезата за мозъка на Байес гласи, че основната функция на мозъка е да минимизира изненадата. Ако това е вярно, AI апокалипсисът може вече да е започнал.
Това предполага това ChatGPT а други вече са по-гъвкави в своята интелигентност от всяко човешко същество.
Апокалипсисът на ИИ започна, променяйки значението на закона на Мур. Сега количеството интелект във Вселената ще се удвоява на всеки 18 месеца, според Сам Алтман, Изпълнителен директор на OpenAI, компанията зад ChatGPT. Само преди седем години Сам се пошегува: „ИИ най-вероятно ще доведе до края на света, но преди това ще има огромен бизнес.“ Сега хората се шегуват той не се разделя с „ядрена раница“, за да може дистанционно да взривява центрове за данни GPT излиза извън контрол.
Препоръчителна публикация: ChatGPT Може да причини необратима човешка дегенерация |
За да разберете по-добре какво Алтман има предвид в своя туит и за да разберете как да не полудеете по време на бума на ИИ, препоръчваме да прочетете „ на Ерик ХоелКак да навигирате в апокалипсиса на AI като нормален човек.” Хоел е американски невролог и философ от университета Тъфтс. Четиво е добро, тъй като Хоел е страхотен писател, така че и ние defiпрепоръчвам да разгледате тази публикация.
Нека просто да разгледаме един от ключовите моменти, тъй като той обобщава дълбокото разбиране на случващото се и близкото бъдеще на апокалипсис, който вече е настъпил. Основният аргумент на „рационалните технооптимисти“, които смятат, че нищо извънредно и прекалено рисковано не се е случило с появата на ChatGPT, е както следва:
- Въпреки изключителните резултати на генеративния разговорен AI (като ChatGPT, Bing и др.), тези AI системи не могат да се считат за интелигентни. Те не разбират света и нямат мотивацията на агент. Те нямат личност, която да се проявява в техните намерения и действия, и техният възприеман интелект не е нищо повече от симулакрум на интелект. В основата си този симулакрум е просто автоматично допълване на следващите думи, отразявайки в своето вероятностно огледало колосалния, нефилтриран корпус от текстове, написани от хора от Интернет.
- Ако е така, тогава няма нито близка перспектива за появата на суперинтелект, нито рисковете, свързани с него (въпреки че, разбира се, трябва да се подготвите за това, най-вероятно на хоризонта на десетилетия).
Препоръчителна публикация: Ботовете за търсене с изкуствен интелект ще направят големите технологии още по-мощни, казва Кристофър Милсация |
Отговорът на Hoel на тази аргументация е следният:
- Фактът, че ChatGPT, например, е просто автоматично довършване на следващите думи, не означава, че не може да стане (или вече е станал) интелигентен агент. За разлика от съзнанието, интелигентността е напълно функционална концепция: ако нещо действа интелигентно, то е интелигентно. Ако действа като агент, значи е агент.
- Ето един обяснителен пример. Има влиятелна група учени - Карл Фристън (най-цитираният невролог) и множество други известни имена - които твърдят, че целта на нашия мозък е да минимизира изненадата. Тази „байесова мозъчна хипотеза“ е една от основните днес. Теорията гласи, че на глобално ниво минимизирането на изненадата е основната функция на мозъка. И докато това е само една от няколкото водещи хипотези за това как работи мозъкът, нека приемем, че е вярно. Представете си сега, че извънземните намерят човешки мозък, погледнат го и кажат: „О, това нещо просто минимизира изненадата! То не може да бъде основа на интелекта и следователно не може да бъде опасно за истинските носители на ума. Помислете: Наистина ли „минимизирането на изненадите“ е много по-трудна цел от автоматичното попълване на текст? Или всъщност е много подобно?
- И ако е така, тогава нечовешкият суперинтелект може вече да е наблизо. И свързаните с това рискове вече са съвсем реални. Какво друго има да се добави? Може би ChatGPT а други вече са по-гъвкави в своите интелигентност от всяко човешко същество. ChatGPT и други вероятно ще бъдат активни по същото време поради следните причини: разумни, ненадеждни и не подобни на човешкия ум, неконтролируеми във всеки фундаментален смисъл, с изключение на някои набързо проектирани огради.
И ако всичко това е вярно, значи AI апокалипсисът вече е започнал.
Прочетете още свързани теми:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статииДамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.