Виталик Бутерин и директорът на MIRI Нейт Соарес се задълбочават в опасностите от изкуствения интелект: може ли изкуственият интелект да причини изчезването на хората?
Накратко
Основателят на Ethereum Виталик Бутерин и директорът на Изследователския институт за машинен интелект Нейт Соарес обсъдиха рисковете от AI в Zuzalu днес.
Zuzalu е изскачаща градска общност в Черна гора, инициирана от Бутерин и неговите колеги в крипто общността.
В дискусията Соарес сподели своята гледна точка защо е много вероятно ИИ да сложи край на целия живот на Земята.
Основателят на Ethereum Виталик Бутерин и директор на Изследователския институт за машинен интелект (MIRI) Нейт Соарес обсъдиха рисковете от AI в Zuzalu днес.
Zuzalu е „изскачаща градска общност“ в Черна гора, инициирана от Бутерин и неговите колеги в крипто общността, която се провежда от 25 март до 25 май. Събитието обединява 200 основни жители със споделено желание да учат, създават, живеят по-дълго и по-здравословно животи и изграждане на самоподдържащи се общности. В течение на два месеца общността също така е домакин на редица събития по различни теми като синтетична биология, технологии за поверителност, обществени блага, дълголетие, управление и др.
- дискусия започна със Соарес, който представи работата си в MIRI, базирана в Бъркли организация с нестопанска цел, която съществува по-дълго, отколкото той я управлява. През последните 20 години MIRI се опитва да положи основите, за да гарантира, че развитието на ИИ върви добре. С дискусията Виталик се надяваше да отговори на това, което прави изкуствения интелект изключително рискован в сравнение с други технологии, пуснати в човешката история.
Вероятността ИИ да причини изчезването на хората
Виталик каза, че се интересува от темата за рисковете от ИИ от дълго време и си спомня, че е бил убеден, че има 0.5%-1% шанс целият живот на Земята да престане да съществува, ако ИИ се обърка – екзистенциален риск, който би причинил изчезването на човешката раса или необратимия крах на човешката цивилизация.
От гледна точка на Соарес изчезването на хората изглежда като резултат по подразбиране от опасното развитие на AI технологията. Сравнявайки го с еволюцията, той каза, че развитието на човечеството изглежда се случва по-бързо от обикновените еволюционни промени. Както в процесите на ИИ, така и в процесите на човешка еволюция, доминиращата оптимизация – процес на намиране на най-доброто решение на проблем, когато има множество цели за разглеждане – се променяше. Хората бяха достигнали точка, в която можеха да предават знания от уста на уста, вместо информацията да е закрепена в гени чрез естествен подбор.
„AI в крайна сметка е случай, в който можете да превключите процеса на макроскопична оптимизация отново. Мисля, че можете да се справите много по-добре от хората по отношение на оптимизацията. Мисля, че все още сме доста тъпи, когато става въпрос за оптимизиране на нашата среда. С изкуствения интелект ние преминаваме през своеобразен фазов преход, при който автоматизираната оптимизация е силата, която определя макроскопичните характеристики на Вселената“, обясни Соарес.
Той добави, че как изглежда това бъдеще е това, за което се оптимизира процесът на оптимизация и това вероятно ще спре да бъде от полза за човечеството, тъй като в повечето цели за оптимизация няма място за хора.
Могат ли хората да обучат AI да прави добро?
Бутерин посочи, че хората са тези, които обучават ИИ и му казват как да оптимизира. Ако е необходимо, те биха могли да променят начина, по който се оптимизира машината. На това Соарес каза, че по принцип е възможно да се обучи AI да прави добро, но простото обучение на AI за постигане на цел не означава, че той би или иска да направи това, което се свежда до желание.
Изтъквайки факта за обучението с подсилване в големи езикови модели, които получават големи количества данни за това какви са човешките предпочитания, Бутерин попита защо не работи, тъй като съществуващият интелект става все по-добър в разбирането какви са нашите предпочитания.
„Има голяма разлика между разбирането на нашите мотивации и това да ни пука,“
Соарес отговори.
„Моето твърдение не е, че голям езиков модел или AI няма да разбере детайлите на човешките предпочитания. Моето твърдение е, че разбирането на дребните детайли на човешките предпочитания е много различно от оптимизирането за доброта“, добави той.
Член на публиката направи сравнение между AI и хората, като каза, че подобно на изкуствения интелект, хората са склонни да не разбират какво правят или предвиждат, което също може да бъде опасно. След това той помоли Соарес да се престори, че е извънземен и да обясни защо не трябва да има хора.
„Не бих се развълнувал да дам божествени сили и контрол над бъдещето на отделен човек. Отделно, бих бил много по-развълнуван да дам власт на отделен човек, отколкото на произволно избран AI. Категорично не казвам, че не трябва да имаме AI. Казвам, че трябва да го оправим. Трябва да ги накараме да се грижат за бъдеще, което е пълно със забавление и щастие и процъфтяващи цивилизации, където трансхораните се ангажират с положителни сделки с извънземни и т.н.“, поясни Соарес. „Ако изградите силен процес на оптимизация, който се грижи за различни неща, това потенциално може да унищожи всички ценности на Вселената.“
Той добави, че нещата, които хората ценят, не са универсално убедителни и че моралът не е нещо, което всеки ум, който го изучава, би преследвал. Вместо това, това е резултат от вградените в хората нагони, които в средата на предците са ни накарали да бъдем добри в размножаването и са специфични за хората.
В крайна сметка Соарес вярва, че не трябва да изграждаме нещо, което е също толкова интелигентно или дори по-интелигентно, което е несъвместимо със забавлението, щастието и процъфтяващото бъдеще. От друга страна, той също каза, че човечеството не трябва да изгражда приятелски настроен суперинтелект, който оптимизира забавно бъдеще при първия си опит по време на надпревара във въоръжаването. В краткосрочен план AI трябва да се посвети на това да помага на човечеството да спечели време и пространство, за да разбере какво всъщност иска.
ChatGPT няма да погълне цялата биосфера
Тъй като AI в момента се изгражда за постигане на конкретни цели, включително прогнозиране, Бутерин попита, какво ще стане, ако AI не е целенасочен? Соарес каза, че е лесно да се създават AI, които са безопасни и неспособни, и скоро може да имаме AI, които са способни, но преследват различни неща. Той не мисли ChatGPT ще погълне цялата биосфера, тъй като не е на това ниво на капацитет.
Соарес отбеляза, че повечето интересни AI приложения, като автоматизирането на научното и технологично развитие и изследвания, изглежда изискват определено преследване на цели.
„Не е грешка, която можете да получите GPT да напишеш чисто хайку, но не можеш да го накараш да напише роман. Ограниченията на настоящите системи са свързани с факта, че те не преследват тези по-дълбоки цели, поне за мен.“
Чети повече:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Синди е журналист в Metaverse Post, обхващащи теми, свързани с web3, NFT, metaverse и AI, с акцент върху интервюта с Web3 играчи в индустрията. Тя е разговаряла с над 30 ръководители на ниво С и нараства, като е разказала ценните им прозрения на читателите. Първоначално от Сингапур, Синди сега е базирана в Тбилиси, Грузия. Тя има бакалавърска степен по комуникации и медийни изследвания от Университета на Южна Австралия и има десетилетие опит в журналистиката и писането. Свържете се с нея чрез [имейл защитен] с представяния за пресата, съобщения и възможности за интервю.
Още статии
Синди е журналист в Metaverse Post, обхващащи теми, свързани с web3, NFT, metaverse и AI, с акцент върху интервюта с Web3 играчи в индустрията. Тя е разговаряла с над 30 ръководители на ниво С и нараства, като е разказала ценните им прозрения на читателите. Първоначално от Сингапур, Синди сега е базирана в Тбилиси, Грузия. Тя има бакалавърска степен по комуникации и медийни изследвания от Университета на Южна Австралия и има десетилетие опит в журналистиката и писането. Свържете се с нея чрез [имейл защитен] с представяния за пресата, съобщения и възможности за интервю.
