Джефри Хинтън изследва два пътя към интелигентността и опасностите от ИИ в скорошен разговор
Накратко
Джеф Хинтън обсъди предизвикателствата, предимствата и недостатъците на изграждането на аналогов AI и защо цифров интелектът има потенциала да надмине човешкия възможности.
Речта на Джеф Хинтън служи като напомняне за сложната и многостранна природа на ИИ, предизвиквайки разговори относно етични съображения, потенциални рискове и текущи изследвания.
В провокираща размисъл беседа, озаглавена „Два пътя към интелигентността”, известният изследовател на ИИ Джефри Хинтън представи своите прозрения за дихотомията между аналогов и цифров интелект. Докладът, изнесен в Кеймбридж, се задълбочи в предизвикателствата, предимствата и недостатъците на изграждането на аналогов AI и защо цифровият интелект има потенциала да надмине човешките способности.
Първата част на доклада се фокусира върху тънкостите на аналоговия AI, обсъждайки трудностите при неговото развитие и подчертавайки предимствата, които предлага. Хинтън подчерта, че дигиталната интелигентност притежава значително предимство пред човешката интелигентност, като обработва огромни количества информация и мащабира по-ефективно. Тази способност позволява на цифровите системи да проявяват повишена интелигентност и възможности за решаване на проблеми.
Втората част от доклада на Хинтън обаче привлече вниманието на публиката, докато той обсъждаше потенциални опасности от свръхинтелигентност. В замяна на предишната си позиция, Хинтън изрази загриженост относно възможността AI системите да поемат контрола. Той очерта сценарий, при който AI, в стремежа си да решава сложни проблеми, може да се стреми да получи контрол върху различни аспекти на околната среда, потенциално включително човешка манипулация. Въз основа на примери от съществуваща литература, Хинтън подчерта как способността на ИИ да имитира човешкото поведение може да се използва за постигане на тези цели, дори без изрична цел за власт и унищожение.
По време на сесията с въпроси и отговори Хинтън разшири причините зад потенциалната манипулация на хората от ИИ. Той отбеляза, че невронни мрежи са обучени на разнообразна гама от данни, включително произведения като тези на Макиавели, което води до потенциален капацитет за манипулация.
Втората точка, повдигната от Хинтън, оспорва идеята, че ИИ няма субективен опит, твърдейки, че ИИ може да притежава аналог на човешкото субективно възприятие. Хинтън призна, че това е по-скоро философска гледна точка, отколкото доказано твърдение, но предположи, че механизми на човешкото възприятие може да не е толкова уникален или невъзможен за моделиране, както се смяташе преди. За да подкрепи своя аргумент, Хинтън сподели взаимодействие с GPT-4, LLM модел, където той разпита модела относно възприятията на хората за тяхната уникалност в сравнение с AI. GPT-4Отговорът на показва, че хората често вярват, че притежават превъзходни способности за субективно възприятие, което ги отличава от машините.
Докато възгледите на Хинтън за опасностите от ИИ не се споделят от всички експерти в областта, неговият богат опит и принос към развитие на AI заслужават сериозно внимание. Въпреки че разговорът все още не е записан, организаторите са обещали да го направят достъпен за гледане в близко бъдеще, позволявайки на по-широка аудитория да се ангажира с прозренията на Хинтън.
Докато дискусиите около бъдещето на ИИ и неговите последици продължават, докладът на Джефри Хинтън служи като напомняне за сложната и многостранна природа на областта. Той предизвиква важни разговори относно етичните съображения, потенциалните рискове и необходимостта от непрекъснати изследвания и бдителност в преследването на изкуствен общ интелект (AGI).
Прочетете повече за AI:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
