Джеффрі Хінтон досліджує два шляхи до інтелекту та небезпеки штучного інтелекту в останній розмові
Коротко
Джефф Хінтон обговорив проблеми, переваги та недоліки побудови аналогового ШІ та чому цифровий інтелект має потенціал перевершити людський можливостей.
Виступ Джеффа Хінтона служить нагадуванням про складну та багатогранну природу ШІ, викликаючи розмови про етичні міркування, потенційні ризики та поточні дослідження.
У змістовній розмові під назвою «Два шляхи до інтелекту”, – відомий дослідник штучного інтелекту Джеффрі Хінтон представив своє розуміння дихотомії між аналоговим і цифровим інтелектом. Доповідь, представлена в Кембриджі, заглибилася в проблеми, переваги та недоліки побудови аналогового штучного інтелекту та чому цифровий інтелект може перевершити людські можливості.
Перша частина доповіді була присвячена тонкощам аналогового штучного інтелекту, обговоренню труднощів у його розробці та підкресленню переваг, які він пропонує. Хінтон підкреслив, що цифровий інтелект має значну перевагу над людським інтелектом, оскільки обробляє величезні обсяги інформації та ефективніше масштабується. Ця здатність дозволяє цифровим системам демонструвати підвищений інтелект і здатність вирішувати проблеми.
Однак саме друга частина доповіді Хінтона привернула увагу аудиторії, коли він обговорював потенційні небезпеки суперінтелекту. Відмінюючи свою попередню позицію, Хінтон висловив занепокоєння щодо можливості того, що системи ШІ візьмуть під контроль. Він окреслив сценарій, за яким штучний інтелект, прагнучи вирішити складні проблеми, може прагнути отримати контроль над різними аспектами навколишнього середовища, потенційно включаючи маніпуляції людьми. Спираючись на приклади з існуючої літератури, Хінтон підкреслив, як здатність штучного інтелекту імітувати людську поведінку може бути використана для досягнення цих цілей, навіть без явної мети влади та руйнування.
Під час сесії запитань і відповідей Хінтон детально розповів про причини потенційних маніпуляцій ШІ над людьми. Він зазначив, що нейронні мережі навчаються на різноманітних даних, включно з творами Макіавеллі, що призводить до потенційної здатності до маніпуляцій.
Другий пункт, піднятий Хінтоном, ставить під сумнів уявлення про те, що ШІ не має суб’єктивного досвіду, стверджуючи, що ШІ може володіти аналогом суб’єктивного сприйняття людини. Хінтон визнав, що це філософська перспектива, а не перевірене твердження, але припустив, що механізми сприйняття людини може бути не таким унікальним або неможливим для моделювання, як вважалося раніше. Щоб підтвердити свій аргумент, Хінтон поділився спілкуванням з GPT-4, модель LLM, де він запитав модель про сприйняття людьми своєї унікальності порівняно зі ШІ. GPT-4Відповідь показала, що люди часто вважають, що вони володіють вищими здібностями суб’єктивного сприйняття, що відрізняє їх від машин.
Хоча погляди Хінтона на небезпеку штучного інтелекту поділяють не всі експерти в цій галузі, його великий досвід і внесок у розвиток ШІ вимагають серйозного розгляду. Хоча виступ ще не записаний, організатори пообіцяли зробити його доступним для перегляду найближчим часом, що дозволить ширшій аудиторії ознайомитися з ідеєю Хінтона.
Оскільки дискусії навколо майбутнього штучного інтелекту та його наслідків тривають, виступ Джеффрі Хінтона служить нагадуванням про складну та багатогранну природу галузі. Це викликає важливі розмови про етичні міркування, потенційні ризики та необхідність постійних досліджень і пильності в пошуках штучного інтелекту (AGI).
Докладніше про ШІ:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
