Росс Андерсон обговорює колапс моделі AI як зростаючу проблему в онлайн-контенті
Коротко
Росс Андерсон попереджає про потенційні ризики, пов’язані з інтелектуальним занепадом майбутніх поколінь великих мовних моделей (LLM), які стали основним інструментом редагування та створення нових текстів.
Краху моделі можна запобігти, розуміючи та зменшуючи ризики, пов’язані з генеративний ШІ.
Лише за шість місяців генеративний ШІ досяг значних успіхів, привернувши увагу світу. ChatGPT, яскравий приклад цієї технології, швидко набув популярності та широкого використання. Однак відомий експерт Росс Андерсон попереджає про потенційні ризики пов'язані з інтелектуальним занепадом майбутніх поколінь моделей.
Росс Андерсон є піонером у галузі техніки безпеки та провідним авторитетом у пошуку вразливостей у системах безпеки та алгоритмах. Будучи членом Королівської інженерної академії та професором Кембриджського університету, він зробив великий внесок у сферу інформаційної безпеки, формуючи моделі загроз у різних секторах.
Тепер Андерсон б’є тривогу про глобальну загрозу людству…крах великих мовних моделей (LLM). До недавнього часу більшість тексту в Інтернеті створювали люди. LLM тепер стали основним інструментом для редагування та створення нових текстів, замінюючи контент, створений людьми.
Цей зсув викликає важливі питання: куди приведе ця тенденція і що станеться, коли LLM домінуватимуть в Інтернеті? Наслідки виходять за рамки лише тексту. Наприклад, якщо a музична модель навчається композиціям Моцарта, наступним поколінням може не вистачити блиску оригіналу та отримати гірші результати, порівнянні з мюзиклом «Сальєрі». З кожним наступним поколінням зростає ризик зниження якості та інтелекту.
Ця концепція може нагадати вам фільм "множинність”, з Майклом Кітоном у головній ролі, де клонування призводить до зниження інтелекту та зростання дурості кожного наступного клону.
Те саме явище може статися з LLM. Навчання моделі за допомогою контенту, створеного моделлю, призводить до незворотних дефектів і погіршення якості тексту протягом багатьох поколінь. Початковий розподіл вмісту спотворюється, що призводить до припливу безглуздої інформації. Розподіл Гауса збігається, і в екстремальних випадках текст може втратити сенс. Наступні покоління можуть навіть неправильно сприймати реальність через помилки, зроблені їхніми попередниками. Це явище відоме як «крах моделі».
Наслідки колапсу моделі значні:
✔️ Інтернет стає все більше наповненим безглуздим контентом.
✔️ Люди, які споживають цей вміст, можуть мимоволі стати менш поінформованими та втратити інтелектуальні здібності.
На щастя, надія є. Андерсон припускає, що краху моделі можна запобігти, пропонуючи проблиск оптимізму на тлі занепокоєння. Щоб дізнатися більше про потенційні рішення та про те, як уникнути зниження якості онлайн-інформації, радимо вам досліджувати це далі.
Хоча генеративний ШІ багатообіцяючий, важливо залишатися пильним і вирішувати виклики, які він створює. Розуміючи та зменшуючи ризики, пов’язані з падінням моделі, ми можемо працювати над використанням переваг цієї технології, зберігаючи при цьому цілісність інформації в Інтернеті.
Докладніше про ШІ:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
