Microsoft змусила магістрів права забути про Гаррі Поттера
Microsoft розкрила метод для надання вказівок великим мовним моделям (LLM) забути певну інформацію у своїх наборах даних без потреби повної реконструкції навчальних даних. Цей метод відкриває нові можливості для вдосконалення LLM і потенційного вирішення юридичних проблем, пов’язаних із вмістом, захищеним авторським правом.
Нещодавно команда Microsoft продемонструвала, як вони змогли створити LlamaМодель -2 забуває деталі книг про Гаррі Поттера, не впливаючи на інші дані в навчальних даних моделі або загальну продуктивність моделі в дослідженні, описаному на сторінці дослідницького проекту.
Процес починається з визначення конкретної інформації в наборі даних моделі, про яку потрібно забути. У цьому випадку це були деталі, пов’язані з культовим серіалом Джоан Роулінг, включаючи особливості сюжету, імена персонажів і відомі цитати. Потім їх систематично замінювали загальними, непов’язаними фразами.
Потім дослідники застосували мовну модель для створення нової інформації на основі цих загальних даних. Потім ці свіжі дані були використані для перенавчання оригіналу Llama-2 модель поступово. З кожним кроком модель дистанціювалася від книг про Гаррі Поттера, поки не почала видавати галюцинаторні відповіді, коли її запитували про них.
Одна вражаюча особливість цього підходу полягає в тому, що він не погіршує загальну продуктивність моделі. Це означає, що в той час як LLM стає дедалі забувальнішим про конкретні дані, його загальні мовні можливості залишаються недоторканими.
Незважаючи на те, що цей підхід все ще вдосконалюється, його наслідки дуже різноманітні. У ситуаціях, пов’язаних із судовими претензіями та проблемами авторського права, зокрема, це може стати порятунком для тих, хто створює LLM та інші моделі ШІ.
Ця інновація з’явилася в той час, коли юридичні суперечки щодо використання захищеного авторським правом контенту в моделях ШІ зростають. Наприклад, Нещодавно New York Times вимагала видалення своїх публікацій від ст GPT-4 набір даних. У разі успішного правовий виклик, розробникам, як правило, доводиться реконструювати свої набори даних моделі, що займає багато часу та ресурсів. Метод Microsoft, у разі подальшого вдосконалення та впровадження, міг би забезпечити ефективне вирішення таких проблем.
Метод Microsoft вибірково забувати певну інформацію в моделях великих мов (LLM) є значним проривом у розробці штучного інтелекту, потенційно вирішуючи проблеми із вмістом, захищеним авторським правом, і оптимізує вдосконалення. Цей підхід можна застосувати до різних областей, демонструючи відповідальну розробку та застосування ШІ.
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
