Мицрософт је приморао ЛЛМ да забораве на Харија Потера
Мицрософт је открио метод за упућивање великих језичких модела (ЛЛМ) да забораве специфичне информације у оквиру својих скупова података без потребе за потпуном реконструкцијом података о обуци. Овај метод отвара нове могућности за побољшање ЛЛМ-а и потенцијално решавање правних питања која укључују садржај заштићен ауторским правима.
Мицрософтов тим је недавно показао како су успели да направе Llama-2 модел заборавља детаље књига о Харију Потеру без утицаја на друге податке у подацима о обуци модела или на укупне перформансе модела у студији описаној на страници њиховог истраживачког пројекта.
Процес почиње идентификацијом специфичних информација унутар скупа података модела које треба заборавити. У овом случају, радило се о детаљима везаним за легендарну серију ЈК Ровлинг, укључујући специфичности радње, имена ликова и познате цитате. Они су затим систематски замењени генеричким, неповезаним фразама.
Истраживачи су затим користили језички модел за генерисање нових информација на основу ових генеричких података. Ови свежи подаци су затим коришћени за поновну обуку оригинала Llama-2 модел постепено. Са сваким кораком, модел се удаљавао од књига о Харију Потеру све док није почео да производи халуцинантне одговоре када је упитан о њима.
Једна упечатљива карактеристика овог приступа је да не угрожава опште перформансе модела. То значи да док ЛЛМ све више заборавља на специфичне податке, његове укупне језичке могућности остају нетакнуте.
Упркос чињеници да се овај приступ још увек усавршава, његове импликације су широке. У ситуацијама које укључују правне тужбе и проблеме са ауторским правима, посебно, може пружити спас онима који креирају ЛЛМ и друге моделе АИ.
Ова иновација долази у време када су правни спорови око коришћења садржаја заштићеног ауторским правима у моделима вештачке интелигенције у порасту. На пример, Нев Иорк Тимес је недавно захтевао уклањање својих публикација из GPT-4 скуп података. У случају успешног правни изазов, програмери би обично морали да реконструишу своје скупове података модела, што је процес који одузима време и ресурсе. Мајкрософтов метод, ако се даље усаврши и усвоји, могао би да пружи ефикасно решење за такве изазове.
Мицрософтов метод да селективно заборавља одређене информације у оквиру великих језичких модела (ЛЛМс) је значајан напредак у развоју вештачке интелигенције, потенцијално решавање проблема са садржајем заштићеним ауторским правима и поједностављивање усавршавања. Овај приступ би се могао применити на различите домене, показујући одговоран развој и примену вештачке интелигенције.
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
