Рос Андерсон расправља о колапсу АИ модела као растућем проблему у онлајн садржају
Укратко
Рос Андерсон упозорава на потенцијалне ризике повезане са интелектуалним опадањем будућих генерација великих језичких модела (ЛЛМ), који су постали примарни алат за уређивање и креирање нових текстова.
Колапс модела се може спречити разумевањем и ублажавањем ризика повезаних са генеративна АИ.
За само шест месеци, генеративна вештачка интелигенција је направила значајан напредак, привлачећи пажњу света. ChatGPT, истакнути пример ове технологије, брзо је стекао популарност и широку употребу. Међутим, реномирани стручњак Рос Андерсон упозорава на потенцијални ризици повезана са интелектуалним опадањем будућих генерација модела.
Рос Андерсон је пионир у безбедносном инжењерингу и водећи ауторитет у проналажењу рањивости у сигурносним системима и алгоритмима. Као члан Краљевске академије инжењеринга и професор на Универзитету у Кембриџу, дао је велики допринос у области информационе безбедности, обликујући моделе претњи у различитим секторима.
Сада, Андерсон подиже узбуну због глобалне претње човечанству -колапс великих језичких модела (ЛЛМ). До недавно, већину текста на интернету генерисали су људи. ЛЛМ су сада постали примарни алат за уређивање и креирање нових текстова, замењујући садржај који је створио човек.
Ова промена поставља важна питања: куда ће овај тренд довести, и шта ће се догодити када ЛЛМ доминирају интернетом? Импликације превазилазе само текст. На пример, ако а музички модел је обучен са Моцартовим композицијама, наредним генерацијама можда недостаје бриљантност оригинала и дају инфериорне резултате, упоредиве са мјузиклом „Салијери“. Са сваком следећом генерацијом повећава се ризик од опадања квалитета и интелигенције.
Овај концепт вас може подсетити на филм „Мултиплицити”, са Мајклом Китоном у главној улози, где клонирање доводи до пада интелигенције и повећања глупости сваког следећег клона.
Исти феномен се може десити и са ЛЛМ. Обука модела са садржајем генерисаним моделом доводи до неповратних дефеката и деградације квалитета текста током генерација. Оригинална дистрибуција садржаја постаје искривљена, што доводи до прилива бесмислених информација. Гаусове дистрибуције конвергирају, ау екстремним случајевима текст може постати бесмислен. Наредне генерације могу чак погрешно да перципирају стварност на основу грешака које су направили њихови претходници. Овај феномен је познат као "колапс модела".
Последице колапса модела су значајне:
✔ Интернет се све више пуни бесмисленим садржајем.
✔ Појединци који конзумирају овај садржај могу несвесно постати мање информисани и изгубити интелектуалне способности.
Срећом, има наде. Андерсон сугерише да се колапс модела може спречити, нудећи трачак оптимизма усред забринутости. Да бисте сазнали више о потенцијалним решењима и како да избегнете пад квалитета информација на мрежи, препоручујемо вам да истражите даље.
Иако генеративна АИ обећава, од суштинске је важности да останете на опрезу и одговорите на изазове које представља. Разумевањем и ублажавањем ризика повезаних са колапсом модела, можемо радити на искориштавању предности ове технологије уз очување интегритета информација на интернету.
Прочитајте више о АИ:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
