Tinatalakay ni Ross Anderson ang Pagbagsak ng Modelo ng AI bilang Lumalagong Problema sa Online na Nilalaman
Sa madaling sabi
Nagbabala si Ross Anderson sa mga potensyal na panganib na nauugnay sa pagbaba ng intelektwal ng mga susunod na henerasyon ng malalaking modelo ng wika (LLMs), na naging pangunahing tool para sa pag-edit at paglikha ng mga bagong teksto.
Ang pagbagsak ng modelo ay mapipigilan sa pamamagitan ng pag-unawa at pagpapagaan sa mga panganib na nauugnay sa generative AI.
Sa loob lamang ng anim na buwan, ang generative AI ay gumawa ng mga makabuluhang hakbang, na nakakuha ng atensyon ng mundo. ChatGPT, isang kilalang halimbawa ng teknolohiyang ito, mabilis na nakakuha ng katanyagan at malawakang paggamit. Gayunpaman, nagbabala ang kilalang eksperto na si Ross Anderson tungkol sa mga potensyal na peligro nauugnay sa intelektwal na pagbaba ng mga susunod na henerasyon ng mga modelo.
Si Ross Anderson ay isang pioneer sa safety engineering at isang nangungunang awtoridad sa paghahanap ng mga kahinaan sa mga sistema ng seguridad at algorithm. Bilang Fellow ng Royal Academy of Engineering at isang Propesor sa Unibersidad ng Cambridge, malaki ang naiambag niya sa larangan ng seguridad ng impormasyon, na bumubuo ng mga modelo ng pagbabanta sa iba't ibang sektor.
Ngayon, itinaas ni Anderson ang alarma tungkol sa isang pandaigdigang banta sa sangkatauhan—ang pagbagsak ng malalaking modelo ng wika (LLMs). Hanggang kamakailan lamang, karamihan sa mga teksto sa internet ay nabuo ng mga tao. Ang mga LLM ay naging pangunahing tool na ngayon para sa pag-edit at paglikha ng mga bagong teksto, na pinapalitan ang nilalamang nabuo ng tao.
Ang pagbabagong ito ay nagtataas ng mahahalagang tanong: Saan hahantong ang trend na ito, at ano ang mangyayari kapag nangingibabaw ang mga LLM sa internet? Ang mga implikasyon ay higit pa sa text lamang. Halimbawa, kung a modelo ng musika ay sinanay sa mga komposisyon ni Mozart, ang mga susunod na henerasyon ay maaaring kulang sa kinang ng orihinal at makagawa ng mas mababang mga resulta, na maihahambing sa isang musikal na "Salieri." Sa bawat susunod na henerasyon, tumataas ang panganib ng pagbaba ng kalidad at katalinuhan.
Maaaring ipaalala sa iyo ng konseptong ito ang pelikula "Pagpaparami,” na pinagbibidahan ni Michael Keaton, kung saan ang pag-clone ay humahantong sa pagbaba ng katalinuhan at pagtaas ng katangahan ng bawat kasunod na clone.
Ang parehong kababalaghan ay maaaring mangyari sa mga LLM. Ang pagsasanay ng isang modelo na may nilalamang binuo ng modelo ay humahantong sa hindi maibabalik na mga depekto at pagkasira ng kalidad ng teksto sa mga henerasyon. Ang orihinal na pamamahagi ng nilalaman ay nagiging pangit, na nagreresulta sa isang pagdagsa ng walang katuturang impormasyon. Ang mga distribusyon ng Gaussian ay nagtatagpo, at sa matinding mga kaso, maaaring maging walang kabuluhan ang teksto. Ang mga susunod na henerasyon ay maaari pa ngang maniwala sa katotohanan batay sa mga pagkakamaling ginawa ng mga nauna sa kanila. Ang phenomenon na ito ay kilala bilang "model collapse."
Ang mga kahihinatnan ng pagbagsak ng modelo ay makabuluhan:
✔️ Ang internet ay lalong napupuno ng walang katuturang nilalaman.
✔️ Ang mga indibidwal na kumokonsumo ng nilalamang ito ay maaaring hindi sinasadyang maging mas kaunting kaalaman at mawalan ng mga kakayahan sa intelektwal.
Sa kabutihang palad, may pag-asa. Iminumungkahi ni Anderson na mapipigilan ang pagbagsak ng modelo, na nag-aalok ng isang kislap ng optimismo sa gitna ng mga alalahanin. Upang matuto nang higit pa tungkol sa mga potensyal na solusyon at kung paano maiwasan ang pagbaba ng kalidad ng online na impormasyon, hinihikayat ka naming mag-explore pa.
Bagama't nangangako ang generative AI, mahalagang manatiling mapagbantay at tugunan ang mga hamon na ibinibigay nito. Sa pamamagitan ng pag-unawa at pagpapagaan sa mga panganib na nauugnay sa pagbagsak ng modelo, maaari tayong magtrabaho patungo sa paggamit ng mga benepisyo ng teknolohiyang ito habang pinapanatili ang integridad ng impormasyon sa internet.
Magbasa pa tungkol sa AI:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
