Ross Anderson AI modelinin çökməsini onlayn məzmunda artan problem kimi müzakirə edir
Qısaca
Ross Anderson böyük dil modellərinin gələcək nəsillərinin intellektual tənəzzülü ilə bağlı potensial risklər barədə xəbərdarlıq edir (LLMs), yeni mətnləri redaktə etmək və yaratmaq üçün əsas vasitəyə çevrilmişdir.
Modelin çökməsi ilə əlaqəli riskləri anlamaq və azaltmaqla qarşısını almaq olar generativ AI.
Cəmi altı ay ərzində generativ süni intellekt dünyanın diqqətini çəkərək əhəmiyyətli irəliləyişlər əldə etdi. ChatGPT, bu texnologiyanın görkəmli nümunəsi, tez bir zamanda populyarlıq və geniş istifadə qazandı. Bununla belə, tanınmış ekspert Ross Anderson xəbərdarlıq edir potensial risklər modellərin gələcək nəsillərinin intellektual tənəzzülü ilə bağlıdır.
Ross Anderson təhlükəsizlik mühəndisliyi sahəsində qabaqcıl və təhlükəsizlik sistemləri və alqoritmlərində zəifliklərin aşkar edilməsində aparıcı orqandır. Kral Mühəndislik Akademiyasının əməkdaşı və Kembric Universitetinin professoru kimi o, müxtəlif sektorlar üzrə təhdid modellərini formalaşdıraraq informasiya təhlükəsizliyi sahəsinə geniş töhfələr verib.
İndi Anderson bəşəriyyət üçün qlobal təhlükə barədə həyəcan təbili çalır—böyük dil modellərinin (LLM) dağılması. Son vaxtlara qədər internetdəki mətnlərin çoxu insanlar tərəfindən yaradılırdı. LLM-lər indi insan tərəfindən yaradılan məzmunu əvəz edərək yeni mətnləri redaktə etmək və yaratmaq üçün əsas vasitəyə çevrilmişdir.
Bu dəyişiklik mühüm suallar doğurur: Bu tendensiya hara aparacaq və LLM-lər internetdə üstünlük təşkil etdikdə nə baş verəcək? Nəticələr yalnız mətndən kənara çıxır. Məsələn, əgər a musiqi modeli Motsartın bəstələri ilə öyrədilirsə, sonrakı nəsillər orijinalın parlaqlığından məhrum ola bilər və "Salieri" musiqili ilə müqayisə oluna biləcək daha aşağı nəticələr verə bilər. Hər sonrakı nəsil ilə keyfiyyət və intellektin azalması riski artır.
Bu konsepsiya sizə filmi xatırlada bilər”Çoxsaylılıq,” baş rolda Maykl Keaton çəkilir, burada klonlaşdırma intellektin azalmasına və hər bir sonrakı klonun axmaqlığının artmasına səbəb olur.
Eyni hadisə LLM ilə də baş verə bilər. Model tərəfindən yaradılan məzmunla bir modelin öyrədilməsi nəsillər boyu geri dönməz qüsurlara və mətn keyfiyyətinin pisləşməsinə səbəb olur. Məzmunun ilkin paylanması təhrif olunur, nəticədə mənasız məlumat axını baş verir. Qauss paylamaları yaxınlaşır və ekstremal hallarda mətn mənasızlaşa bilər. Sonrakı nəsillər hətta sələflərinin buraxdıqları səhvlərə əsaslanaraq reallığı səhv dərk edə bilərlər. Bu fenomen "model çökməsi" kimi tanınır.
Modelin çökməsinin nəticələri əhəmiyyətlidir:
✔️ İnternet getdikcə mənasız məzmunla dolur.
✔️ Bu məzmunu istehlak edən fərdlər istəmədən məlumatsızlaşa və intellektual imkanlarını itirə bilərlər.
Xoşbəxtlikdən, ümid var. Anderson, narahatlıqlar arasında bir nikbinlik parıltısı təqdim edərək, modelin çökməsinin qarşısını ala biləcəyini təklif edir. Potensial həllər və onlayn məlumatın keyfiyyətinin aşağı düşməsinin qarşısını almaq üçün daha çox məlumat əldə etmək üçün sizi daha çox araşdırmağı tövsiyə edirik.
Generativ süni intellekt vəd etsə də, ayıq qalmaq və onun təqdim etdiyi problemləri həll etmək vacibdir. Modelin çökməsi ilə bağlı riskləri başa düşmək və azaltmaqla, biz internetdə məlumatın bütövlüyünü qoruyarkən bu texnologiyanın üstünlüklərindən istifadə etmək istiqamətində işləyə bilərik.
AI haqqında daha çox oxuyun:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
