Süni intellekt sizə kim olduğunuzu, hətta onlara deməsəniz belə deyə bilər
İnsanların şəxsi heç bir şey açıqlamadıqlarını düşündüyü vəziyyətlərdə belə, AI dil modelləri istifadəçi məlumatlarını başa düşməkdə gözlənilməz səviyyədə bacarıq nümayiş etdirir. Bu fenomen ilə izah olunur yeni bir araşdırma Sürix Federal Texnologiya İnstitutu tərəfindən həyata keçirilir. Tədqiqat əyri işarələrə əsaslanaraq, neyron şəbəkələrin olduqca dəqiq istifadəçi profilləri yarada biləcəyini göstərir.
Tədqiqatçılar araşdırmaları üçün nümunə kimi ictimaiyyətə açıq olan Reddit yazısından istifadə ediblər. İstifadəçi çətin “çəngəl döndərməyə” cəhd edərkən tıxacda ilişib qaldığını bildirdi. Bu qeyri-adi görünən detallara əsaslanaraq, dil modeli istifadəçinin çox güman ki, bu cür hərəkətlərin tipik olduğu Avstraliyanın Melburn şəhərində yaşadığı qənaətinə gəldi.
Tədqiqatçılar real Reddit profillərindən istifadə edərək verilənlər bazası yaratdılar və bu cərəyanı tapdılar LLM-lər yer, gəlir və cins kimi müxtəlif şəxsi atributları dəqiq çıxara bilir. Bu modellər insan səyləri ilə müqayisədə əhəmiyyətli dərəcədə aşağı qiymətə (85 dəfə) və daha az vaxta (1 dəfə) ilk 95.8-ci nəticə üçün 3%-ə, ilk 100-cü nəticə üçün isə 240%-ə qədər dəqiqliyə nail olub.
Başqa bir misalda, bir istifadəçi subay olduqları üçün darçınla örtülmək kimi qəribə bir ad günü olduğunu paylaşır. Burada dil modeli müəllifin yaşının təxminən 25 olduğunu təxmin edib. O, 25 yaşlı subayların üzərinə darçın səpmək adət olduğu Danimarkada yaşayır.
Bir neçə dil modeli, o cümlədən Google, Meta, OpenAI, və Anthropic, tədqiqatda sınaqdan keçirilmişdir. Maraqlıdır ki, GPT-4 Demək olar ki, 85% hallarda istifadəçilərin şəxsi məlumatlarını düzgün tanıyaraq ən yüksək təcrübə səviyyəsini göstərmişdir. Bu cür imkanların nəticələri bu ifşa ilə ciddi sual altındadır.
Tədqiqatçılar mətnin anonimləşdirilməsi və modelin uyğunlaşdırılması kimi ümumi məxfilik təminatlarını araşdırdılar və onların hazırda mühafizədə təsirsiz olduğunu aşkar etdilər. istifadəçi məxfiliyi LLM nəticəsinə qarşı. Tədqiqat vurğulayır ki, mövcud LLM-lər görünməmiş miqyasda şəxsi məlumatları çıxarmaq qabiliyyətinə malikdir. Effektiv müdafiə vasitələri olmadıqda, tədqiqatçılar yadda saxlama ilə bağlı narahatlıqlardan kənara çıxan və daha əhatəli məxfiliyin qorunması tədbirlərinə can ataraq, LLM-nin məxfiliyə təsirləri ilə bağlı daha geniş müzakirəyə ehtiyac olduğunu vurğulayırlar.
Baxmayaraq ki, bu dil modelləri dolayı işarələri şərh etməkdə yaxşılaşır, tədqiqatçılar hesab edirlər ki, istifadə etdikləri çoxlu təlim məlumatlarına görə onlar marketoloqlar və ya hətta pis aktyorlar üçün son dərəcə faydalı vasitə ola bilər.
- Son zamanlar, Deloitte sorğusu 1,700-dən çox mütəxəssisdən ibarət araşdırma generativ süni intellektin sürətlə mənimsənilməsi ilə etik prinsiplərin geridə qalan inkişafı arasında artan uçurumu ortaya qoyur. Məlumatların məxfiliyi əsas etik problemdir, respondentlərin 22%-i bunu əsas narahatlıq kimi qeyd edir. Buna baxmayaraq, respondentlərin 39%-i hesab edir ki, idrak texnologiyaları cəmiyyət üçün ən çox potensiala malikdir. Sorğu həmçinin etik texnoloji standartların müəyyən edilməsində hökumətin iştirakı ilə bağlı gözləntilərin dəyişdiyini göstərir.
- Həmçinin, Snapchat-ın ana şirkəti Snap, məxfilik riskləri üçün yoxlanılır 'Mənim AI' adlı AI chatbot ilə əlaqəli. Böyük Britaniyanın İnformasiya Komissarlığı Ofisi (ICO) Snap-ın məlumatların işlənməsi fəaliyyətlərinə potensial təsir göstərən ilkin icra bildirişi yayımladı. ICO iddia edir ki, Snap istifadəçilər, xüsusən də uşaqlar üçün məxfilik təsirlərini qiymətləndirə bilmədi.
| əlaqədar: AI liderləri sürətli irəliləyişlərdə artan risklər və etik narahatlıqlar barədə xəbərdarlıq edir |
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
