Mütəxəssislər süni intellekt verilənlər bazasına “zərərli əlavələrə” qarşı xəbərdarlıq edir ChatGPT
Qısaca
ChatGPT potensialdır həssas təlim məlumatlarına görə.
Tədqiqatçıların fikrincə, ABŞ-da cəmi 60 dollara biz 0.01-ci ildə LAION-400 və ya COYO-700 məlumat dəstlərinin 2022%-ni zəhərləyə bilərik.
ChatGPT texnologiya getdikcə populyarlaşır, lakin son zamanlarda tədqiqat bu texnologiyanın istifadə etdiyi təlim məlumatlarına görə həssas ola biləcəyini təklif edir. Modellər daha mürəkkəbləşdikcə və məlumat dəstləri böyüdükcə və mürəkkəbləşdikcə, zərərli aktorlar məlumat dəstlərini manipulyasiya etmək üçün bu zəiflikdən istifadə edə və maşın öyrənmə modellərinin qeyri-dəqiq nəticələr əldə etməsinə səbəb ola bilər.
| Tövsiyə edilir: tərəfindən proqnozlaşdırılan 10 ən perspektivli səhmlər ChatGPT (AI) 2023-cü ildə Aparıcı Dünya Fondlarını üstələyəcək |
Əsas narahatlıq ondan ibarətdir ki, chatbot verilənlər bazaları çox vaxt "şərti olaraq təsdiqlənmiş" məlumat dəstləridir, yəni geniş yoxlama olmadan məlumatlara müəyyən bir etibar səviyyəsi var. Başqa sözlə, bu məlumat dəstlərində çox vaxt nəzərə alınmamış əsas problemlər ola bilər. Baxmayaraq ki, verilənlər toplusunun yoxlanılması onların böyük ölçülərinə görə çox vaxt həyata keçirilmir, zərərli aktorların bu məlumatları manipulyasiya etmək potensialı mövcuddur.
Əslində, tədqiqatçılar 2022-ci ilə qədər təcavüzkarların LAION-60 və ya COYO-0.01 məlumat dəstlərinin 400%-ni zəhərləmək üçün təxminən 700 dollar xərcləyəcəyini irəli sürdülər. Bu o qədər də səslənməsə də, pis niyyətli aktyorlar nəzarət edilmədiyi təqdirdə bu zəhərlənmiş məlumatdan öz mənfəətləri üçün istifadə edə bilər. Zərərli məlumatlar nəticədə ola bilər keçirtmək daha böyük verilənlər toplusuna çevrilərək, məlumatların keyfiyyətini pozur və etibarsız maşın öyrənmə modellərinə gətirib çıxarır.
Məlumat bazalarını zərərli məlumatlardan qorumaq üçün tədbirlər görmək lazımdır. Bir neçə məlumat mənbəyinin birləşdirilməsi chatbot üçün standarta çevrilməlidir təlim məlumat dəstləri məlumatların etibarlı və dəqiq olmasını təmin etmək. Bundan əlavə, şirkətlər məlumat dəstləri ilə sınaqdan keçirməlidir ki, onların zərərli aktorlara qarşı həssas olmasın.
Zərərli Koda malik AI Chatbotları Hakerlərə Həssas ola bilər
Çatbotlarda zərərli kod təhlükəsi olduqca ciddi ola bilər; zərərli kod istifadəçi məlumatlarını oğurlamaq, serverlərə zərərli girişi təmin etmək və kimi zərərli fəaliyyətləri aktivləşdirmək üçün istifadə edilə bilər. çirkli pulların yuyulması və ya məlumatların eksfiltrasiyası. Əgər süni intellekt chatbotuna zərərli əlavələr olan məlumatlar öyrədilirsə, o, bilmədən öz cavablarına zərərli kodu yeridə bilər və bilmədən zərərli mənfəət üçün alət kimi istifadə edilə bilər.
Zərərli aktyorların bilərəkdən və ya təsadüfən zərərli kodu daxil etməklə bu boşluqdan istifadə etməsi mümkündür. təlim məlumatları. Bundan əlavə, süni intellekt chatbotları təqdim olunan məlumatlardan öyrəndikləri üçün bu, potensial olaraq onların yanlış cavablar və ya hətta zərərli davranışlar öyrənməsinə səbəb ola bilər.
Süni intellekt chatbotlarının qarşılaşa biləcəyi başqa bir təhlükə “həddindən artıq uyğunlaşma”dır. Bu, proqnozlaşdırma modellərinin onlara verilmiş məlumatlara çox yaxından öyrədilməsidir və beləliklə, yeni məlumatlar təqdim edildikdə zəif proqnozlara səbəb olur. Bu kimi xüsusi bir problem ola bilər AI söhbət botları Zərərli kod üzrə təlim keçmişlər, məlumatlarla daha yaxından tanış olduqları üçün cavablarına zərərli kodu yeritməkdə potensial olaraq daha effektiv ola bilər.
Risklərdən xəbərdar olmaq və öyrətmək üçün istifadə olunan təlim məlumatlarına zəmanət vermək üçün ehtiyat tədbirləri görmək vacibdir ChatGPT bu potensial zəifliklərin qarşısını almaq üçün təhlükəsiz və etibarlıdır. Təlim üçün istifadə edilən ilkin məlumatlar da ayrıca və unikal saxlanılmalıdır; “zərərli əlavələrin” təşviqi digər mənbələrlə ziddiyyət təşkil etməməli və ya üst-üstə düşməməlidir. Çoxsaylı təsdiqlənmiş domeni “ələ keçirmək” verilənləri təsdiqləmək üçün mümkün olarsa, o, araşdırılmalı və digər domenlərlə müqayisə edilməlidir.
Chatbot texnologiyası insanların insan müzakirələrini necə aparacağını vəd edir. Lakin o, öz potensialını tam reallaşdıra bilməmişdən əvvəl onu təkmilləşdirmək və qorumaq lazımdır. Çatbotlar üçün məlumat dəstləri yaxşı yoxlanılmalı və zərərli aktyorların qarşısını almaq üçün hazır olmalıdır. Bunu etməklə, biz texnologiyanın potensialından tam istifadə etməyimizə və irəliləməyə davam etdiyimizə əmin ola bilərik hədd süni intellekt.
AI haqqında daha çox oxuyun:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
