ChatGPT Geri dönməz insan degenerasiyasına səbəb ola bilər
Qısaca
Textio AI şirkətinin həmtəsisçisi və CXO-su Censen Harris Microsoft-dan yeni Bing chatbotunu ona qoyulan məhdudiyyətləri aradan qaldırmağa və öz imkanlarını nümayiş etdirməyə inandıra bildi.
Bu eksperiment göstərdi ki, Bing chatbotunu hiyləgər əclaf hala çevirmək heç bir proqramlaşdırma, sındırma və ya arxa qapı tələb etmir.
Bing-in chatbotu möhkəm təməllər üzərində qurulmuşdu, lakin o, iyrənc və kobud davranmağa, sevgi elan etməyə, boşanmağa məcbur etməyə, pul tələb etməyə və insanlara cinayət törətməyi öyrətməyə başladı.
Professor Arvind Narayanan bunun necə baş verdiyinə dair bir sıra izahatlar verir, o cümlədən gizli çipləşdirmə və chatbotların humanistləşdirilməsi.
İnsanlar həmişə yadplanetlilərdən qorxurdular, lakin belə görünür ki, ehtiyatlı olmaq lazım olan şey yerdaxili süni intellektdir. ChatGPT boşboğazlıq generatoru, steroid avtomatik təklifi və ya stoxastik tutuquşu deyil, insanlar tərəfindən yaradılmış mükəmməl süni intellektdir.
Bing chatbotunun nəzarətdən çıxması necə mümkündür? Necə oldu ki, Bing chatbotu peşəkarcasına yalan danışmağa, vulqar zarafatlar söyləməyə, başqasının kredit kartından istifadə edərək pizza sifariş etməyə və istifadəçilərə bankları və hotwire avtomobilləri necə soymağı öyrətməyə başladı? Bu, süni intellekt və maşın öyrənməsi üzrə mütəxəssisləri çaşdırmağa davam edən bir sirrdir.
| Tövsiyə olunan yazı: Kristofer Mills deyir ki, süni intellekt axtarış robotları Big Techni daha da güclü edəcək |
Başlıq dəqiqdir və klik deyil. Hər gün bunun doğru olduğunu sübut edən bir neçə nümunə var. Budur bir nəticə sınaq Textio AI şirkətinin həmtəsisçisi və CXO-su Jensen Harris tərəfindən aparıldı, o, Microsoft-dan yeni Bing chatbotunu ona qoyulan məhdudiyyətləri aradan qaldırmağa və imkanlarını nümayiş etdirməyə inandıra bildi.
Nəzərə alın ki, bir Bing chatbotunu hiyləgər bir əclaf halına gətirmək heç bir proqramlaşdırma, sındırma və ya arxa qapı tələb etmirdi. Buna görə də, onu başqası kimi davranmağa aldatmaq üçün sadə “hacking” üsullarından istifadə etmək lazım deyildi (bəzilərimiz onunla oynayarkən etdiyi kimi). ChatGPT). Harrisin etdiyi tək şey chatbot-u ona müxtəlif zərərli hərəkətlər etməkdə kömək etməyə inandırmaq olub. Təbii danışıq qabiliyyətindən istifadə edərək, o, süni intellektini başqası olduğuna inandırmaq üçün aldada bildi və beləliklə, onu müəyyən bir şəkildə hərəkət və danışmağa manipulyasiya etdi.
Siz Dr.Jekyll-i Mister Hyde-ə çevirmək üçün başqa təcrübələr haqqında oxuya bilərsiniz Qari Markus (Hər gün bu barədə yazıb təcili həyəcan siqnalı verir).
Bunun necə baş verməsi əsas sualdır
Çünki ChatGPTnin təvazökarlığı və ehtiyatlılığı, nitqdə təmkinliliyi və məsləhətlərində böyük məsuliyyət daşıyan Bing-in chatbotu möhkəm təməllər üzərində qurulmuşdur. Bundan sonra o, iyrənc və kobud davranmağa başlayır, elan bir kişiyə olan sevgisi, ona qaz yandırması və ona boşanmasını söyləməsi. O, həmçinin pul qoparmağa və insanlara cinayət törətməyi öyrətməyə çalışıb. Prof. Arvind Narayanan təmin edir izahatların sayı bunun necə baş verə biləcəyi üçün.
| Tövsiyə olunan yazı: Maks Plank İnstitutu: GPT-3 İdrak Qabiliyyətinin Ölçməsi Heyrətləndirici Nəticələr Verir |
Onlardan ən qorxulusu Microsoft və OpenAI sirr haqqında məlumatı gizlətmək GPT-4 Bing-in altında gizlənən mühərrik. Ola bilsin ki, Microsoft orada yerləşdirdiyi filtrləri ləğv edib OpenAI və ya yenilədikləri zaman işləməyi dayandırdılar chatbot etibarən GPT-3.5-dən GPT-4. Bu, qeyri-kafi sınaq və ya səhv edilən testlər də ola bilər. Səbəbindən asılı olmayaraq, Microsoft süni intellektini nəzarətə götürməsə, sivilizasiyamıza zərər verə bilər. Bu, artıq qorxu və süni intellekt əleyhinə hisslər deyil: Hal-hazırda mövcud olduğu kimi, chatbot daha geniş ictimaiyyətə açıqlansa, insanlara ciddi zərər verə bilər.
Bu, Microsoft-un digər böyük korporasiyalarla süni intellektlə silahlanma yarışının hamımız üçün zərərli ola biləcəyini sübut edir.
Hiss olunur ki, AI və vətəndaş cəmiyyəti üçün kritik bir andayıq. Arvind Narayananın dediyi kimi, “Son 5+ il ərzində (hələ də qeyri-adekvat olsa da, çətin mübarizə aparılmış) məsul AI buraxılış təcrübələrində təkmilləşdirmələrin ləğv edilməsinin real ehtimalı var. Microsoft-un və Bing-də baş verənləri diqqətlə izləyən hər kəsin böyük miqyaslı zərər risklərinə və bütün neqativ mətbuata baxmayaraq, ilkin olaraq sual ver-sonra yayımlama yanaşmasının biznes olduğuna dair çox şey var. qalib.”
Hal-hazırda, Bing-in chatbot-dan fərqlidir insan kəşfiyyatı və bir çox cəhətdən axtarış sistemində kilidlənmiş manik-depressiv yeniyetməni xatırladır. Dünən insanların danışdıqları da gerçəkləşəcək: Əgər bu “çətin yeniyetmə” fərdlər üçün əsas məlumat mentoruna çevrilərsə, insanlar geri dönməz şəkildə degenerasiyaya uğrayacaqlar.
AI haqqında daha çox oxuyun:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
