Gramener CEO-su Anand S, kor-koranə etibar edən LLM-lərdə risklər barədə xəbərdarlıq edir, Model Savadlılığı müdafiə edir
Qısaca
İlə söhbətdə Metaverse Post – Anand S, Gramener-in baş direktoru LLM-lərə həddindən artıq etibarın potensial tələlərini vurğuladı.
Bazarı doyuran yüzlərlə AI və ML alətləri ilə innovasiya potensialı sonsuzdur. Sənaye problemlərinin öhdəsindən gəlmək üçün çoxlu startaplar meydana çıxır, hər həftə təkmil Böyük Dil Modellərinin daimi axını onların dəyişdirici gücünü artırır. generativ AI. Bu texnoloji yaxınlaşma sənayeləri sonsuz imkanlarla yenidən formalaşdırır.
Bununla belə, Əkizlər kimi güclü dil modellərinin buraxılması və geniş yayılması mühüm etik və praktiki mülahizələri gündəmə gətirir və bizdən bir sualı nəzərdən keçirməyimizi xahiş edir – insanlar olaraq bu cür modellərə kor-koranə etibar edə bilərikmi?
İlə söhbətdə Metaverse Post — Anand S, ABŞ-da yerləşən B2B SaaS şirkətinin baş direktoru Grammer kimi LLM-lərə həddindən artıq etibarın potensial tələlərini vurğuladı ChatGPT, bu tendensiyanın Əkizlər kimi yeni ortaya çıxan modellərlə davam edəcəyinə dair xəbərdarlıq edir.
“Hətta düzgün təlim məlumatları ilə insan öz təcrübəsindən kənara çıxarkən səhvlər edə bilər. Buna görə də böyük bir dil modeli ekstrapolyasiya edir, yoxsa öyrəndiklərini xatırlayır? Böyük bir fərq var və sınaqdan keçirməyə dəyər. Biz insanlarla təkrar qarşılıqlı əlaqə ilə intuisiya vasitəsilə inam yaradırıq”, - Anand bildirib. "Biz bir qəribi araşdırmaq üçün araşdırma aparmalı olduğumuzu bilirik və yəqin ki, böyük dil modelləri ilə də belə əlaqə saxlamalıyıq."
Məsələn, Varghese qarşı Southern Airlines şirkəti məhdud işində bir vəkil uydurma istinad etdi ChatGPT-Yaradılan iddialar, hakimin vəkilin cəzalandırılmasına gətirib çıxaran, tənqidi olmayan istifadə risklərini vurğulayır. Anand bu cür dil modellərindən istifadə edərkən ehtiyatlılıq və diqqətliliyə ehtiyac olduğunu vurğulayır.
Bundan əlavə, sahə güclü əks əlaqə mexanizmini tələb edir. ChatGPT mətn daxiletmə ilə birləşən sadə baş barmağı yuxarı/aşağı düyməsi vasitəsilə istifadəçi rəyini təşviq edir. Bu yanaşma nəyin yaxşı işlədiyi və nəyin yaramadığı barədə dəyərli fikirlər toplayır. Bu geribildirim sisteminin istifadəsi ilə daha çox yayılacağı ehtimal edilir böyük dil modelləri, onların performansını yaxşılaşdırmağa kömək edir.
"LLM-in hər bir məhsulunu izləmək çox qənaətcil deyil, lakin potensial səhvləri qeyd etmək güclü bir rıçaqdır" dedi Anand Metaverse Post.
“Maraqlısı odur ki, böyük dil modellərinin özləri digər böyük dil modellərini qiymətləndirməkdə kifayət qədər bacarıqlıdırlar. Beləliklə, yalnız məhsulun monitorinqi üçün bir insandan istifadə etməkdənsə, biz LLM və insanların birləşməsindən istifadə edə bilərik, nəticədə LLM-lər inkişaf etdikcə insan rolunun əsas hissəsini öz üzərinə götürürlər "dedi.
Model Savadlılığı İrəli Yoldur
LLM sahəsində əsas prinsip ortaya çıxır - qarşılıqlı əlaqə nə qədər çox olarsa, anlaşma bir o qədər dərin olar. Bu sadə konsepsiya istifadəçinin cəlb edilməsi və LLM imkanlarının dərk edilməsi arasındakı əlaqəni vurğulayır və nəticədə istifadənin artmasına səbəb olur.
“Bu, həm də müəyyən bir LLM-nin nə üçün yaxşı olduğunu başa düşməkdən ibarətdir. Məsələn, Mən DALL-E-dən loqo yaratmaq üçün istifadə etməzdim, çünki o, mətni çox yaxşı yaratmır. Ancaq loqo ideyaları və loqo dizaynları yaratmaq üçün əla iş görür. Bu, təkrar istifadə ilə ortaya çıxan və buna görə də mənə verən model savadlılığının bir nümunəsidir defiModeldən daha səmərəli istifadə edə biləcəyim etibar sahələri var” dedi Anand.
kimi dil modellərinin balanslaşdırılmış inteqrasiyası axtarışında Əkizlər texnoloji mənzərəmizə daxil olan Anand bir neçə strategiya təklif edir. Birincisi, o, zamanla formalaşan vərdişi inkişaf etdirərək, böyük dil modelləri ilə gündəlik qarşılıqlı əlaqənin tərəfdarıdır. Eyni şəkildə, şəxsi istifadədə daha çox həvəsləndirmə çağırışı ilə bu vasitələrə universal girişin təmin edilməsi çox vacibdir. Anand təşkilatların bloklanmasının mövcud tendensiyasını qeyd edir ChatGPT iş noutbuklarında dəstəkləyici ünsiyyətə ehtiyac olduğunu vurğulayır.
O, bir mühitdə Dil Modelləri (LLM) ilə girişi təmin etmək və eksperimentləri təşviq etmək üçün təşkilati mexanizmlərin həyata keçirilməsini təklif edir.
“Nəhayət, insanlar tanış olduqdan sonra nəyə etibar etməli, nə vaxt istifadə etməli və necə istifadə etməli olduqlarını başa düşəcəklər. Artan istifadə və artan istifadəni təşviq etmək hər kəsin istifadə edə biləcəyi ən vacib strategiya və təhsil təşəbbüsləridir" dedi Anand Metaverse Post.
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Kumar AI/ML-nin dinamik kəsişmələri, marketinq texnologiyaları və kriptovalyuta, blokçeyn və digər inkişaf etməkdə olan sahələr üzrə ixtisaslaşan təcrübəli Texniki Jurnalistdir. NFTs. Sənayedə 3 ildən çox təcrübəsi olan Kumar, cəlbedici povestlər hazırlamaq, dərin müsahibələr aparmaq və hərtərəfli fikirlər çatdırmaqda sübut edilmiş bir təcrübə yaratmışdır. Kumarın təcrübəsi görkəmli sənaye platformaları üçün məqalələr, hesabatlar və tədqiqat nəşrləri daxil olmaqla yüksək təsirli məzmunun hazırlanmasında yatır. Texniki bilik və hekayəni özündə birləşdirən unikal bacarıq dəsti ilə Kumar mürəkkəb texnoloji konsepsiyaları müxtəlif auditoriyalara aydın və cəlbedici şəkildə çatdırmaqda üstündür.
Ətraflı məqalələr
Kumar AI/ML-nin dinamik kəsişmələri, marketinq texnologiyaları və kriptovalyuta, blokçeyn və digər inkişaf etməkdə olan sahələr üzrə ixtisaslaşan təcrübəli Texniki Jurnalistdir. NFTs. Sənayedə 3 ildən çox təcrübəsi olan Kumar, cəlbedici povestlər hazırlamaq, dərin müsahibələr aparmaq və hərtərəfli fikirlər çatdırmaqda sübut edilmiş bir təcrübə yaratmışdır. Kumarın təcrübəsi görkəmli sənaye platformaları üçün məqalələr, hesabatlar və tədqiqat nəşrləri daxil olmaqla yüksək təsirli məzmunun hazırlanmasında yatır. Texniki bilik və hekayəni özündə birləşdirən unikal bacarıq dəsti ilə Kumar mürəkkəb texnoloji konsepsiyaları müxtəlif auditoriyalara aydın və cəlbedici şəkildə çatdırmaqda üstündür.
