CEO-ul Gramener, Anand S, avertizează asupra riscurilor legate de încrederea oarbă a LLM-urilor, susținând alfabetizarea modelului
Pe scurt
Într-o conversație cu Metaverse Post – Anand S, CEO al Gramener a evidențiat potențialele capcane ale dependenței excesive de LLM.
Cu sute de instrumente AI și ML care saturează piața, potențialul de inovare este nelimitat. Numeroase startup-uri apar pentru a face față provocărilor din industrie, în timp ce un aflux constant de modele de limbaj mari îmbunătățite în fiecare săptămână amplifică puterea de transformare a AI generativă. Această convergență tehnologică remodelează industriile cu posibilități nelimitate.
Cu toate acestea, lansarea și utilizarea pe scară largă a modelelor de limbaj puternice precum Gemeni ridică considerații etice și practice importante și ne cere să luăm în considerare o întrebare: putem noi, ca oameni, să avem încredere orbește în astfel de modele?
Într-o conversație cu Metaverse Post — Anand S, CEO al companiei B2B SaaS din SUA Gramener a subliniat potențialele capcane ale dependenței excesive de LLM, cum ar fi ChatGPT, avertizând că această tendință este probabil să persistă în cazul modelelor emergente precum Gemeni.
„Chiar și cu datele de antrenament potrivite, un om poate face erori atunci când iese în afara domeniului său de expertiză. Prin urmare, un model de limbaj mare extrapolează sau își amintește din ceea ce a învățat? Există o diferență uriașă și merită testată. Construim încrederea prin intuiții cu interacțiuni repetate cu oamenii”, a spus Anand. „Știm că trebuie să cercetăm pentru a investiga un străin și probabil că așa ar trebui să interacționăm și cu modele de limbaj mari.”
De exemplu, în cauza Varghese versus Southern Airlines Company Limited, un avocat a citat ficțiune ChatGPT-cazuri generate, conducând la penalizarea unui judecător pe avocat, subliniind riscurile utilizării necritice. Anand subliniază nevoia de prudență și control atunci când se folosește astfel de modele lingvistice.
În plus, domeniul necesită un mecanism robust de feedback. ChatGPT încurajează feedback-ul utilizatorilor printr-un simplu buton de degetul mare în sus/degetul în jos, cuplat cu introducerea textului. Această abordare adună informații valoroase despre ceea ce funcționează bine și ce nu. Este posibil ca acest sistem de feedback să devină mai comun odată cu utilizarea modele lingvistice mari, contribuind la îmbunătățirea performanței acestora.
„Nu este foarte economic să monitorizezi fiecare ieșire a unui LLM, dar a putea semnala erori potențiale este o pârghie puternică”, a spus Anand. Metaverse Post.
„Ceea ce este interesant este că modelele lingvistice mari în sine sunt destul de bune în evaluarea altor modele lingvistice mari. Deci, în loc să folosim un om exclusiv pentru monitorizarea rezultatelor, putem folosi o combinație de LLM și oameni, LLM-urile preluând în cele din urmă cea mai mare parte a rolului uman pe măsură ce evoluează”, a adăugat el.
Alfabetizarea modelului este calea de urmat
În domeniul LLM-urilor, apare un principiu cheie - cu cât mai multă interacțiune, cu atât mai profundă este înțelegerea. Acest concept simplu subliniază relația dintre implicarea utilizatorului și înțelegerea capabilităților LLM, conducând în cele din urmă la creșterea utilizării.
„Este, de asemenea, despre înțelegerea pentru ce este bun un anumit LLM. De exemplu, nu aș folosi DALL-E pentru a genera sigle, deoarece nu generează foarte bine text. Dar face o treabă grozavă de a genera idei de logo-uri și design de logo. Acesta este un exemplu de alfabetizare model care a apărut prin utilizarea repetată și, prin urmare, îmi oferă defiAm nevoie de domenii de încredere în care să pot folosi modelul mai eficient”, a spus Anand.
În căutarea unei integrări echilibrate a modelelor de limbaj precum zodia Gemeni în peisajul nostru tehnologic, Anand sugerează mai multe strategii. În primul rând, pledează pentru interacțiunile zilnice cu modele de limbaj mari, promovând un obicei care se dezvoltă în timp. De asemenea, asigurarea accesului universal la aceste instrumente este crucială, cu un apel pentru mai multă încurajare în utilizarea personală. Anand observă tendința existentă de blocare a organizațiilor ChatGPT pe laptopuri de serviciu, subliniind nevoia unei comunicări de sprijin.
El propune implementarea unor mecanisme organizaționale care să ofere acces și să încurajeze experimentarea cu modele de limbaj (LLM) într-un mediu.
„În cele din urmă, atunci când oamenii se familiarizează, vor înțelege în ce să aibă încredere, când să-l folosească și cum să-l folosească. Utilizarea sporită și încurajarea utilizării sporite sunt cea mai importantă strategie și inițiative educaționale pe care oricine le poate folosi”, a spus Anand. Metaverse Post.
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Kumar este un jurnalist tehnic cu experiență, cu o specializare în intersecțiile dinamice ale AI/ML, tehnologie de marketing și domenii emergente, cum ar fi cripto, blockchain și NFTs. Cu peste 3 ani de experiență în industrie, Kumar și-a stabilit o experiență dovedită în elaborarea de narațiuni convingătoare, realizarea de interviuri perspicace și furnizarea de informații cuprinzătoare. Expertiza lui Kumar constă în producerea de conținut de mare impact, inclusiv articole, rapoarte și publicații de cercetare pentru platforme proeminente din industrie. Cu un set unic de abilități care combină cunoștințele tehnice și povestirea, Kumar excelează în comunicarea conceptelor tehnologice complexe către diverse audiențe într-o manieră clară și captivantă.
Mai multe articole
Kumar este un jurnalist tehnic cu experiență, cu o specializare în intersecțiile dinamice ale AI/ML, tehnologie de marketing și domenii emergente, cum ar fi cripto, blockchain și NFTs. Cu peste 3 ani de experiență în industrie, Kumar și-a stabilit o experiență dovedită în elaborarea de narațiuni convingătoare, realizarea de interviuri perspicace și furnizarea de informații cuprinzătoare. Expertiza lui Kumar constă în producerea de conținut de mare impact, inclusiv articole, rapoarte și publicații de cercetare pentru platforme proeminente din industrie. Cu un set unic de abilități care combină cunoștințele tehnice și povestirea, Kumar excelează în comunicarea conceptelor tehnologice complexe către diverse audiențe într-o manieră clară și captivantă.
