Izvršni direktor Gramenera Anand S upozorava na rizike slijepog povjerenja doktora prava, zagovaranja opismenjavanja modela
Ukratko
U razgovoru s Metaverse Post – Anand S, izvršni direktor Gramenera istaknuo je potencijalne zamke pretjeranog oslanjanja na LLM.
Sa stotinama AI i ML alata koji zasiću tržište, inovacijski potencijal je neograničen. Pojavljuju se brojni startupi kako bi se uhvatili u koštac s izazovima industrije, dok stalni priljev poboljšanih modela velikih jezika svaki tjedan pojačava transformativnu snagu generativni AI. Ova tehnološka konvergencija preoblikuje industrije s neograničenim mogućnostima.
Međutim, objavljivanje i široka uporaba moćnih jezičnih modela kao što je Gemini pokreće važna etička i praktična razmatranja i traži od nas da razmislimo o pitanju – možemo li mi kao ljudi slijepo vjerovati takvim modelima?
U razgovoru s Metaverse Post — Anand S, izvršni direktor B2B SaaS tvrtke sa sjedištem u SAD-u Gramener naglasio potencijalne zamke pretjeranog oslanjanja na doktorske studije poput ChatGPT, upozoravajući da će se ovaj trend vjerojatno zadržati s modelima u nastajanju kao što je Gemini.
“Čak i uz prave podatke o obuci, čovjek može pogriješiti kada izađe izvan svog područja stručnosti. Ekstrapolira li stoga veliki jezični model ili se prisjeća onoga što je naučio? Postoji ogromna razlika i vrijedi je isprobati. Gradimo samopouzdanje kroz intuiciju uz ponovljene interakcije s ljudima,” rekao je Anand. "Znamo da trebamo sondirati kako bismo istražili stranca i tako bismo vjerojatno trebali komunicirati i s velikim jezičnim modelima."
Na primjer, u ograničenom slučaju Varghese protiv kompanije Southern Airlines, odvjetnik je naveo izmišljeno ChatGPT-generirani slučajevi, dovodeći do toga da sudac kazni odvjetnika, naglašavajući rizike nekritičke uporabe. Anand naglašava potrebu za oprezom i provjerom pri korištenju takvih jezičnih modela.
Nadalje, polje zahtijeva robustan mehanizam povratne sprege. ChatGPT potiče povratne informacije korisnika putem jednostavnog gumba palac gore/palac dolje, zajedno s unosom teksta. Ovaj pristup prikuplja vrijedne uvide u to što funkcionira dobro, a što ne. Ovaj sustav povratnih informacija vjerojatno će postati uobičajeniji s upotrebom veliki jezični modeli, pomažući u poboljšanju njihove izvedbe.
"Nije baš ekonomično nadzirati svaki pojedini rezultat LLM-a, ali mogućnost označavanja potencijalnih pogrešaka je moćna poluga", rekao je Anand Metaverse Post.
“Ono što je zanimljivo jest da su veliki jezični modeli sami po sebi prilično dobri u procjeni drugih velikih jezičnih modela. Dakle, umjesto da koristimo čovjeka isključivo za praćenje rezultata, možemo koristiti kombinaciju LLM-a i ljudi, pri čemu LLM-i na kraju preuzimaju većinu ljudske uloge kako se razvijaju,” dodao je.
Pismenost modela je put naprijed
U području LLM-a pojavljuje se ključno načelo – što je više interakcije, to je dublje razumijevanje. Ovaj jednostavan koncept naglašava odnos između angažmana korisnika i razumijevanja mogućnosti LLM-a, što u konačnici dovodi do većeg korištenja.
“Također se radi o razumijevanju za što je dobar određeni LLM. Na primjer, ne bih koristio DALL-E za generiranje logotipa jer ne generira dobro tekst. Ali radi sjajan posao generiranja ideja i dizajna logotipa. Ovo je primjer opismenjavanja modela koji je nastao ponovljenom uporabom i stoga mi daje defiNašla sam područja povjerenja unutar kojih mogu učinkovitije koristiti model”, rekao je Anand.
U potrazi za uravnoteženom integracijom jezičnih modela poput Blizanci u naše tehnološko okruženje, Anand predlaže nekoliko strategija. Prvo, zalaže se za svakodnevnu interakciju s velikim jezičnim modelima, njegujući naviku koja se s vremenom gradi. Isto tako, ključno je osigurati univerzalni pristup ovim alatima, uz poziv na više poticaja za osobnu upotrebu. Anand primjećuje postojeći trend blokiranja organizacija ChatGPT na radnim prijenosnim računalima, naglašavajući potrebu za podržavajućom komunikacijom.
On predlaže implementaciju organizacijskih mehanizama za pružanje pristupa i poticanje eksperimentiranja s jezičnim modelima (LLM) unutar okruženja.
“U konačnici, kada se ljudi upoznaju, shvatit će čemu vjerovati, kada to koristiti i kako to koristiti. Povećana upotreba i poticanje povećane upotrebe najvažnija su strategija i obrazovne inicijative koje svatko može primijeniti,” rekao je Anand Metaverse Post.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
Više članaka
Kumar je iskusan tehnološki novinar sa specijalizacijom u dinamičkim raskrižjima AI/ML-a, marketinške tehnologije i novih područja kao što su kripto, blockchain i NFTs. S više od 3 godine iskustva u industriji, Kumar ima dokazanu reputaciju u izradi uvjerljivih priča, provođenju pronicljivih intervjua i pružanju sveobuhvatnih uvida. Kumarova stručnost leži u izradi sadržaja visokog utjecaja, uključujući članke, izvješća i istraživačke publikacije za istaknute industrijske platforme. S jedinstvenim skupom vještina koje kombiniraju tehničko znanje i pripovijedanje, Kumar se ističe u komuniciranju složenih tehnoloških koncepata različitoj publici na jasan i privlačan način.
