Gramener izpilddirektors Anands S brīdina par riskiem akli uzticoties LLM, modeļu pratības aizstāvjiem
Īsumā
Sarunā ar Metaverse Post – Anand S, Gramener izpilddirektors, uzsvēra iespējamās nepilnības, ko rada pārmērīga paļaušanās uz LLM.
Tā kā simtiem AI un ML rīku piesātina tirgu, inovāciju potenciāls ir neierobežots. Lai risinātu nozares izaicinājumus, rodas daudz jaunuzņēmumu, savukārt nepārtraukts uzlaboto lielo valodu modeļu pieplūdums katru nedēļu pastiprina pārveidojošo spēku ģeneratīvais AI. Šī tehnoloģiskā konverģence pārveido nozares ar neierobežotām iespējām.
Tomēr tādu spēcīgu valodu modeļu kā Dvīņi izlaišana un plaša izmantošana rada svarīgus ētiskus un praktiskus apsvērumus un liek mums apsvērt jautājumu – vai mēs kā cilvēki varam akli uzticēties šādiem modeļiem?
Sarunā ar Metaverse Post — Anand S, ASV bāzētā B2B SaaS uzņēmuma izpilddirektors Greijers uzsvēra iespējamās nepilnības, ko rada pārmērīga paļaušanās uz tādiem LLM kā ChatGPT, brīdinot, ka šī tendence, visticamāk, saglabāsies arī ar jauniem modeļiem, piemēram, Gemini.
“Pat ar pareiziem apmācības datiem cilvēks var pieļaut kļūdas, izejot ārpus savas kompetences jomas. Vai lielais valodas modelis tādēļ ekstrapolē, vai arī tas atceras to, ko tas ir iemācījies? Pastāv milzīga atšķirība, un to ir vērts pārbaudīt. Mēs veidojam pārliecību, izmantojot intuīcijas, atkārtoti mijiedarbojoties ar cilvēkiem, ”sacīja Anands. "Mēs zinām, ka mums ir jāveic zonde, lai izmeklētu svešinieku, un tāpēc mums, iespējams, vajadzētu mijiedarboties arī ar lieliem valodu modeļiem."
Piemēram, lietā Varghese pret Southern Airlines Company Limited, advokāts citēja izdomātu ChatGPT-ģenerētas lietas, kuru rezultātā tiesnesis sodīja advokātu, uzsverot nekritiskas izmantošanas riskus. Anands uzsver, ka, izmantojot šādus valodu modeļus, jāievēro piesardzība un rūpīga pārbaude.
Turklāt šajā jomā ir nepieciešams spēcīgs atgriezeniskās saites mehānisms. ChatGPT mudina lietotājus sniegt atsauksmes, izmantojot vienkāršu pogu Patīk/Nepatīk kopā ar teksta ievadi. Šī pieeja apkopo vērtīgu ieskatu par to, kas darbojas labi un kas ne. Šī atgriezeniskās saites sistēma, visticamāk, kļūs arvien izplatītāka, izmantojot lieli valodu modeļi, palīdzot uzlabot viņu veiktspēju.
"Nav ļoti ekonomiski pārraudzīt katru LLM izvadi, taču iespēja atzīmēt iespējamās kļūdas ir spēcīga svira," sacīja Anands. Metaverse Post.
"Interesanti ir tas, ka lielie valodu modeļi paši ir diezgan labi, lai novērtētu citus lielos valodu modeļus. Tāpēc tā vietā, lai izmantotu cilvēku tikai rezultātu uzraudzībai, mēs varam izmantot LLM un cilvēku kombināciju, un LLM galu galā pārņems lielāko daļu cilvēka lomas, attīstoties,” viņš piebilda.
Modeļu pratība ir ceļš uz priekšu
LLM jomā parādās galvenais princips – jo vairāk mijiedarbības, jo dziļāka izpratne. Šī vienkāršā koncepcija uzsver saistību starp lietotāju iesaistīšanos un izpratni par LLM iespējām, galu galā palielinot izmantošanu.
“Tā ir arī izpratne par to, kam konkrētais LLM ir noderīgs. Piemēram, es neizmantotu DALL-E, lai ģenerētu logotipus, jo tas neģenerē tekstu ļoti labi. Taču tas lieliski ģenerē logotipu idejas un logotipu dizainus. Šis ir paraugpratības piemērs, kas rodas, atkārtoti lietojot, un tāpēc man to sniedz defiuzticamības jomas, kurās varu efektīvāk izmantot modeli,” sacīja Anands.
Meklējot līdzsvarotu valodu modeļu, piemēram, integrāciju Dvīņi Anands ierosina vairākas stratēģijas. Pirmkārt, viņš iestājas par ikdienas mijiedarbību ar lieliem valodas modeļiem, veicinot ieradumu, kas veidojas laika gaitā. Tāpat ļoti svarīgi ir nodrošināt universālu piekļuvi šiem rīkiem, un ir nepieciešams vairāk veicināt personisko izmantošanu. Anands atzīmē esošo organizāciju bloķēšanas tendenci ChatGPT par darba klēpjdatoriem, uzsverot atbalstošas komunikācijas nepieciešamību.
Viņš ierosina ieviest organizatoriskus mehānismus, lai nodrošinātu piekļuvi un veicinātu eksperimentēšanu ar valodu modeļiem (LLM) vidē.
"Galu galā cilvēki iepazīstas, ka viņi sapratīs, kam uzticēties, kad to izmantot un kā to izmantot. Palielināta izmantošana un mudināšana uz plašāku izmantošanu ir vissvarīgākā stratēģija un izglītības iniciatīvas, ko ikviens var izmantot, ”sacīja Anands. Metaverse Post.
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
Vairāk rakstus
Kumars ir pieredzējis tehnoloģiju žurnālists ar specializāciju AI/ML dinamiskos krustpunktos, mārketinga tehnoloģijās un tādās jaunās jomās kā kriptovalūta, blokķēde un NFTs. Ar vairāk nekā 3 gadu pieredzi šajā nozarē Kumar ir izveidojis pierādītus sasniegumus pārliecinošu stāstījumu veidošanā, ieskatu interviju vadīšanā un visaptverošu ieskatu sniegšanā. Kumar kompetence slēpjas augstas ietekmes satura, tostarp rakstu, ziņojumu un pētījumu publikāciju veidošanā ievērojamām nozares platformām. Ar unikālu prasmju kopumu, kas apvieno tehniskās zināšanas un stāstu stāstīšanu, Kumars izceļas ar sarežģītu tehnoloģisku koncepciju nodošanu dažādām auditorijām skaidrā un saistošā veidā.
