Nagbabala ang Gramener CEO na si Anand S tungkol sa mga Panganib sa Bulag na Pagtitiwala sa mga LLM, Mga Tagapagtaguyod para sa Model Literacy
Sa madaling sabi
Sa isang pakikipag-usap sa Metaverse Post – Itinampok ni Anand S, CEO ng Gramener ang mga potensyal na pitfalls ng labis na pag-asa sa mga LLM.
Sa daan-daang mga tool ng AI at ML na bumabad sa merkado, ang potensyal ng pagbabago ay walang limitasyon. Maraming mga startup ang umuusbong upang harapin ang mga hamon sa industriya, habang ang patuloy na pagdagsa ng mga pinahusay na Large Language Models bawat linggo ay nagpapalakas ng transformative power ng generative AI. Ang teknolohikal na tagpo na ito ay muling hinuhubog ang mga industriya na may walang hangganang mga posibilidad.
Gayunpaman, ang pagpapalabas at malawakang paggamit ng makapangyarihang mga modelo ng wika tulad ng Gemini ay nagpapataas ng mahahalagang etikal at praktikal na pagsasaalang-alang, at humihiling sa atin na isaalang-alang ang isang tanong - Maaari ba tayong bilang mga tao nang walang taros na magtiwala sa mga naturang modelo?
Sa isang pakikipag-usap sa Metaverse Post — Anand S, CEO ng kumpanyang B2B SaaS na nakabase sa US Gramener binigyang-diin ang mga potensyal na pitfalls ng labis na pag-asa sa mga LLM tulad ng ChatGPT, na nagbabala na ang trend na ito ay malamang na magpapatuloy sa mga umuusbong na modelo tulad ng Gemini.
"Kahit na may tamang data ng pagsasanay, ang isang tao ay maaaring magkamali kapag lumalabas sa kanilang lugar ng kadalubhasaan. Ang isang malaking modelo ng wika samakatuwid ay extrapolating, o ito ba ay nag-aalala mula sa kung ano ang natutunan nito? Mayroong isang malaking pagkakaiba, at ito ay nagkakahalaga ng pagsubok. Bumubuo kami ng kumpiyansa sa pamamagitan ng mga intuwisyon na may paulit-ulit na pakikipag-ugnayan sa mga tao, "sabi ni Anand. "Alam namin na kailangan naming mag-imbestiga para imbestigahan ang isang estranghero at ganoon din siguro kami sa mga malalaking modelo ng wika."
Halimbawa, sa limitadong kaso ng kumpanya ng Varghese versus Southern Airlines, binanggit ng isang abogado ang kathang-isip ChatGPT-binuo ng mga kaso, na humahantong sa isang hukom na parusahan ang abogado, na nagbibigay-diin sa mga panganib ng hindi kritikal na paggamit. Binibigyang-diin ni Anand ang pangangailangan para sa pag-iingat at pagsisiyasat kapag gumagamit ng gayong mga modelo ng wika.
Higit pa rito, ang larangan ay humihiling ng isang matatag na mekanismo ng feedback. ChatGPT hinihikayat ang feedback ng user sa pamamagitan ng simpleng thumbs up/thumbs down na button, kasama ng text input. Ang diskarteng ito ay nangangalap ng mahahalagang insight sa kung ano ang gumagana nang maayos at kung ano ang hindi. Ang feedback system na ito ay malamang na maging mas karaniwan sa paggamit ng malalaking modelo ng wika, tumutulong na mapabuti ang kanilang pagganap.
"Hindi masyadong matipid na subaybayan ang bawat solong output ng isang LLM, ngunit ang kakayahang i-flag off ang mga potensyal na error ay isang malakas na pingga," sabi ni Anand Metaverse Post.
"Ang kawili-wili ay ang mga malalaking modelo ng wika mismo ay medyo mahusay sa pagtatasa ng iba pang malalaking modelo ng wika. Kaya sa halip na gumamit ng isang tao na eksklusibo para sa pagsubaybay sa output, maaari tayong gumamit ng kumbinasyon ng mga LLM at mga tao, kung saan ang mga LLM sa kalaunan ay pumalit sa bulto ng papel ng tao habang sila ay nagbabago," dagdag niya.
Ang Model Literacy ay ang Way Forward
Sa larangan ng mga LLM, lumilitaw ang isang pangunahing prinsipyo - mas maraming pakikipag-ugnayan, mas malalim ang pag-unawa. Binibigyang-diin ng tuwirang konseptong ito ang kaugnayan sa pagitan ng pakikipag-ugnayan ng user at pag-unawa sa mga kakayahan ng LLM, na sa huli ay nagtutulak ng mas mataas na paggamit.
"Tungkol din ito sa pag-unawa kung para saan ang isang partikular na LLM. Halimbawa, hindi ko gagamitin ang DALL-E para makabuo ng mga logo dahil hindi ito masyadong nakakabuo ng text. Ngunit ito ay isang mahusay na trabaho ng pagbuo ng mga ideya ng logo at mga disenyo ng logo. Ito ay isang halimbawa ng model literacy na nanggagaling sa paulit-ulit na paggamit at, samakatuwid, ay nagbibigay sa akin defimga lugar ng pagtitiwala kung saan ko magagamit ang modelo nang mas epektibo," sabi ni Anand.
Sa paghahanap para sa isang balanseng integrasyon ng mga modelo ng wika tulad ng Gemini sa aming teknolohikal na tanawin, nagmumungkahi si Anand ng ilang mga diskarte. Una, nagsusulong siya para sa pang-araw-araw na pakikipag-ugnayan sa malalaking modelo ng wika, na nagsusulong ng isang ugali na nabubuo sa paglipas ng panahon. Gayundin, ang pagtiyak ng unibersal na pag-access sa mga tool na ito ay mahalaga, na may panawagan para sa higit pang paghihikayat sa personal na paggamit. Sinabi ni Anand ang kasalukuyang kalakaran ng pagharang ng mga organisasyon ChatGPT sa mga laptop sa trabaho, na binibigyang-diin ang pangangailangan para sa suportang komunikasyon.
Iminumungkahi niya ang pagpapatupad ng mga mekanismong pang-organisasyon upang magbigay ng access at hikayatin ang pag-eeksperimento sa Language Models (LLMs) sa loob ng isang kapaligiran.
"Sa huli, kapag naging pamilyar ang mga tao na mauunawaan nila kung ano ang pinagkakatiwalaan, kung kailan ito gagamitin, at kung paano ito gagamitin. Ang pagtaas ng paggamit at paghikayat sa pagtaas ng paggamit, ay ang pinakamahalagang diskarte at mga hakbangin sa edukasyon na maaaring gamitin ng sinuman, "sabi ni Anand Metaverse Post.
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Kumar ay isang makaranasang Tech Journalist na may espesyalisasyon sa mga dynamic na intersection ng AI/ML, teknolohiya sa marketing, at mga umuusbong na larangan tulad ng crypto, blockchain, at NFTs. Sa mahigit 3 taong karanasan sa industriya, si Kumar ay nagtatag ng isang napatunayang track record sa paggawa ng mga nakakahimok na salaysay, pagsasagawa ng mga insightful na panayam, at paghahatid ng mga komprehensibong insight. Ang kadalubhasaan ni Kumar ay nakasalalay sa paggawa ng nilalamang may mataas na epekto, kabilang ang mga artikulo, ulat, at mga publikasyong pananaliksik para sa mga kilalang platform ng industriya. Sa isang natatanging hanay ng kasanayan na pinagsasama ang teknikal na kaalaman at pagkukuwento, mahusay si Kumar sa pakikipag-usap ng mga kumplikadong teknolohikal na konsepto sa magkakaibang mga madla sa isang malinaw at nakakaengganyo na paraan.
Mas marami pang artikulo
Si Kumar ay isang makaranasang Tech Journalist na may espesyalisasyon sa mga dynamic na intersection ng AI/ML, teknolohiya sa marketing, at mga umuusbong na larangan tulad ng crypto, blockchain, at NFTs. Sa mahigit 3 taong karanasan sa industriya, si Kumar ay nagtatag ng isang napatunayang track record sa paggawa ng mga nakakahimok na salaysay, pagsasagawa ng mga insightful na panayam, at paghahatid ng mga komprehensibong insight. Ang kadalubhasaan ni Kumar ay nakasalalay sa paggawa ng nilalamang may mataas na epekto, kabilang ang mga artikulo, ulat, at mga publikasyong pananaliksik para sa mga kilalang platform ng industriya. Sa isang natatanging hanay ng kasanayan na pinagsasama ang teknikal na kaalaman at pagkukuwento, mahusay si Kumar sa pakikipag-usap ng mga kumplikadong teknolohikal na konsepto sa magkakaibang mga madla sa isang malinaw at nakakaengganyo na paraan.
