El conseller delegat de Gramener, Anand S, adverteix dels riscos en els LLM de confiança cega, defensors de l'alfabetització model
En breu
En una conversa amb Metaverse Post – Anand S, director general de Gramener, va destacar els possibles inconvenients de la dependència excessiva dels LLM.
Amb centenars d'eines d'IA i ML que saturen el mercat, el potencial d'innovació és il·limitat. Nombroses startups estan sorgint per fer front als reptes de la indústria, mentre que una afluència constant de grans models de llenguatge millorats cada setmana amplifica el poder transformador de IA generativa. Aquesta convergència tecnològica està remodelant indústries amb possibilitats il·limitades.
No obstant això, el llançament i l'ús generalitzat de models lingüístics potents com Gemini planteja importants consideracions ètiques i pràctiques i ens demana que considerem una pregunta: com a humans, podem confiar cegament en aquests models?
En una conversa amb Metaverse Post — Anand S, CEO de l'empresa B2B SaaS amb seu als Estats Units Gramener va posar èmfasi en els inconvenients potencials de la dependència excessiva dels LLM com ChatGPT, advertint que és probable que aquesta tendència persisteixi amb models emergents com Gemini.
"Fins i tot amb les dades d'entrenament adequades, un humà pot cometre errors en sortir de la seva àrea d'experiència. Per tant, un gran model de llengua està extrapolant o recordant allò que ha après? Hi ha una gran diferència i val la pena provar-ho. Construïm confiança a través d'intuïcions amb interaccions repetides amb la gent", va dir Anand. "Sabem que necessitem investigar per investigar un desconegut i és així com probablement hauríem d'interactuar també amb grans models de llenguatge".
Per exemple, en el cas de la companyia limitada Varghese versus Southern Airlines, un advocat va citar una ficció ChatGPT-casos generats, que porten a un jutge a sancionar l'advocat, posant èmfasi en els riscos d'un ús acrític. Anand destaca la necessitat de precaució i escrutini a l'hora d'aprofitar aquests models lingüístics.
A més d'això, el camp demana un mecanisme de retroalimentació robust. ChatGPT fomenta els comentaris dels usuaris mitjançant un simple botó de polze cap amunt/polze cap avall, juntament amb l'entrada de text. Aquest enfocament recull informació valuosa sobre què funciona bé i què no. És probable que aquest sistema de retroalimentació sigui més comú amb l'ús de grans models lingüístics, ajudant a millorar el seu rendiment.
"No és molt econòmic controlar cada sortida d'un LLM, però poder detectar possibles errors és una palanca poderosa", va dir Anand. Metaverse Post.
"El que és interessant és que els grans models lingüístics en si mateixos són força bons per avaluar altres grans models lingüístics. Per tant, en lloc d'utilitzar un humà exclusivament per supervisar la sortida, podem utilitzar una combinació de LLM i humans, i els LLM eventualment es fan càrrec de la major part del paper humà a mesura que evolucionen", va afegir.
L'alfabetització model és el camí a seguir
En l'àmbit dels LLM, sorgeix un principi clau: com més interacció, més profunda és la comprensió. Aquest concepte senzill subratlla la relació entre la implicació de l'usuari i la comprensió de les capacitats de LLM, impulsant, en última instància, una major utilització.
"També es tracta d'entendre per a què serveix un LLM en particular. Per exemple, no utilitzaria DALL-E per generar logotips perquè no genera molt bé el text. Però fa un gran treball generant idees de logotip i dissenys de logotip. Aquest és un exemple d'alfabetització model que ha sorgit per l'ús repetit i, per tant, em dóna defiNecessito àrees de confiança en les quals puc utilitzar el model de manera més eficaç", va dir Anand.
En la recerca d'una integració equilibrada de models lingüístics com Bessons en el nostre panorama tecnològic, Anand suggereix diverses estratègies. En primer lloc, advoca per les interaccions diàries amb grans models lingüístics, fomentant un hàbit que es construeix amb el temps. Així mateix, és crucial garantir l'accés universal a aquestes eines, amb una crida a fomentar més l'ús personal. Anand assenyala la tendència existent de bloqueig d'organitzacions ChatGPT en ordinadors portàtils de treball, subratllant la necessitat d'una comunicació de suport.
Proposa implementar mecanismes organitzatius per facilitar l'accés i fomentar l'experimentació amb Models Lingüístics (LLM) dins d'un entorn.
"En última instància, és quan la gent es familiaritza que entendrà en què confiar, quan utilitzar-lo i com utilitzar-lo. L'augment de l'ús i el foment de l'ús són l'estratègia i les iniciatives educatives més importants que qualsevol pot utilitzar", va dir Anand. Metaverse Post.
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Kumar és un periodista tecnològic experimentat amb una especialització en les interseccions dinàmiques d'IA/ML, tecnologia de màrqueting i camps emergents com ara cripto, blockchain i NFTs. Amb més de 3 anys d'experiència en el sector, Kumar ha establert una trajectòria demostrada en l'elaboració de narracions convincents, la realització d'entrevistes minucioses i l'oferiment d'informació exhaustiva. L'experiència de Kumar rau en la producció de contingut d'alt impacte, inclosos articles, informes i publicacions de recerca per a plataformes de la indústria destacades. Amb un conjunt d'habilitats únics que combina coneixements tècnics i narració, Kumar destaca per comunicar conceptes tecnològics complexos a diversos públics d'una manera clara i atractiva.
més articles
Kumar és un periodista tecnològic experimentat amb una especialització en les interseccions dinàmiques d'IA/ML, tecnologia de màrqueting i camps emergents com ara cripto, blockchain i NFTs. Amb més de 3 anys d'experiència en el sector, Kumar ha establert una trajectòria demostrada en l'elaboració de narracions convincents, la realització d'entrevistes minucioses i l'oferiment d'informació exhaustiva. L'experiència de Kumar rau en la producció de contingut d'alt impacte, inclosos articles, informes i publicacions de recerca per a plataformes de la indústria destacades. Amb un conjunt d'habilitats únics que combina coneixements tècnics i narració, Kumar destaca per comunicar conceptes tecnològics complexos a diversos públics d'una manera clara i atractiva.
