O CEO da Gramener, Anand S, alerta sobre os riscos de confiar cegamente em LLMs e defende a alfabetização de modelos
Em Breve
Em uma conversa com Metaverse Post – Anand S, CEO da Gramener destacou as armadilhas potenciais da dependência excessiva de LLMs.
Com centenas de ferramentas de IA e ML saturando o mercado, o potencial de inovação é ilimitado. Inúmeras startups estão surgindo para enfrentar os desafios do setor, enquanto um fluxo constante de grandes modelos de linguagem aprimorados a cada semana amplifica o poder transformador de IA generativa. Esta convergência tecnológica está a remodelar indústrias com possibilidades ilimitadas.
No entanto, a libertação e a utilização generalizada de modelos de linguagem poderosos como o Gémeos levanta importantes considerações éticas e práticas e pede-nos que consideremos uma questão: podemos nós, como humanos, confiar cegamente em tais modelos?
Em uma conversa com Metaverse Post - Anand S, CEO da empresa B2B SaaS com sede nos EUA gramener enfatizou as armadilhas potenciais da dependência excessiva de LLMs como ChatGPT, alertando que esta tendência provavelmente persistirá com modelos emergentes como o Gemini.
“Mesmo com os dados de treinamento corretos, um ser humano pode cometer erros ao sair de sua área de especialização. Será que um grande modelo linguístico está, portanto, extrapolando ou está recordando o que aprendeu? A diferença é enorme e vale a pena testar. Construímos confiança por meio de intuições com interações repetidas com as pessoas”, disse Anand. “Sabemos que precisamos investigar um estranho e é assim que provavelmente deveríamos interagir também com grandes modelos de linguagem.”
Por exemplo, no caso limitado da empresa Varghese versus Southern Airlines, um advogado citou ChatGPT-casos gerados, levando um juiz a penalizar o advogado, enfatizando os riscos do uso acrítico. Anand destaca a necessidade de cautela e escrutínio ao aproveitar tais modelos de linguagem.
Além disso, o campo exige um mecanismo de feedback robusto. ChatGPT incentiva o feedback do usuário por meio de um simples botão de polegar para cima/não, juntamente com a entrada de texto. Essa abordagem reúne insights valiosos sobre o que funciona bem e o que não funciona. Este sistema de feedback provavelmente se tornará mais comum com o uso de grandes modelos de linguagem, ajudando a melhorar seu desempenho.
“Não é muito econômico monitorar cada resultado de um LLM, mas ser capaz de sinalizar possíveis erros é uma alavanca poderosa”, disse Anand. Metaverse Post.
“O que é interessante é que os próprios modelos de linguagem grandes são muito bons na avaliação de outros modelos de linguagem grandes. Portanto, em vez de usar um ser humano exclusivamente para monitorar os resultados, podemos usar uma combinação de LLMs e humanos, com os LLMs eventualmente assumindo a maior parte do papel humano à medida que evoluem”, acrescentou.
Alfabetização modelo é o caminho a seguir
No domínio dos LLMs, surge um princípio fundamental – quanto mais interação, mais profunda é a compreensão. Este conceito simples ressalta a relação entre o envolvimento do usuário e a compreensão dos recursos do LLM, impulsionando, em última análise, uma maior utilização.
“Trata-se também de entender para que serve um determinado LLM. Por exemplo, eu não usaria o DALL-E para gerar logotipos porque ele não gera texto muito bem. Mas ele faz um ótimo trabalho na geração de ideias e designs de logotipos. Este é um exemplo de modelo de alfabetização que surgiu pelo uso repetido e, portanto, me dá defidefini áreas de confiança nas quais posso usar o modelo de forma mais eficaz”, disse Anand.
Na busca por uma integração equilibrada de modelos linguísticos como Gemini em nosso cenário tecnológico, Anand sugere diversas estratégias. Em primeiro lugar, ele defende interações diárias com grandes modelos linguísticos, promovendo um hábito que se constrói ao longo do tempo. Da mesma forma, garantir o acesso universal a estas ferramentas é crucial, com um apelo a um maior incentivo na utilização pessoal. Anand observa a tendência existente de organizações bloquearem ChatGPT em laptops de trabalho, ressaltando a necessidade de comunicação de apoio.
Ele propõe a implementação de mecanismos organizacionais para fornecer acesso e incentivar a experimentação com Modelos de Linguagem (LLMs) dentro de um ambiente.
“Em última análise, é quando as pessoas se familiarizam que entenderão em que confiar, quando usar e como usar. O aumento do uso e o incentivo ao aumento do uso são as estratégias e iniciativas educacionais mais importantes que qualquer pessoa pode empregar”, disse Anand. Metaverse Post.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
Mais artigos
Kumar é um jornalista de tecnologia experiente com especialização nas interseções dinâmicas de IA/ML, tecnologia de marketing e campos emergentes como criptografia, blockchain e NFTS. Com mais de 3 anos de experiência no setor, Kumar estabeleceu um histórico comprovado na elaboração de narrativas convincentes, na condução de entrevistas perspicazes e no fornecimento de insights abrangentes. A experiência de Kumar reside na produção de conteúdo de alto impacto, incluindo artigos, relatórios e publicações de pesquisa para plataformas importantes do setor. Com um conjunto único de habilidades que combina conhecimento técnico e narrativa, Kumar se destaca na comunicação de conceitos tecnológicos complexos para diversos públicos de maneira clara e envolvente.
