Le PDG de Gramener, Anand S, met en garde contre les risques liés à une confiance aveugle dans les LLM et plaide pour l'alphabétisation des modèles
En bref
Dans une conversation avec Metaverse Post – Anand S, PDG de Gramener a souligné les pièges potentiels d'un recours excessif aux LLM.
Avec des centaines d’outils d’IA et de ML saturant le marché, le potentiel d’innovation est illimité. De nombreuses startups émergent pour relever les défis de l'industrie, tandis qu'un afflux constant de grands modèles linguistiques améliorés chaque semaine amplifie le pouvoir de transformation de IA générative. Cette convergence technologique remodèle des industries aux possibilités illimitées.
Cependant, la publication et l’utilisation généralisée de modèles linguistiques puissants comme Gemini soulèvent d’importantes considérations éthiques et pratiques et nous amènent à réfléchir à une question : pouvons-nous, en tant qu’humains, faire aveuglément confiance à de tels modèles ?
Dans une conversation avec Metaverse Post — Anand S, PDG d'une société SaaS B2B basée aux États-Unis Gramener a souligné les pièges potentiels d'une dépendance excessive à l'égard des LLM comme ChatGPT, avertissant que cette tendance est susceptible de persister avec des modèles émergents tels que Gemini.
« Même avec les bonnes données de formation, un humain peut commettre des erreurs en sortant de son domaine d'expertise. Un grand modèle de langage extrapole-t-il donc ou se souvient-il de ce qu'il a appris ? Il y a une énorme différence et cela vaut la peine d’être testé. Nous construisons la confiance grâce à des intuitions et des interactions répétées avec les gens », a déclaré Anand. "Nous savons que nous devons enquêter sur un étranger et c'est ainsi que nous devrions probablement également interagir avec de grands modèles de langage."
Par exemple, dans l’affaire Varghese contre Southern Airlines Company Limited, un avocat a cité des ChatGPT-des cas générés, conduisant le juge à sanctionner l'avocat, en soulignant les risques d'une utilisation non critique. Anand souligne la nécessité de faire preuve de prudence et d’examen minutieux lors de l’exploitation de tels modèles linguistiques.
De plus, le domaine nécessite un mécanisme de retour d’information robuste. ChatGPT encourage les commentaires des utilisateurs via un simple bouton pouce vers le haut/pouce vers le bas, associé à la saisie de texte. Cette approche permet de recueillir des informations précieuses sur ce qui fonctionne bien et ce qui ne fonctionne pas. Ce système de rétroaction deviendra probablement plus courant avec l'utilisation de grands modèles de langage, contribuant ainsi à améliorer leurs performances.
"Il n'est pas très économique de surveiller chaque résultat d'un LLM, mais être capable de signaler les erreurs potentielles est un levier puissant", a déclaré Anand. Metaverse Post.
« Ce qui est intéressant, c’est que les grands modèles de langage eux-mêmes sont assez efficaces pour évaluer d’autres grands modèles de langage. Ainsi, plutôt que d’utiliser un humain exclusivement pour surveiller les résultats, nous pouvons utiliser une combinaison de LLM et d’humains, les LLM finissant par assumer l’essentiel du rôle humain à mesure qu’ils évoluent », a-t-il ajouté.
L’alphabétisation modèle est la voie à suivre
Dans le domaine des LLM, un principe clé émerge : plus il y a d’interaction, plus la compréhension est profonde. Ce concept simple souligne la relation entre l'engagement des utilisateurs et la compréhension des capacités LLM, conduisant finalement à une utilisation accrue.
« Il s’agit également de comprendre à quoi sert un LLM particulier. Par exemple, je n'utiliserais pas DALL-E pour générer des logos, car il ne génère pas très bien du texte. Mais il fait un excellent travail en générant des idées de logo et des conceptions de logo. Ceci est un exemple d'alphabétisation modèle qui est apparu grâce à un usage répété et, par conséquent, me donne defidomaines de confiance nécessaires dans lesquels je peux utiliser le modèle plus efficacement », a déclaré Anand.
Dans la quête d'une intégration équilibrée de modèles linguistiques comme GEMINI dans notre paysage technologique, Anand suggère plusieurs stratégies. Premièrement, il préconise des interactions quotidiennes avec de grands modèles linguistiques, favorisant une habitude qui se construit au fil du temps. De même, il est crucial de garantir un accès universel à ces outils, en appelant à davantage d’encouragement à leur usage personnel. Anand note la tendance actuelle des organisations à bloquer ChatGPT sur les ordinateurs portables de travail, soulignant la nécessité d’une communication de soutien.
Il propose de mettre en œuvre des mécanismes organisationnels pour donner accès et encourager l'expérimentation des modèles de langage (LLM) au sein d'un environnement.
« En fin de compte, c’est lorsque les gens se familiariseront qu’ils comprendront à quoi faire confiance, quand l’utiliser et comment l’utiliser. Une utilisation accrue et l’encouragement d’une utilisation accrue constituent la stratégie et les initiatives éducatives les plus importantes que quiconque puisse utiliser », a déclaré Anand. Metaverse Post.
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Kumar est un journaliste technologique expérimenté spécialisé dans les intersections dynamiques de l'IA/ML, de la technologie marketing et des domaines émergents tels que la cryptographie, la blockchain et NFTs. Avec plus de 3 ans d'expérience dans l'industrie, Kumar a fait ses preuves dans l'élaboration de récits convaincants, la conduite d'entretiens perspicaces et la fourniture d'informations complètes. L'expertise de Kumar réside dans la production de contenu à fort impact, notamment des articles, des rapports et des publications de recherche pour des plateformes industrielles de premier plan. Doté d’un ensemble de compétences uniques combinant connaissances techniques et narration, Kumar excelle dans la communication de concepts technologiques complexes à des publics divers de manière claire et engageante.
Plus d'articles
Kumar est un journaliste technologique expérimenté spécialisé dans les intersections dynamiques de l'IA/ML, de la technologie marketing et des domaines émergents tels que la cryptographie, la blockchain et NFTs. Avec plus de 3 ans d'expérience dans l'industrie, Kumar a fait ses preuves dans l'élaboration de récits convaincants, la conduite d'entretiens perspicaces et la fourniture d'informations complètes. L'expertise de Kumar réside dans la production de contenu à fort impact, notamment des articles, des rapports et des publications de recherche pour des plateformes industrielles de premier plan. Doté d’un ensemble de compétences uniques combinant connaissances techniques et narration, Kumar excelle dans la communication de concepts technologiques complexes à des publics divers de manière claire et engageante.
