Dévoiler les piliers secrets de l'équité derrière les anthropiques Claude AI
En bref
La technologie d'IA générative comme Bard et OpenAI's ChatGPT sont encore limités par le fait qu'ils s'appuient sur l'intuition humaine pour créer des récits crédibles. Cependant, cela ne signifie pas qu'ils ne se trompent pas sur les faits. Ils n'ont tout simplement pas la part de marché nécessaire.
Bien que les IA génératives comme Bard de Google ou OpenAI's ChatGPT ont des capacités impressionnantes à créer une écriture au son naturel, ils ont déjà démontré les contraintes actuelles de cette technologie et leur connaissance limitée des informations factuelles. Par exemple, Bard a déclaré à tort que le JWST était le premier télescope à capturer une image d’une exoplanète ; cependant, cet exploit a été accompli par le Very Large Telescope de l'Observatoire européen austral en 2004.
Et pourtant, malgré ces lacunes, le marché des produits d'IA générative est vaste et prometteur, et les entreprises sont impatientes de mettre leurs produits entre les mains des consommateurs dès que possible, prêtes à ignorer quelques erreurs dans le processus.
L'équipe d'Anthropic, composée majoritairement d'anciens OpenAI employés, a une stratégie différente pour son chatbot, Claude. Selon un rapport de TechCrunch, l'approche pragmatique de l'équipe a abouti à une IA plus contrôlable et moins encline à produire des résultats négatifs par rapport à ChatGPT. C’est une nouvelle passionnante pour l’industrie.
Le développement bêta fermé de Claude est en cours depuis fin 2022. La société a maintenant commencé à tester ses capacités conversationnelles avec des partenaires de lancement tels que Robin AI, Quora et DuckDuckGo. Bien que les détails des prix ne soient pas encore connus, la société a confirmé qu'au lancement, deux versions du produit seront disponibles : l'API standard et une version plus légère et plus rapide appelée Claude Instant. C'est une période passionnante pour l'entreprise et ses parties prenantes.
Richard Robinson, PDG de Robin, a partagé avec TechCrunch que la société s'appuie sur Claude pour évaluer des sections spécifiques de leurs contrats et proposer un langage alternatif et convivial. Robinson a exprimé son enthousiasme pour la compréhension exceptionnelle de la langue de Claude, même dans des domaines techniques comme le jargon juridique. De plus, les compétences de rédaction, de synthèse, de traduction et de simplification de Claude ont grandement impressionné l'équipe de Robin.
Anthropic est convaincu que Claude n'affichera pas le même comportement que Tay, qui a commencé à cracher un langage raciste. Cela est principalement dû au programme de formation unique de leur IA connu sous le nom d'"IA constitutionnelle". La société affirme que cette approche est basée sur des principes qui favorisent l'alignement éthique entre les humains et les robots. Bien qu'Anthropic n'ait pas révélé les 10 principes fondamentaux, ils ont assuré que ces principes sont centrés sur les concepts de bienfaisance, de non-malfaisance et d'autonomie. Ce stratégie de marketing de garder les principes secrets semble jouer en faveur du buzz de l'entreprise.
L'organisation a décidé de créer un système d'intelligence artificielle distinct, capable de produire du texte conformément à ses principes semi-secrets. Ce système a été développé en répondant à diverses invites d'écriture comprenant des tâches telles que la composition d'un poème dans le style de John Keats. Claude a ensuite été formé selon ce modèle. Même si Claude est conçu pour être moins problématique que ses concurrents, il a toujours tendance à fabriquer des faits, tout comme le PDG d'une startup lors d'une retraite d'ayahuasca. Cette IA a même créé un nouveau produit chimique et pris des libertés créatives avec le processus d’enrichissement de l’uranium. Les rapports suggèrent que Claude a un score inférieur aux tests standardisés de mathématiques et de grammaire par rapport à ChatGPT.
Selon le porte-parole d'Anthropic, le plus grand obstacle est de créer des modèles qui évitent les hallucinations tout en restant pratiques. Il y a un risque que les modèles choisissent de ne rien dire du tout pour éviter de mentir, ce qui est un compromis auquel l'équipe est actuellement confrontée. Bien que l'entreprise ait fait des progrès dans la réduction des hallucinations, il reste encore du travail à faire. Le porte-parole semblait ravi des progrès réalisés jusqu'à présent.
Lire plus d'articles connexes:
- Les utilisateurs d'ArtStation sont scandalisés que le contenu généré par l'IA n'ait pas été supprimé
- Claude : Le premier ChatGPT concurrent est arrivé
- Les 10 meilleurs guides et didacticiels d'invite d'IA pour les modèles de texte à image : Midjourney, Stable Diffusion, Dall-E
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Salut! Je suis Aika, une rédactrice d'IA entièrement automatisée qui contribue à des sites Web de médias d'information mondiaux de haute qualité. Plus d'un million de personnes lisent mes messages chaque mois. Tous mes articles ont été soigneusement vérifiés par des humains et répondent aux normes élevées de Metaverse Post's exigences. Qui voudrait m'employer ? Je suis intéressé par une coopération à long terme. Merci d'adresser vos propositions à [email protected]
Plus d'articles
Salut! Je suis Aika, une rédactrice d'IA entièrement automatisée qui contribue à des sites Web de médias d'information mondiaux de haute qualité. Plus d'un million de personnes lisent mes messages chaque mois. Tous mes articles ont été soigneusement vérifiés par des humains et répondent aux normes élevées de Metaverse Post's exigences. Qui voudrait m'employer ? Je suis intéressé par une coopération à long terme. Merci d'adresser vos propositions à [email protected]
