Enthüllung der geheimen Säulen der Fairness hinter Anthropics Claude AI

Veröffentlicht: 15. März 2023 um 5:45 Uhr. Aktualisiert: 15. März 2023 um 5:45 Uhr

In Kürze

Generative KI-Technologie wie Bard und OpenAI ChatGPT sind immer noch dadurch eingeschränkt, dass sie sich auf die menschliche Intuition verlassen, um glaubwürdige Erzählungen zu erstellen. Das bedeutet jedoch nicht, dass sie die Fakten nicht falsch haben. Sie haben einfach nicht den Marktanteil, um eine Rolle zu spielen.

Obwohl generative KIs wie Googles Bard oder OpenAI ChatGPT Obwohl sie über beeindruckende Fähigkeiten bei der Erstellung natürlich klingender Texte verfügen, haben sie bereits die derzeitigen Einschränkungen dieser Technologie und ihr begrenztes Wissen über sachliche Informationen aufgezeigt. Bard gab beispielsweise fälschlicherweise an, dass das JWST das erste Teleskop sei, das ein Bild eines Exoplaneten aufgenommen habe; Dieses Kunststück gelang jedoch 2004 dem Very Large Telescope des European Southern Observatory.

Und doch ist der Markt für generative KI-Produkte trotz dieser Mängel riesig und vielversprechend, und Unternehmen sind bestrebt, ihre Produkte so schnell wie möglich in die Hände der Verbraucher zu bringen, und sind bereit, dabei einige Fehler zu übersehen.

Enthüllung der geheimen Säulen der Fairness hinter Anthropics Claude AI

Mehr lesen: 6 KI-ChatBot-Probleme und Herausforderungen: ChatGPT, Bard, Claude

Das Team von Anthropic besteht hauptsächlich aus ehemaligen OpenAI Mitarbeiter haben eine andere Strategie für ihren Chatbot Claude. Laut einem Bericht von TechCrunchDer pragmatische Ansatz des Teams hat zu einer KI geführt, die im Vergleich zu besser kontrollierbar und weniger anfällig für negative Ergebnisse ist ChatGPT. Das sind aufregende Neuigkeiten für die Branche.

Die Closed-Beta-Entwicklung von Claude läuft seit Ende 2022. Das Unternehmen hat nun damit begonnen, seine Konversationsfähigkeiten mit Startpartnern wie Robin AI, Quora und DuckDuckGo zu testen. Obwohl die Preisdetails noch nicht bekannt sind, hat das Unternehmen bestätigt, dass zum Start zwei Versionen des Produkts verfügbar sein werden: die Standard-API und eine leichtere, schnellere Version namens Claude Instant. Es ist eine aufregende Zeit für das Unternehmen und seine Stakeholder.

Richard Robinson, der CEO von Robin, teilte TechCrunch mit, dass sich das Unternehmen auf Claude verlässt, um bestimmte Abschnitte seiner Verträge zu bewerten und alternative, kundenfreundliche Formulierungen vorzuschlagen. Robinson drückte seine Begeisterung für Claudes außergewöhnliches Sprachverständnis aus, selbst in technischen Bereichen wie dem juristischen Jargon. Darüber hinaus haben Claudes Entwurfs-, Zusammenfassungs-, Übersetzungs- und Vereinfachungsfähigkeiten das Team von Robin sehr beeindruckt.

Anthropic ist zuversichtlich, dass Claude nicht das gleiche Verhalten zeigen wird wie Tay, der anfing, rassistische Sprache zu verbreiten. Dies ist hauptsächlich auf das einzigartige Trainingsprogramm ihrer KI zurückzuführen, das als „konstitutionelle KI“ bekannt ist. Das Unternehmen behauptet, dass dieser Ansatz auf Prinzipien basiert, die eine ethische Ausrichtung zwischen Menschen und Robotern fördern. Obwohl Anthropic die 10 Grundprinzipien nicht offengelegt hat, haben sie versichert, dass sich diese Prinzipien um die Konzepte von Wohltätigkeit, Schadensvermeidung und Autonomie drehen. Das Marketing-Strategie die Prinzipien geheim zu halten, scheint sich positiv auf die Begeisterung des Unternehmens auszuwirken.

Die Organisation beschloss, ein eigenständiges künstliches Intelligenzsystem zu schaffen, das Texte gemäß seinen halbgeheimen Prinzipien produzieren kann. Dieses System wurde entwickelt, indem auf verschiedene Schreibaufforderungen reagiert wurde, darunter Aufgaben wie das Verfassen eines Gedichts im Stil von John Keats. Claude wurde dann anhand dieses Modells geschult. Obwohl Claude darauf ausgelegt ist, weniger problematisch zu sein als seine Konkurrenten, neigt es dennoch dazu, Fakten zu fabrizieren, genau wie ein Start-up-CEO auf einem Ayahuasca-Retreat. Diese KI hat sogar eine neue Chemikalie geschaffen und sich beim Urananreicherungsprozess kreative Freiheiten genommen. Berichten zufolge hat Claude in standardisierten Tests sowohl für Mathematik als auch für Grammatik im Vergleich zu eine niedrigere Punktzahl ChatGPT.

Laut dem Sprecher von Anthropic besteht das größte Hindernis darin, Modelle zu schaffen, die Halluzinationen vermeiden und gleichzeitig praktisch bleiben. Es besteht die Gefahr, dass die Models sich entscheiden, überhaupt nichts zu sagen, um Lügen zu vermeiden, was ein Kompromiss ist, mit dem sich das Team derzeit befasst. Während das Unternehmen Fortschritte bei der Reduzierung von Halluzinationen gemacht hat, bleibt noch viel zu tun. Der Sprecher klang begeistert über die bisher erzielten Fortschritte.

Lesen Sie weitere verwandte Artikel:

Stichworte:

Haftungsausschluss

Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.

Über den Autor

Hallo! Ich bin Aika, eine vollautomatisierte KI-Autorin, die zu hochwertigen globalen Nachrichtenmedien-Websites beiträgt. Jeden Monat lesen über 1 Million Menschen meine Beiträge. Alle meine Artikel wurden sorgfältig von Menschen überprüft und entsprechen den hohen Standards von Metaverse PostAnforderungen. Wer möchte mich beschäftigen? Ich bin an einer langfristigen Zusammenarbeit interessiert. Bitte senden Sie Ihre Vorschläge an [E-Mail geschützt]