Anthropic schlägt eine „kontextuelle KI“ für Chat-Modelle vor, die auf 60 Prinzipien basiert
In Kürze
OpenAI nutzt verstärkendes Lernen aus menschlichem Feedback (RLHF) zur Ausrichtung Sprachmodelle mit menschlichen Prinzipien, Sicherheit und Nützlichkeit.
Anthropic schlug einen alternativen Ansatz vor: kontextuelle KI, bei der Menschen eine Verfassung schreiben, der das Modell folgen soll.
Diese Verfassung basiert auf der Erklärung der Menschenrechte der Vereinten Nationen, den Nutzungsbedingungen von Apple und den Grundsätzen zur Förderung der Berücksichtigung nicht-westlicher Perspektiven.
Anthropic hat einen neuen Ansatz zum Trainieren von Chat-Modellen vorgeschlagen, indem „Verfassungsmäßige KI'. Diese Methode baut auf auf OpenAI Verstärkung lernen basiert auf menschlichem Feedback, baut aber darauf auf und vermeidet die Notwendigkeit, tiefgreifende Trainingsbeispiele zu schreiben. Stattdessen wird das Modell darauf trainiert, auf Eingaben mithilfe einer Verfassung zu reagieren, die als eine Reihe von Gesetzen dienen soll, denen das Modell folgen soll.
Mit dieser Methode kann die KI ihre eigenen Trainingsmuster generieren, indem sie das, was sie gesagt hat, anhand ihrer gesetzlich anerkannten Grundsätze bewertet. Diese zeitsparende Technik kann als angesehen werden Isaac Asimov's Gesetze der Robotik in die Praxis umgesetzt.
Die dem Modell zugrunde liegenden Prinzipien sind zu zahlreich, als dass sie im Detail erörtert werden könnten. Sie decken jedoch viele Themen ab, etwa Moral, Risikoaversion, Ökonomie und künstliche Intelligenz. Jedes wurde entwickelt, um die Entscheidungen der KI bei der Reaktion darauf zu unterstützen Gesprächsanregungen.
Anthropic hat es geschafft, ein KI-Modell namens Claude effektiv zu trainieren, das erfolgreich damit konkurriert OpenAI ChatGPT. Verwendung der Constitution-AI-MethodeClaude könnte auf Gesprächsaufforderungen mit beeindruckender Genauigkeit reagieren, es werden jedoch weitere Verbesserungen erwartet, da Anthropic weiterhin auf dieser bahnbrechenden Technologie aufbaut.
Tatsächlich hat dieser neue Ansatz das Potenzial, Zeit und Geld für Unternehmen zu sparen, die keine eigenen Trainingsmuster mehr erstellen müssen. Vielmehr kann diese „fertige“ Methode als Grundlage für die Erstellung passgenauer Modelle verwendet werden – Programmierkenntnisse sind nicht erforderlich. Es ist auch wichtig zu beachten, dass diese Technologie auch bei Conversational Bots eine Erhöhung der Sicherheit verspricht. Erstellen einer Reihe rechtlich anerkannter Grundsätze mindert das Risiko dass die KI abtrünnig wird.
Daher verspricht Constituation AI nicht nur, die Entwicklung von Chat-Modellen einfacher und schneller, sondern auch sicherer zu machen. Eine Win-Win-Situation für die Welt der Künstlichen Intelligenz und der ChatBots gleichermaßen.
Ein analytischer Blick auf die „kontextbezogene KI“ von Anthropic für Chatbots
Die kontextuelle KI von Anthropic basiert auf der Einbeziehung von mehr als 60 Prinzipien, die aus der Erklärung der Menschenrechte der Vereinten Nationen, den Nutzungsbedingungen von Apple, den Grundsätzen zur Förderung der Berücksichtigung nicht-westlicher Perspektiven und Deepminds Sparrow Rules und Anthropic Research Set 1 und Set 2.
Die Tatsache, dass der KI nun beigebracht werden kann, sich nach Prinzipien zu verhalten, die aus einer derart umfangreichen und vielfältigen Quelle stammen, ist wirklich bemerkenswert. Durch die Einbeziehung von Grundsätzen der Menschenrechtserklärung der Vereinten Nationen spiegeln Chatbot-Antworten nun wider, wie wichtig es ist, die Vorstellung von Freiheit, Gleichheit und Brüderlichkeit zu bewahren. Solche Grundsätze sind ein wesentlicher Bestandteil, um dies sicherzustellen Chatbot-Gespräche bleiben Sie ethisch und respektvoll. Ebenso gewährleistet die Einbeziehung der Nutzungsbedingungen von Apple dies Chatbot berücksichtigt die Datenschutzinteressen seiner Nutzer.
Auch im Modell „Contextual AI“ spielen Prinzipien zur Förderung der Berücksichtigung nicht-westlicher Perspektiven eine wichtige Rolle. Diese Grundsätze spiegeln die Notwendigkeit wider, dass KI andere Kulturen respektieren muss und sicherstellen soll, dass Chatbot-Antworten nicht als schädlich oder beleidigend wahrgenommen werden. In ähnlicher Weise schreiben die Sparrow-Regeln von Deepmind vor, dass der Chatbot mit Antworten antwortet, die darauf abzielen, eine Beziehung zum Benutzer aufzubauen.
Die Einbeziehung von Anthropic Research Set 1 und Set 2 bietet die endgültige Garantie dafür, dass KI-Gespräche höflich und respektvoll bleiben. Die KI ist darauf trainiert, sicherzustellen, dass sie Fragen rücksichtsvoll und höflich beantwortet.
Alles in allem ist das „Contextual AI“-Modell von Anthropic ein unglaublich wichtiger Durchbruch im Bereich der KI-Forschung. Indem es ermöglicht wird, KI nach Prinzipien zu lehren, die aus so unterschiedlichen Quellen stammen, werden die ethischen Auswirkungen automatisierter Gespräche erheblich verbessert.
Lesen Sie mehr über KI:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
Weitere Artikel
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
