OpenAI Stellt seinen neuesten Ansatz zur Gewährleistung der KI-Sicherheit vor
In Kürze
OpenAI hat einen Blog-Beitrag veröffentlicht, in dem sein verbesserter Sicherheitsansatz dargelegt wird, nachdem es kürzlich Bedenken hinsichtlich Sicherheit und Datenschutz sowie Untersuchungen gab.
Das Unternehmen verpflichtet sich, strenge Tests durchzuführen, externe Experten um Feedback zu bitten und mit Regierungen zusammenzuarbeiten, um das Beste zu ermitteln Ansatz für KI-Regulierungen.
Nach Bedenken hinsichtlich Sicherheit und Datenschutz und Folgen Neuere Untersuchungen in einigen europäischen Ländern, OpenAI hat freigegeben ein Blogbeitrag, der den verbesserten Sicherheitsansatz des Unternehmens beschreibt.
OpenAI verpflichtet sich, vor der Veröffentlichung eines neuen Systems strenge Tests durchzuführen, externe Experten um Feedback zu bitten und mit Regierungen zusammenzuarbeiten, um den besten Ansatz für KI-Vorschriften zu ermitteln.
Zuvor arbeitete das Unternehmen über sechs Monate an der Sicherheit und Ausrichtung seines neuesten Modells. GPT-4, bevor es öffentlich veröffentlicht wird. Um die Sicherheit seines neuesten Sprachmodells zu gewährleisten, GPT-4, OpenAI gemietet ein Team von über 50 Experten: KI-Sicherheits-, Ethik- und Richtlinienspezialisten, darunter Forscher und Ingenieure.
„Entscheidend ist, dass wir der Meinung sind, dass die Gesellschaft Zeit haben muss, sich auf die immer leistungsfähigere KI einzustellen und sie zu aktualisieren, und dass jeder, der von dieser Technologie betroffen ist, ein maßgebliches Mitspracherecht bei der Weiterentwicklung der KI haben sollte.“
OpenAI schrieb.
OpenAIDer Fokus liegt auf der Sicherheit und Privatsphäre von Kindern
Italien verboten ChatGPTunter Berufung auf OpenAIEiner der Gründe dafür ist, dass es das Alter der Benutzer nicht überprüft, obwohl es für Personen ab 13 Jahren konzipiert ist. Ein entscheidender Schwerpunkt der Sicherheitsbemühungen des Unternehmens hat sich auf den Schutz von Kindern durch die Implementierung von Altersüberprüfungsoptionen verlagert OpenAI wird derzeit erforscht, insbesondere da die KI-Tools für Personen ab 18 Jahren oder mit Zustimmung der Eltern ab 13 Jahren gedacht sind.
Das Unternehmen verbietet strengstens die Erstellung hasserfüllter, belästigender, gewalttätiger oder nicht jugendfreier Inhalte GPT-4 hat im Vergleich zu bereits eine um 82 % geringere Wahrscheinlichkeit, auf Anfragen nach unzulässigen Inhalten zu reagieren GPT-3. 5.
OpenAI hat ein robustes System zur Überwachung von Missbrauch und Hoffnungen eingerichtet GPT-4 im Laufe der Zeit für mehr Menschen verfügbar sein. Das Unternehmen arbeitet mit Entwicklern an maßgeschneiderten Sicherheitsmaßnahmen zusammen, beispielsweise mit der gemeinnützigen Khan Academy, und arbeitet an Funktionen, die strengere Standards für Modellausgaben ermöglichen.
Die Verbesserung der Privatsphäre ist ein weiterer Sicherheitsaspekt OpenAI konzentriert sich auf, insbesondere nach der jüngsten Datenverstöße. Die großen Sprachmodelle des KI-Unternehmens werden mit einer enormen Textmenge trainiert, die öffentlich zugängliche Inhalte, lizenzierte Inhalte und von menschlichen Prüfern generierte Inhalte umfasst. Es verwendet Daten, um KI-Modelle für Menschen hilfreicher zu machen.
OpenAI unternimmt Maßnahmen zum Schutz der Privatsphäre von Einzelpersonen, indem es personenbezogene Daten aus seinen Trainingsdaten entfernt, Modelle verfeinert, um Anfragen nach personenbezogenen Daten abzulehnen, und personenbezogene Daten auf Anfrage aus seinen Systemen löscht. Dies verringert die Wahrscheinlichkeit, dass KI-Modelle Antworten generieren, die persönliche Informationen enthalten.
OpenAIAnsatz Um Bedenken hinsichtlich der KI-Sicherheit auszuräumen, müssen wirksame Abhilfemaßnahmen erforscht werden und Ausrichtungstechniken und testen Sie sie anhand realen Missbrauchs. Sie verpflichtet sich außerdem, bei der Entwicklung und dem Einsatz leistungsfähigerer Modelle immer vorsichtiger vorzugehen und die Sicherheitsvorkehrungen zu verbessern. Eine wirksame Steuerung der KI-Entwicklung und -Einführung ist für die Gewährleistung der Sicherheit unerlässlich, was technische und institutionelle Innovationen erfordert.
Mehr lesen:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Agne ist eine Journalistin, die über die neuesten Trends und Entwicklungen im Metaversum, in der KI und anderen Bereichen berichtet Web3 Branchen für die Metaverse Post. Ihre Leidenschaft für das Geschichtenerzählen hat sie dazu geführt, zahlreiche Interviews mit Experten auf diesen Gebieten zu führen, immer auf der Suche nach spannenden und fesselnden Geschichten. Agne hat einen Bachelor-Abschluss in Literatur und verfügt über umfangreiche Erfahrung im Schreiben über ein breites Themenspektrum, darunter Reisen, Kunst und Kultur. Sie war außerdem ehrenamtlich als Redakteurin für die Tierrechtsorganisation tätig und half dabei, das Bewusstsein für Tierschutzthemen zu schärfen. Kontaktieren Sie sie unter [E-Mail geschützt] .
Weitere Artikel
Agne ist eine Journalistin, die über die neuesten Trends und Entwicklungen im Metaversum, in der KI und anderen Bereichen berichtet Web3 Branchen für die Metaverse Post. Ihre Leidenschaft für das Geschichtenerzählen hat sie dazu geführt, zahlreiche Interviews mit Experten auf diesen Gebieten zu führen, immer auf der Suche nach spannenden und fesselnden Geschichten. Agne hat einen Bachelor-Abschluss in Literatur und verfügt über umfangreiche Erfahrung im Schreiben über ein breites Themenspektrum, darunter Reisen, Kunst und Kultur. Sie war außerdem ehrenamtlich als Redakteurin für die Tierrechtsorganisation tätig und half dabei, das Bewusstsein für Tierschutzthemen zu schärfen. Kontaktieren Sie sie unter [E-Mail geschützt] .
