Experten warnen vor „böswilligen Einfügungen“ in KI-Datensätze in ChatGPT
In Kürze
ChatGPT ist möglicherweise verletzlich aufgrund der Trainingsdaten.
Laut Forschern könnten wir für nur 60 US-Dollar in den USA 0.01 % der LAION-400- oder COYO-700-Datensätze im Jahr 2022 vergiften.
ChatGPT Technologie wird immer beliebter, ist aber neu Forschungsprojekte deutet darauf hin, dass diese Technologie aufgrund der verwendeten Trainingsdaten anfällig sein könnte. Da Modelle immer komplexer und Datensätze größer und komplexer werden, könnten böswillige Akteure diese Schwachstelle ausnutzen, um die Datensätze zu manipulieren und die Modelle für maschinelles Lernen dazu zu bringen, ungenaue Ergebnisse zu liefern.
Das Hauptanliegen ist, dass Chatbot-Datenbanken oft „bedingt verifizierte“ Datensätze sind, was bedeutet, dass den Daten ohne umfassende Überprüfung ein gewisses Maß an Vertrauen entgegengebracht wird. Mit anderen Worten, diese Datensätze können oft zugrunde liegende Probleme haben, die nicht berücksichtigt wurden. Obwohl die Validierung von Datensätzen aufgrund ihrer Größe oft nicht durchgeführt wird, besteht die Möglichkeit, dass böswillige Akteure diese Daten manipulieren.
Tatsächlich haben Forscher vorgeschlagen, dass Angreifer bis 2022 schätzungsweise 60 US-Dollar ausgeben könnten, um 0.01 % der LAION-400- oder COYO-700-Datensätze zu vergiften. Obwohl dies nicht nach viel klingt, könnten böswillige Akteure diese vergifteten Daten zu ihrem eigenen Vorteil nutzen, wenn sie nicht kontrolliert werden. Die schädlichen Daten können schließlich Leck in größere Datensätze, was die Datenqualität beeinträchtigt und zu unzuverlässigen Modellen für maschinelles Lernen führt.
Es ist notwendig, Maßnahmen zu ergreifen, um Datenbanken vor schädlichen Daten zu schützen. Das Aggregieren mehrerer Datenquellen soll zum Standard für Chatbots werden Trainingsdatensätze um sicherzustellen, dass die Daten zuverlässig und genau sind. Darüber hinaus sollten Unternehmen mit Datensätzen experimentieren, um sicherzustellen, dass sie nicht anfällig für böswillige Akteure sind.
KI-Chatbots mit bösartigem Code können anfällig für Hackerangriffe sein
Die Bedrohung durch bösartigen Code in Chatbots kann sehr ernst sein; Bösartiger Code kann verwendet werden, um Benutzerdaten zu stehlen, böswilligen Zugriff auf Server zu ermöglichen und böswillige Aktivitäten wie z Geldwäsche oder Datenexfiltration. Wenn ein KI-Chatbot auf Daten mit böswilligen Einfügungen trainiert wird, könnte er den bösartigen Code unwissentlich in seine Antworten einfügen und unwissentlich als Werkzeug für böswillige Gewinne verwendet werden.
Es ist möglich, dass böswillige Akteure diese Schwachstelle ausnutzen, indem sie entweder absichtlich oder versehentlich bösartigen Code in das einführen Trainingsdaten. Da KI-Chatbots aus den Daten lernen, die ihnen präsentiert werden, könnte dies außerdem möglicherweise dazu führen, dass sie falsche Antworten oder sogar böswilliges Verhalten lernen.
Eine weitere Gefahr, der KI-Chatbots ausgesetzt sein könnten, ist die des „Overfitting“. Dies ist der Fall, wenn Vorhersagemodelle zu genau auf die ihnen gegebenen Daten trainiert werden, was zu schlechten Vorhersagen führt, wenn ihnen neue Daten präsentiert werden. Dies kann ein besonderes Problem sein, da KI-Chatbots Auf bösartigen Code trainierte Personen könnten potenziell effektiver darin werden, bösartigen Code in ihre Antworten einzuschleusen, wenn sie mit den Daten vertrauter werden.
Es ist wichtig, sich der Risiken bewusst zu sein und Vorkehrungen zu treffen, um die zum Unterrichten verwendeten Trainingsdaten zu gewährleisten ChatGPT sicher und zuverlässig ist, um diese potenziellen Schwachstellen zu vermeiden. Die für das Training verwendeten Ausgangsdaten müssen ebenfalls getrennt und eindeutig aufbewahrt werden; Die Werbung für „böswillige Einfügungen“ darf nicht mit anderen Quellen in Konflikt geraten oder sich mit diesen überschneiden. Es sollte geprüft und mit anderen Domänen verglichen werden, ob das „Erfassen“ mehrerer bestätigter Domänen zur Validierung der Daten machbar ist.
Die Chatbot-Technologie verspricht, die Art und Weise zu verändern, wie Menschen menschliche Diskussionen führen. Aber bevor es sein volles Potenzial ausschöpfen kann, muss es verbessert und geschützt werden. Datensätze für Chatbots müssen gut geprüft und vorbereitet sein, um böswillige Akteure abzuwehren. So stellen wir sicher, dass wir das Potenzial der Technologie voll ausschöpfen und weiter vorantreiben Grenzen der künstlichen Intelligenz.
Lesen Sie mehr über KI:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
Weitere Artikel
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
