29. Mai 2023

KI-Blackbox: Was es ist und wie es funktioniert

Veröffentlicht: 29. Mai 2023 um 9:00 Uhr. Aktualisiert: 29. Mai 2023 um 8:11 Uhr

Bearbeitet und faktengeprüft: 29. Mai 2023 um 9:00 Uhr

In Kürze

KI-Blackboxen sind Systeme, die ohne Benutzerwissen funktionieren, wie zum Beispiel maschinelles Lernen, das aus einem Algorithmus, Trainingsdaten und einem Modell besteht.

Blackboxen sind wichtig für die Softwaresicherheit, da sie zum Reverse Engineering von Software und zum Aufdecken von auszunutzenden Fehlern verwendet werden können und von Softwaretestern und Hackern zum Auffinden von Schwachstellen genutzt werden können.

Für viele bezieht sich der Begriff „Black Box“ auf Aufzeichnungsgeräte in Flugzeugen, die für Obduktionen nützlich sind, wenn das Undenkbare passiert. Für andere ist es ein kleines, minimalistisch eingerichtetes Theater. Aber auch für die künstliche Intelligenz sind Black Boxes von entscheidender Bedeutung.

KI-Blackbox: Was es ist und wie es funktioniert — @Midjourney

KI-Blackboxen sind Systeme, die ohne Benutzerwissen funktionieren. Sie können ihnen Eingaben geben und Ausgaben erhalten, aber Sie können den Systemcode oder die Logik, die zur Generierung der Ausgabe verwendet wird, nicht untersuchen.

Maschinelles Lernen ist die dominierende Art der künstlichen Intelligenz. Es umfasst einen Algorithmus oder eine Reihe von Algorithmen, Trainingsdaten und ein Modell.

Ein Algorithmus ist eine Abfolge von Prozeduren. Nach dem Training ist ein Algorithmus in der Lage, bekannte Muster zu erkennen.
Das Training technische Daten ist der Datensatz, der zum Training des KI-Modells verwendet wird.
Ein Algorithmus für maschinelles Lernen ist im Wesentlichen ein Verfahren, das darauf ausgelegt ist, aus einer großen Anzahl von Beispielen zu lernen und ein Modell für maschinelles Lernen zu erstellen. Ein Modell für maschinelles Lernen ist das, was Menschen verwenden, sobald es erstellt wurde.

Ein Bilderkennungsalgorithmus könnte so programmiert werden, dass er Bildtrends erkennt, und Trainingsdaten könnten Fotos von Hunden darstellen. Sie würden ihm ein Bild als Eingabe geben und als Ausgabe erhalten, ob und wo im Bild eine Reihe von Pixeln erscheint, die einen Hund darstellen.

Da Algorithmen für maschinelles Lernen öffentlich bekannt sind, ist das Ausblenden von Blackboxen weniger effektiv. Da KI-Ingenieure ihr geistiges Eigentum häufig in Blackboxen verbergen, legen sie das Modell normalerweise in eine solche Box. Eine andere Möglichkeit für Softwareentwickler verbergen Bei der Datenverarbeitung werden die Daten, die zum Trainieren des Modells verwendet werden, verschleiert – mit anderen Worten: die Trainingsdaten werden in einer Blackbox abgelegt.

Es ist schwer zu verstehen, wie Black-Box-Algorithmen funktionieren, aber das ist nicht ganz schwarz und weiß.

Eine Glasbox bezieht sich auf ein System, dessen Algorithmen, Trainingsdaten und Modelle öffentlich zugänglich sind, während sich eine Blackbox auf ein System bezieht, dessen Algorithmen, Trainingsdaten und Modelle verborgen sind. Der Begriff Blackbox wird häufig verwendet, wenn Forscher auch diese Aspekte eines KI-Systems als schwarz bezeichnen.

Insbesondere über die Funktionsweise maschineller Lernalgorithmen mangelt es an Wissen Deep-Learning-Algorithmen, Funktion. Forscher entwickeln Algorithmen, die zwar nicht unbedingt Glaskästen sind, aber für den Menschen besser verständlich sind.

Warum sind KI-Blackboxen wichtig?

Es ist nicht immer eine gute Idee, Black-Box-Algorithmen und -Modellen für maschinelles Lernen zu vertrauen. Was passiert, wenn ein maschinelles Lernmodell, das bestimmt, ob Sie sich für einen Geschäftskredit einer Bank qualifizieren, Sie ablehnt? Sie möchten es wissen, damit Sie besser gegen die Entscheidung Berufung einlegen oder Ihre Situation ändern können, um Ihre Chancen auf einen Kredit beim nächsten Mal zu erhöhen.

Man geht davon aus, dass die Aufbewahrung von Software in einer Blackbox Hacker daran hindert, sie zu untersuchen, und sie somit sicherer macht. Hacker können es jedoch reverse engineer Software – das heißt, untersuchen Sie, wie eine Software eng zusammenarbeitet – und entdecken Sie Fehler, die Sie ausnutzen können. Black Boxes haben auch wichtige Auswirkungen auf die Sicherheit von Softwaresystemen.

Es ist für Softwaretester und Hacker mit guten Absichten möglich, in einen Glaskasten zu schauen, der zum Testen von Software verwendet wird, um Schwachstellen zu finden und so Cyberangriffe einzudämmen.

Lesen Sie weitere verwandte Artikel:

Stichworte:

Haftungsausschluss

Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.

Über den Autor

Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.