30. Mai 2023

KI-Experten und Persönlichkeiten des öffentlichen Lebens schlagen Alarm wegen der Gefahr des Aussterbens von KI

Veröffentlicht: 30. Mai 2023 um 4:15 Uhr. Aktualisiert: 30. Mai 2023 um 4:15 Uhr

Bearbeitet und faktengeprüft: 30. Mai 2023 um 4:15 Uhr

In Kürze

Prominente KI-Experten und einflussreiche Persönlichkeiten äußern ihre Meinung Bedenken hinsichtlich der mit KI verbundenen Risiken.

Trotz erheblicher Fortschritte in der KI bleiben viele Herausforderungen im Zusammenhang mit dem KI-Risiko ungelöst.

KI-Experten und Persönlichkeiten des öffentlichen Lebens schlagen Alarm wegen der Gefahr des Aussterbens von KI

Prominente KI-Experten und Persönlichkeiten des öffentlichen Lebens haben in einer Erklärung gewarnt, dass KI eine Bedrohung für das Überleben der Menschheit darstellen könnte, die mit den Risiken von Pandemien und Atomkriegen vergleichbar oder sogar größer ist. Die 350 Unterzeichner argumentieren, dass KI unvorhergesehene und katastrophale Folgen haben könnte, etwa die Entfesselung autonomer Waffen, die Störung sozialer und wirtschaftlicher Systeme oder die Schaffung superintelligenter Agenten, die Menschen überlisten und überwältigen könnten.

Sie fordern die politischen Entscheidungsträger auf, diese Risiken ernst zu nehmen und Maßnahmen zu ergreifen, um eine sichere und vorteilhafte KI-Entwicklung zu gewährleisten. Der Aussage wird von einigen der führenden Persönlichkeiten der KI-Forschung und -Entwicklung unterzeichnet, wie z OpenAI CEO Sam Altman, der Mitbegründer von Skype Jaan Tallinn, DeepMind-CEO Demis Hassabis und KI-Informatiker Geoffrey Hinton sowie einflussreiche Persönlichkeiten des öffentlichen Lebens wie der Musiker Grimes und der Podcaster Sam Harris.

Zu den Unterzeichnern gehörten die Gewinner des Turing Award 2018 für ihre Beiträge zum Deep Learning: Geoffrey Hinton und Yoshua Bengio. Zu ihnen gesellten sich Professoren renommierter Universitäten wie Harvard und der Tsinghua-Universität in China sowie Max Tegmark vom MIT.

„Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein.“
In dem von CAIS veröffentlichten Brief heißt es:

Das Zentrum für KI-Sicherheit (CAIS), eine gemeinnützige Organisation mit Sitz in San Francisco, hat sich zum Ziel gesetzt, die Sicherheitsbedenken im Zusammenhang mit künstlicher Intelligenz auszuräumen. CAIS erkennt zwar die potenziellen Vorteile von KI an, betont jedoch die Notwendigkeit, sie sicher zu entwickeln und zu nutzen. Trotz erheblicher Fortschritte in der KI bleiben zahlreiche grundlegende Herausforderungen in der KI-Sicherheit ungelöst, ist das Unternehmen davon überzeugt. Laut seiner Website besteht die Mission von CAIS darin, Risiken zu mindern, indem es Sicherheitsforschung betreibt, eine Gemeinschaft von KI-Sicherheitsforschern fördert und sich für Sicherheitsstandards einsetzt.

„Es gibt viele „wichtige und dringende Risiken durch KI“, nicht nur das Risiko des Aussterbens; zum Beispiel systemische Voreingenommenheit, Fehlinformationen, böswillige Nutzung, Cyberangriffe und Waffeneinsatz. Dies sind alles wichtige Risiken, die angegangen werden müssen. Gesellschaften können mehrere Risiken gleichzeitig bewältigen; es ist nicht „entweder/oder“, sondern „ja/und“. „Aus der Sicht des Risikomanagements wäre es ebenso rücksichtslos, ausschließlich gegenwärtige Schäden zu priorisieren, als auch, sie zu ignorieren.“
Dan Hendrycks, der Direktor von CAIS schrieb auf Twitter.

Im März über 1,100 Tech-Experten unterzeichnet ein offener Brief, in dem ein sechsmonatiger Stopp der Ausbildung von KI-Systemen gefordert wird GPT-4. Das haben auch die europäischen Gesetzgeber kürzlich getan genehmigt strengerer Gesetzesentwurf, bekannt als AI Act, der KI-Tools wie regelt ChatGPT. Das Gesetz enthält Anforderungen an Sicherheitsüberprüfungen, Datenverwaltung und Risikominderung für grundlegende KI-Modelle und verbietet Praktiken wie manipulative Techniken und bestimmte Anwendungen biometrischer Daten.

Mehr lesen:

Stichworte:

Haftungsausschluss

Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.

Über den Autor

Agne ist eine Journalistin, die über die neuesten Trends und Entwicklungen im Metaversum, in der KI und anderen Bereichen berichtet Web3 Branchen für die Metaverse Post. Ihre Leidenschaft für das Geschichtenerzählen hat sie dazu geführt, zahlreiche Interviews mit Experten auf diesen Gebieten zu führen, immer auf der Suche nach spannenden und fesselnden Geschichten. Agne hat einen Bachelor-Abschluss in Literatur und verfügt über umfangreiche Erfahrung im Schreiben über ein breites Themenspektrum, darunter Reisen, Kunst und Kultur. Sie war außerdem ehrenamtlich als Redakteurin für die Tierrechtsorganisation tätig und half dabei, das Bewusstsein für Tierschutzthemen zu schärfen. Kontaktieren Sie sie unter [E-Mail geschützt] .