07. April 2023

Dan Hendrycks: Die Evolution wird uns nicht wählen, wenn sie sich zwischen KI und Menschen entscheidet

Veröffentlicht: 07. April 2023 um 5:00 Uhr. Aktualisiert: 13. April 2023 um 2:34 Uhr

In Kürze

Dan Hendrycks Forschung „Natürliche Selektion bevorzugt künstliche Intelligenz gegenüber Menschen“ ist eine beängstigende Schlussfolgerung.

Er ist ein erfahrener und bekannter Forscher, der Dutzende von wissenschaftlichen Arbeiten zur Bewertung der Sicherheit von KI-Systemen veröffentlicht hat.

Die Forschung von Dan Hendrycks klingt wie ein Todesurteil für den Homo Sapiens. Das Fazit der Studie „Natürliche Selektion bevorzugt KIs gegenüber Menschen“ ist wirklich beängstigend. Dies wurde nicht von einem populären Visionär wie Dan Brown geschrieben, sondern von Dan Hendrycks, dem Direktor des California Center for AI Security (CAIS), einer gemeinnützigen Organisation, die sich auf Forschung und Feldforschung im Bereich der KI-Sicherheit spezialisiert hat.

Dan Hendrycks ist kein Randwahnsinniger, der wegen KI-Fortschritten in Panik gerät. Er ist ein erfahrener und weithin angesehener Forscher, der Dutzende von wissenschaftlichen Arbeiten zur Bewertung der Sicherheit von KI-Systemen veröffentlicht hat – und testet, wie gut sie beim Codieren, Argumentieren, Verstehen von Gesetzen usw. sind. Unter anderem ist er auch Miterfinder von die Gaussian Linear Error Units (GELU).

Dan Hendrycks: Die Evolution wird uns nicht wählen, wenn sie sich zwischen KI und Menschen entscheidet — Dan Hendrycks (berkeley.edu)

Jack Clark, Mitbegründer von ChatGPT Konkurrent Anthropic, Co-Vorsitzender des AI Index der Stanford University, Co-Vorsitzender der AI and Compute-Sektion der OECD und Mitglied des National Advisory Committee on AI der US-Regierung, diskutiert die Schlussfolgerung von Hendrycks‘ Studie. „Die Leute wollen reflexartig eine solche Aussage beiseite schieben, als stamme sie von einem wildäugigen Verrückten, der in einer Waldhütte lebt. Ich möchte dies vorab widerlegen. Wenn ein Experte nicht nur Erfahrung in der KI-Forschung hat, sondern auch in Bewertung der Sicherheit von KI-Systemen schreibt einen Artikel, in dem er argumentiert, dass zukünftige KI-Systeme egoistisch und nicht im Einklang mit den Interessen der Menschen handeln könnten, wir sollten uns darum kümmern!

Eine Zusammenfassung von Hendrycks Veröffentlichung:

Wenn KI-Agenten mehr werden intelligenter als MenschenDies könnte dazu führen, dass die Menschheit die Kontrolle über ihre Zukunft verliert.
Dies geschieht wahrscheinlich nicht aufgrund einer besonderen böswilligen Absicht von Menschen oder Maschinen, sondern allein aufgrund der Anwendbarkeit evolutionärer Entwicklungsprinzipien auf KI gemäß der darwinistischen Logik.
Um dieses Risiko zu minimieren, müssen die intrinsischen Motivationen von KI-Agenten sorgfältig entworfen, ihre Handlungen eingeschränkt und Institutionen geschaffen werden, die die KI-Zusammenarbeit fördern.

Das heißt, die wichtigsten Punkte, die Hendrycks in seiner 43-seitigen wissenschaftlichen Arbeit macht:

1. Wir hatten Angst vor der Ankunft des Terminators, aber die Grundlagen dieser Befürchtungen waren falsch. Es gab zwei Fehler:

A. Anthropomorphisierung der KI mit Zuschreibung unserer Motivationen usw. – wie ChatGPT gezeigt, dass KI ein grundlegend anderer Geist ist, mit allen Konsequenzen, die sich daraus ergeben.

B. Die Idee, dass KI eine Art einzelne Einheit ist: intelligent oder nicht sehr intelligent, freundlich oder nicht sehr freundlich, aber tatsächlich werden diese sehr unterschiedlichen KI-Einheiten bald so oft wie möglich auf der Welt sein.

2. Es gibt einen weiteren grundlegenden Fehler in unseren Vorstellungen von der Zukunft der KI – wir haben den wichtigsten Entwicklungsmechanismus vergessen – die Evolution, die nicht nur die Entwicklung von Bioagenten, sondern auch von Ideen und Bedeutungen, materiellen Werkzeugen und immateriellen Institutionen vorantreibt.

3. Auf der Erde hat sich bereits eine Umgebung herausgebildet, in der sich viele KIs entwickeln und weiterentwickeln werden. Diese Entwicklung wird nach Darwins Logik durch KI-Konkurrenz untereinander verlaufen, wobei die Interessen ihrer „Eltern“-Institutionen berücksichtigt werden: Unternehmen, Militär usw.

4. Die Logik der kompetitiven Evolution wird zu demselben führen wie beim Menschen: Immer intelligentere KI-Agenten werden immer egoistischer und bereit, Ziele durch Täuschung und Gewalt zu erreichen, wobei das Hauptziel Macht ist.

5. Die natürliche Selektion von KI-Agenten tendiert dazu, die selbstsüchtigeren Arten gegenüber den altruistischeren zu bevorzugen. KI-Agenten werden sich egoistisch verhalten und ihre eigenen Interessen ohne Rücksicht auf Menschen verfolgen, was zu katastrophalen Risiken für die Menschheit führen könnte.

Die Petition aufzuhören, fortgeschrittenere KI-Systeme zu entwickeln als GPT-4 hat die Gesellschaft polarisiert. Die erste Gruppe glaubt, dass der Fortschritt nicht aufgehalten werden kann, während eine andere der Meinung ist, dass der Fortschritt gestoppt werden sollte und manchmal auch gestoppt werden sollte. Die dritte Gruppe versteht nicht wie GPT-4 funktioniert in erster Linie. Die wichtigsten Details in diesem Text sind, dass KI kein Bewusstsein, keinen Willen oder keine Handlungsfähigkeit hat und dass sie auch ohne böswillige Menschen schlecht sein kann.
Geoffrey Hinton wird oft als „Godfather of AI“ bezeichnet und gilt als führende Persönlichkeit in der Deep-Learning-Community. Sein 40-minütiges Interview mit ChatGPT ist insofern einzigartig, als es leicht zu verstehen ist und über eine Tiefe des Verständnisses verfügt, die nur wenigen anderen zugänglich ist. Er hebt die Bedeutung der anhaltenden „intellektuellen Revolution“ und der unmenschlichen Intelligenz hervor ChatGPT, das auf einem künstlich intelligenten Agenten mit fortschrittlichen digitalen Kommunikationsfähigkeiten basiert.

Lesen Sie weitere verwandte Artikel:

Stichworte:

Haftungsausschluss

Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.

Über den Autor

Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.