Vitalik Buterin und MIRI-Direktor Nate Soares befassen sich mit den Gefahren der KI: Könnte künstliche Intelligenz zum Aussterben der Menschheit führen?
In Kürze
Ethereum-Gründer Vitalik Buterin und Direktor des Machine Intelligence Research Institute Nate Soares diskutierten heute bei Zuzalu über die Risiken von KI.
Zuzalu ist eine Pop-up-Stadtgemeinschaft in Montenegro, die von Buterin und seinen Kollegen aus der Krypto-Community ins Leben gerufen wurde.
In der Diskussion teilte Soares seine Sichtweise darüber, warum KI höchstwahrscheinlich alles Leben auf der Erde auslöschen wird.
Ethereum-Gründer Vitalik Buterin und Direktor des Machine Intelligence Research Institute (MIRI) Nate Soares diskutierte heute bei Zuzalu über die Risiken von KI.
Zuzalu ist eine „Pop-up-Stadtgemeinschaft“ in Montenegro, die von Buterin und seinen Kollegen aus der Krypto-Community initiiert wurde und vom 25. März bis 25. Mai stattfindet. Die Veranstaltung bringt 200 Kernbewohner zusammen, die den gemeinsamen Wunsch haben, zu lernen, zu schaffen, länger und gesünder zu leben Leben und bauen autarke Gemeinschaften auf. Im Laufe von zwei Monaten veranstaltet die Community außerdem eine Reihe von Veranstaltungen zu verschiedenen Themen wie synthetische Biologie, Technologie für den Datenschutz, öffentliche Güter, Langlebigkeit, Governance und mehr.
Das Diskussion Der Film begann damit, dass Soares seine Arbeit bei MIRI vorstellte, einer gemeinnützigen Organisation mit Sitz in Berkeley, die schon länger existiert, als er sie leitet. Seit 20 Jahren versucht MIRI, den Grundstein zu legen, um sicherzustellen, dass die KI-Entwicklung gut verläuft. Mit der Diskussion wollte Vitalik ansprechen, was KI im Vergleich zu anderen in der Menschheitsgeschichte eingeführten Technologien besonders riskant macht.
Die Wahrscheinlichkeit, dass KI das Aussterben der Menschheit verursacht
Vitalik sagte, er interessiere sich schon seit langem für das Thema KI-Risiken und erinnere sich daran, dass er überzeugt war, dass die Wahrscheinlichkeit, dass alles Leben auf der Erde nicht mehr existiert, wenn die KI fehlschlägt, bei 0.5–1 % liegt – ein existenzielles Risiko, das dazu führen würde das Aussterben der Menschheit oder der irreversible Zusammenbruch der menschlichen Zivilisation.
Aus der Sicht von Soares scheint das Aussterben der Menschheit ein Standardergebnis der unsicheren Entwicklung der KI-Technologie zu sein. Im Vergleich zur Evolution sagte er, dass die Entwicklung der Menschheit offenbar schneller vonstatten ginge als bloße evolutionäre Veränderungen. Sowohl in KI- als auch in menschlichen Evolutionsprozessen veränderte sich die vorherrschende Optimierung – ein Prozess, bei dem die beste Lösung für ein Problem gefunden wird, wenn mehrere Ziele zu berücksichtigen sind. Der Mensch war an einem Punkt angelangt, an dem er Wissen durch Mundpropaganda weitergeben konnte, anstatt die Informationen durch natürliche Selektion fest in den Genen zu verankern.
„KI ist letztlich ein Fall, bei dem man den makroskopischen Optimierungsprozess wieder umstellen kann. Ich denke, dass man in puncto Optimierung viel besser abschneiden kann als Menschen. Ich denke, wir sind immer noch ziemlich dumm, wenn es um die Optimierung unserer Umgebung geht. Mit der KI durchlaufen wir eine Art Phasenübergang, in dem die automatisierte Optimierung die Kraft ist, die die makroskopischen Merkmale des Universums bestimmt“, erklärte Soares.
Er fügte hinzu, dass der Optimierungsprozess darauf abzielt, wie diese Zukunft aussieht, und dass dies wahrscheinlich keinen Nutzen mehr für die Menschheit haben wird, da die meisten Optimierungsziele keinen Platz für Menschen haben.
| Lesen: Das Beratungsunternehmen Axon Partners Group veröffentlicht den Bericht „Embracing AI in 2023“. |
Können Menschen KI trainieren, Gutes zu tun?
Buterin wies darauf hin, dass der Mensch diejenigen sei, die die KI trainieren und ihr sagen, wie sie optimieren soll. Bei Bedarf könnten sie die Art und Weise ändern, wie die Maschine optimiert wird. Dazu sagte Soares, dass es prinzipiell möglich sei, KI zu trainieren, Gutes zu tun, aber eine KI einfach nur zu trainieren, um ein Ziel zu erreichen, bedeute nicht, dass sie das tun würde oder will, sondern auf einen Wunsch hinausläuft.
Buterin betonte das verstärkende Lernen in großen Sprachmodellen, die große Datenmengen über menschliche Vorlieben erhalten, und fragte, warum das nicht funktionieren würde, da die vorhandene Intelligenz immer besser darin sei, unsere Vorlieben zu verstehen.
„Es gibt eine große Lücke zwischen dem Verstehen unserer Beweggründe und dem Scheißen.“
Soares antwortete.
„Ich behaupte nicht, dass ein großes Sprachmodell oder eine KI die Details menschlicher Vorlieben nicht verstehen wird. Ich behaupte, dass das Verstehen der Einzelheiten menschlicher Vorlieben etwas ganz anderes ist als die Optimierung auf das Gute“, fügte er hinzu.
Ein Zuhörer zog einen Vergleich zwischen KI und Menschen und sagte, dass Menschen wie künstliche Intelligenz dazu neigen, nicht zu verstehen, was sie tun oder vorhersagen, was ebenfalls gefährlich sein könnte. Dann bat er Soares, so zu tun, als wäre er ein Außerirdischer, und zu erklären, warum es keine Menschen geben sollte.
„Ich wäre nicht begeistert davon, einem einzelnen Menschen gottähnliche Kräfte und die Kontrolle über die Zukunft zu geben. Unabhängig davon würde es mir viel mehr Freude bereiten, einem einzelnen Menschen Macht zu geben, als einer zufällig eingesetzten KI. Ich sage ausdrücklich nicht, dass wir keine KI haben sollten. Ich sage, wir müssen es richtig machen. Wir müssen sie dazu bringen, sich um eine Zukunft voller Spaß und Glück und blühende Zivilisationen zu kümmern, in denen Transhumanisten positive Summengeschäfte mit Außerirdischen usw. tätigen“, stellte Soares klar. „Wenn man einen starken Optimierungsprozess aufbaut, der sich um verschiedene Dinge kümmert, könnte das möglicherweise alle Werte des Universums zerstören.“
Er fügte hinzu, dass die Dinge, die Menschen wertschätzen, nicht allgemein überzeugend seien und dass Moral nichts sei, was irgendein Geist, der sie studiert, verfolgen würde. Vielmehr ist es das Ergebnis der in den Menschen eingebauten Triebe, die uns in der Umgebung unserer Vorfahren zu einer guten Fortpflanzungsfähigkeit verholfen haben und spezifisch für den Menschen sind.
Letztendlich ist Soares davon überzeugt, dass wir nicht etwas aufbauen sollten, das ähnlich intelligent oder noch intelligenter ist und nicht mit Spaß, Glück und einer blühenden Zukunft vereinbar ist. Andererseits sagte er auch, dass die Menschheit nicht beim ersten Versuch während eines Wettrüstens eine freundliche Superintelligenz aufbauen sollte, die eine lustige Zukunft optimiert. Kurzfristig sollte die KI der Menschheit dabei helfen, Zeit und Raum zu gewinnen, um herauszufinden, was sie tatsächlich will.
ChatGPT wird nicht die gesamte Biosphäre verschlingen
Da KI derzeit entwickelt wird, um bestimmte Ziele, einschließlich Vorhersagen, zu erreichen, fragte Buterin: Was wäre, wenn KI nicht zielorientiert wäre? Soares sagte, es sei einfach, KIs zu bauen, die sicher und nicht leistungsfähig sind, und wir könnten bald KIs haben, die zwar fähig sind, aber andere Dinge verfolgen. Er denkt nicht ChatGPT wird die gesamte Biosphäre verbrauchen, da sie nicht auf diesem Leistungsniveau ist.
Soares stellte fest, dass die meisten interessanten KI-Anwendungen, wie die Automatisierung der wissenschaftlichen und technologischen Entwicklung und Forschung, offenbar eine gewisse Zielverfolgung erfordern.
„Es ist kein Fehler, den man machen kann GPT Man kann es nicht schaffen, ein nettes Haiku zu schreiben, aber man schafft es nicht, einen Roman zu schreiben. Die Grenzen der aktuellen Systeme hängen damit zusammen, dass sie diese tieferen Ziele nicht verfolgen, zumindest für mich.“
Mehr lesen:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Cindy ist Journalistin bei Metaverse Post, behandelt Themen im Zusammenhang mit web3, NFT, Metaverse und KI, mit Schwerpunkt auf Interviews mit Web3 Akteure der Branche. Sie hat mit über 30 C-Level-Führungskräften gesprochen, Tendenz steigend, und ihre wertvollen Erkenntnisse an die Leser weitergegeben. Cindy stammt ursprünglich aus Singapur und lebt heute in Tiflis, Georgien. Sie hat einen Bachelor-Abschluss in Kommunikations- und Medienwissenschaften von der University of South Australia und verfügt über ein Jahrzehnt Erfahrung im Journalismus und Schreiben. Kontaktieren Sie sie über [E-Mail geschützt] mit Pressegesprächen, Ankündigungen und Interviewmöglichkeiten.
Weitere Artikel
Cindy ist Journalistin bei Metaverse Post, behandelt Themen im Zusammenhang mit web3, NFT, Metaverse und KI, mit Schwerpunkt auf Interviews mit Web3 Akteure der Branche. Sie hat mit über 30 C-Level-Führungskräften gesprochen, Tendenz steigend, und ihre wertvollen Erkenntnisse an die Leser weitergegeben. Cindy stammt ursprünglich aus Singapur und lebt heute in Tiflis, Georgien. Sie hat einen Bachelor-Abschluss in Kommunikations- und Medienwissenschaften von der University of South Australia und verfügt über ein Jahrzehnt Erfahrung im Journalismus und Schreiben. Kontaktieren Sie sie über [E-Mail geschützt] mit Pressegesprächen, Ankündigungen und Interviewmöglichkeiten.
