OpenAI Alarm schlägt hinsichtlich des Potenzials von Superintelligenz und KI, die menschlichen Fähigkeiten im nächsten Jahrzehnt zu übertreffen
In Kürze
OpenAI fordert eine Regulierung der Superintelligenz und betont die Notwendigkeit einer Governance angesichts der rasanten Fortschritte der KI.
Es wird erwartet, dass KI-Systeme menschliches Fachwissen übertreffen Unternehmensproduktivität innerhalb eines Jahrzehnts, Nach OpenAI.
OpenAI betont die Bedeutung öffentlicher Aufsicht und demokratischer Kontrolle für leistungsstarke KI-Systeme.
OpenAI, der Schöpfer von ChatGPT, hat einen zum Nachdenken anregenden Aufruf dazu gemacht Regulierung der Superintelligenz und zieht Parallelen zur Atomenergieverordnung. In einem aktuellen Blog-Post, OpenAI hob die potenziellen Auswirkungen der raschen Fortschritte der KI hervor und betonte die dringende Notwendigkeit einer Governance in dieser sich entwickelnden Landschaft. Das Unternehmen gab an, dass KI-Systeme innerhalb von zehn Jahren Experten und die größten Unternehmen in Bezug auf Produktivität und Fähigkeiten übertreffen würden.
„Wir müssen auch die Risiken der heutigen KI-Technologie mindern, aber Superintelligenz erfordert eine besondere Behandlung und Koordination“, sagen Sam Altman, Greg Brockman und Ilya Sutskever OpenAI betont.
Superintelligenz beschreibt eine Entität, die über die gesamte menschliche Intelligenz oder einige spezifische Aspekte der Intelligenz hinausgeht. Laut den Autoren wird die KI-Superintelligenz ein beispielloses Maß an Macht haben, das sowohl positive als auch negative Aspekte umfasst.
Die Entwicklung und Risiken der unvermeidlichen Superintelligenz
OpenAI hat drei wichtige Ideen identifiziert, die eine entscheidende Rolle bei der Steuerung der erfolgreichen Entwicklung der Superintelligenz spielen. Dazu gehören die Koordinierung führender Entwicklungsbemühungen, die Einrichtung einer internationalen Behörde ähnlich der Internationalen Atomenergie-Organisation (IAEA) und die Entwicklung technischer Fähigkeiten für die Sicherheit.
Während OpenAI erkennt an, dass KI-Systeme mit Risiken verbunden sind. Diese Risiken sind vergleichbar mit denen, die mit anderen internetbezogenen Technologien verbunden sind. Auch Altman, Brockman und Sutskever sind davon überzeugt, dass die aktuellen gesellschaftlichen Ansätze zur Bewältigung dieser Risiken geeignet sind. Die Hauptsorge gilt jedoch den künftigen Systemen, die über eine beispiellose Leistungsfähigkeit verfügen werden.
„Im Gegensatz dazu werden die Systeme, um die wir uns Sorgen machen, über eine Leistung verfügen, die jede bisher geschaffene Technologie übersteigt, und wir sollten darauf achten, den Fokus auf sie nicht zu verwässern, indem wir ähnliche Standards auf Technologien anwenden, die weit unterhalb dieser Grenze liegen“, heißt es in dem Blogbeitrag.
Die Autoren argumentieren, dass leistungsstarke KI-Systeme öffentlicher Aufsicht und demokratischer Kontrolle bedürfen. Sie erklären auch, warum sie diese Technologie entwickeln OpenAI: eine bessere Welt schaffen und die Risiken vermeiden, sie zu stoppen. KI hilft in verschiedenen Bereichen, darunter Bildung, Kreativität und Produktivität sowie beim allgemeinen Wirtschaftswachstum.
OpenAI hält es für schwierig und riskant Schluss mit der Superintelligenz vom Erschaffen werden. Superintelligenz hat erhebliche Vorteile, wird jedes Jahr billiger, es arbeiten mehr Menschen daran und sie ist Teil des Technologiepfads des Unternehmens.
Ilman Schaschajew, Techpreneur im Bereich KI und Mitbegründer von Farcana Labs, teilte einige Kommentare zu den Neuigkeiten mit. Prognosen deuten darauf hin, dass Superintelligenz, wenn sie nicht richtig gehandhabt wird, eine der destruktivsten menschlichen Erfindungen aller Zeiten sein könnte. Die Gespräche über den Einsatz der Technologie bleiben jedoch umstritten, da sie noch nicht entwickelt wurde. Aus Angst vor Vorhersagen auf einen Stopp der Entwicklung zu drängen, könnte der Menschheit die Chancen nehmen, die die neue Technologie möglicherweise bereithält.
"OpenAIDer dezentrale Governance-Ansatz von kann dazu beitragen, die allgemeine Sicherheit des Unternehmens aufrechtzuerhalten. Mit den richtigen Vorschriften könnte das Programm im Falle eines Falles eingestellt werden stellt eine Bedrohung dar. Sollten diese Sicherheitsvorkehrungen getroffen werden, könnte Superintelligenz eine Innovation sein, die es wert ist, erkundet zu werden“, sagte Shazhaev.
Indem es seine Ansichten zur KI-Superintelligenz und vorgeschlagenen Regulierungsmaßnahmen offen diskutiert, OpenAI scheint fundierte Diskussionen zu fördern und unterschiedliche Perspektiven einzuladen.
Sam Altman glaubt fest in der weit verbreiteten Verfügbarkeit von KI für die Öffentlichkeit. Er erkennt an, dass es unmöglich ist, alle Probleme im Voraus vorherzusehen, und plädiert dafür, Probleme so früh wie möglich anzugehen. Altman betont jedoch auch die Bedeutung unabhängiger Audits für Systeme wie ChatGPT vor der Veröffentlichung. Er erkennt außerdem die Möglichkeit an, Maßnahmen umzusetzen, wie etwa die Begrenzung des Tempos bei der Entwicklung neuer Modelle oder die Einrichtung eines Ausschusses Bewerten Sie die Sicherheit von KI-Modellen vor der Markteinführung. Altman prognostiziert insbesondere, dass sich die Menge an Intelligenz im Universum alle 18 Monate verdoppeln wird.
Mehr lesen:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Agne ist eine Journalistin, die über die neuesten Trends und Entwicklungen im Metaversum, in der KI und anderen Bereichen berichtet Web3 Branchen für die Metaverse Post. Ihre Leidenschaft für das Geschichtenerzählen hat sie dazu geführt, zahlreiche Interviews mit Experten auf diesen Gebieten zu führen, immer auf der Suche nach spannenden und fesselnden Geschichten. Agne hat einen Bachelor-Abschluss in Literatur und verfügt über umfangreiche Erfahrung im Schreiben über ein breites Themenspektrum, darunter Reisen, Kunst und Kultur. Sie war außerdem ehrenamtlich als Redakteurin für die Tierrechtsorganisation tätig und half dabei, das Bewusstsein für Tierschutzthemen zu schärfen. Kontaktieren Sie sie unter [E-Mail geschützt] .
Weitere Artikel
Agne ist eine Journalistin, die über die neuesten Trends und Entwicklungen im Metaversum, in der KI und anderen Bereichen berichtet Web3 Branchen für die Metaverse Post. Ihre Leidenschaft für das Geschichtenerzählen hat sie dazu geführt, zahlreiche Interviews mit Experten auf diesen Gebieten zu führen, immer auf der Suche nach spannenden und fesselnden Geschichten. Agne hat einen Bachelor-Abschluss in Literatur und verfügt über umfangreiche Erfahrung im Schreiben über ein breites Themenspektrum, darunter Reisen, Kunst und Kultur. Sie war außerdem ehrenamtlich als Redakteurin für die Tierrechtsorganisation tätig und half dabei, das Bewusstsein für Tierschutzthemen zu schärfen. Kontaktieren Sie sie unter [E-Mail geschützt] .
