Tech-Experten unterzeichnen einen offenen Brief, in dem sie zu einer vorübergehenden Pause beim Training fortschrittlicherer KI-Systeme fordern GPT-4
In Kürze
Mehr als 1100 Unterzeichner haben den offenen Brief unterzeichnet, in dem sie eine Pause bei riesigen KI-Experimenten fordern.
Zu den Unterzeichnern gehören unter anderem Elon Musk, Steve Wozniak und Emad Mostaque.
Der offene Brief äußerte Bedenken hinsichtlich der Informationsverzerrung durch KI. Jobautomatisierung und das Risiko der KI für die menschliche Zivilisation.
Mehr als 1,100 Unterzeichner, darunter führende Technologieexperten, haben eine unterzeichnet offenen Brief fordert eine sechsmonatige Pause beim Training fortgeschrittenerer KI-Systeme als GPT-4.
Der Brief wurde vom Future of Life Institute verfasst, einer gemeinnützigen Organisation, die daran arbeitet, globale katastrophale und existenzielle Risiken für die Menschheit zu verringern, insbesondere das existenzielle Risiko durch fortschrittliche künstliche Intelligenz.
Unter Berufung auf die weit verbreiteten Asilomar-KI-Prinzipien, die besagen, dass „fortgeschrittene KI eine tiefgreifende Veränderung in der Geschichte des Lebens auf der Erde darstellen könnte und mit angemessener Sorgfalt und Ressourcen geplant und verwaltet werden sollte“, heißt es in dem Schreiben, dass das Niveau der Planung und Verwaltung findet nicht statt.
In dem Brief heißt es weiter, dass KI-Labore in einem „außer Kontrolle geratenen“ Wettlauf um die Entwicklung immer leistungsfähigerer künstlicher Intelligenz seien, die niemand verstehen, vorhersagen oder zuverlässig kontrollieren könne. So wie es moderne KI-Systeme mögen GPT-4 kann mit Menschen konkurrieren Bei allgemeinen Aufgaben wirft der Brief Bedenken hinsichtlich Informationsverzerrungen durch KI, Jobautomatisierung und das Risiko auf, die Kontrolle über die menschliche Zivilisation zu verlieren.
„Wir fordern alle KI-Labore auf, das Training leistungsfähigerer KI-Systeme sofort für mindestens sechs Monate zu unterbrechen GPT-4. Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen. Wenn eine solche Pause nicht schnell umgesetzt werden kann, sollten die Regierungen eingreifen und ein Moratorium verhängen.“
der Brief besagt.
Der Brief fordert KI-Labore und Technikexperten auf, die Pausenzeit zu nutzen, um Sicherheitsprotokolle für fortschrittliches KI-Design und -Entwicklung zu entwickeln und umzusetzen, die von unabhängigen externen Experten streng geprüft und überwacht werden.
Der amerikanische Journalist Jeff Jarvis kritisierte den Brief jedoch, sagen dass es sich um ein „Musterbeispiel moralischer Panik“ handelt.
Zu den führenden Köpfen in den Bereichen Technologie und maschinelles Lernen, die den Brief zusammen mit DeepMind-Forschern und mehreren Universitätsprofessoren aus der ganzen Welt unterzeichnet haben, gehören:
- Yoshua Bengio, University of Montréal, Turing-Preisträger für die Entwicklung von Deep Learning, Leiter des Montreal Institute for Learning Algorithms
- Stuart Russell, Berkeley, Professor für Informatik, Direktor des Center for Intelligent Systems und Co-Autor des Standardlehrbuchs „Artificial Intelligence: a Modern Approach“
- Elon Musk, CEO von SpaceX, Tesla und Twitter
- Emad Mostaque, CEO, Stability AI
- Jaan Tallinn, Mitbegründer von Skype, Center for the Study of Existential Risk, Future of Life Institute
- Gary Marcus, New York University, KI-Forscher, emeritierter Professor
- Marc Rotenberg, Center for AI and Digital Policy (CAIDP), Präsident
In einer letzter BriefRotenberg schrieb, dass die CAIDP eine Beschwerde bei der Federal Trade Commission einreichen und eine Untersuchung von Open AI fordern werde ChatGPTsowie ein Verbot weiterer kommerzieller Veröffentlichungen des Produkts, bis Schutzmaßnahmen festgelegt sind.
OpenAI CEO Sam Altman hat zugelassen dass „wir auch genug Zeit brauchen, damit unsere Institutionen herausfinden, was zu tun ist“ und dass die Gesellschaft nicht weit von „potenziell beängstigenden“ generativen KI-Tools entfernt ist.
„Wir fordern die FTC auf, „die Pause-Taste zu drücken“, damit unsere Institutionen, unsere Gesetze und unsere Gesellschaft die Möglichkeit haben, aufzuholen. Wir müssen unsere Entscheidungsgewalt über die von uns entwickelten Technologien geltend machen, bevor wir die Kontrolle verlieren“, heißt es in dem CAIDP-Brief.
In anderen Ländern, EU-Gesetzgeber streben an, bis Ende des Jahres ein Abkommen mit den EU-Ländern zur Umsetzung von KI-Regeln zu unterzeichnen, obwohl dies auf einen Engpass stoßen könnte, da die Debatten darüber, wie KI geregelt werden sollte, intensiver werden.
Mehr lesen:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Cindy ist Journalistin bei Metaverse Post, behandelt Themen im Zusammenhang mit web3, NFT, Metaverse und KI, mit Schwerpunkt auf Interviews mit Web3 Akteure der Branche. Sie hat mit über 30 C-Level-Führungskräften gesprochen, Tendenz steigend, und ihre wertvollen Erkenntnisse an die Leser weitergegeben. Cindy stammt ursprünglich aus Singapur und lebt heute in Tiflis, Georgien. Sie hat einen Bachelor-Abschluss in Kommunikations- und Medienwissenschaften von der University of South Australia und verfügt über ein Jahrzehnt Erfahrung im Journalismus und Schreiben. Kontaktieren Sie sie über [E-Mail geschützt] mit Pressegesprächen, Ankündigungen und Interviewmöglichkeiten.
Weitere Artikel
Cindy ist Journalistin bei Metaverse Post, behandelt Themen im Zusammenhang mit web3, NFT, Metaverse und KI, mit Schwerpunkt auf Interviews mit Web3 Akteure der Branche. Sie hat mit über 30 C-Level-Führungskräften gesprochen, Tendenz steigend, und ihre wertvollen Erkenntnisse an die Leser weitergegeben. Cindy stammt ursprünglich aus Singapur und lebt heute in Tiflis, Georgien. Sie hat einen Bachelor-Abschluss in Kommunikations- und Medienwissenschaften von der University of South Australia und verfügt über ein Jahrzehnt Erfahrung im Journalismus und Schreiben. Kontaktieren Sie sie über [E-Mail geschützt] mit Pressegesprächen, Ankündigungen und Interviewmöglichkeiten.
