KI-Führungskräfte warnen vor wachsenden Risiken und ethischen Bedenken bei schnellen Fortschritten
In einer aktuellen GrundsatzerklärungProminente Persönlichkeiten auf dem Gebiet der KI, darunter Bengio, Hinton, Russell, Harari und Kahneman, haben angesichts der schnellen Fortschritte und wachsenden gesellschaftlichen Risiken im Zusammenhang mit KI Alarm geschlagen.
KI entwickelt sich schnell. GPT-2 Vor vier Jahren konnte man nicht von 0 bis 100 zählen, aber moderne Modelle können Code schreiben, erstaunliche Bilder erstellen und intellektuelle Anleitung bieten. Und weil wir uns in einem Rennen befinden, kann der Fortschritt noch schneller werden. Darüber hinaus schreitet die KI schneller voran, indem sie beispielsweise bei der Programmierung neuer Systeme und der Sammlung von Daten für deren Training hilft.
Sobald der Fortschritt menschliches Niveau erreicht, gibt es keinen Grund zu der Annahme, dass er langsamer wird oder aufhört. In bestimmten Regionen haben künstliche Systeme den Menschen in dieser Hinsicht bereits übertroffen Funktionen wie schnellere Verarbeitung Geschwindigkeiten, größere Datenverarbeitungskapazitäten und umfassende Skalierbarkeit. Unternehmen verfügen über die finanziellen Mittel, um Schulungsprogramme durchzuführen, die weit über die derzeitige Obergrenze hinausgehen.
Die Autoren gehen davon aus, dass die Chance groß ist, dass innerhalb der nächsten zehn Jahre ein besserer KI-Generalist hervortreten wird. menschliche Fähigkeiten übertreffen in vielen wichtigen Bereichen.
Was wird als nächstes passieren? Alle Leben können verbessert werden, wenn sie richtig verwaltet und verteilt werden. Die schlecht gewählte Option birgt erhebliche Risiken, auf die wir schlecht vorbereitet sind. Anstatt für Sicherheit und Schadensverhütung bereitzustellen, werden erhebliche Ressourcen für den Aufbau immer leistungsfähigerer KI-Systeme aufgewendet. Das muss sich ändern; Das alleinige Erlernen von Fähigkeiten reicht nicht aus. Und dieser Prozess dauert länger als erwartet. Wir müssen höhere Risiken einplanen, bevor sie entstehen, indem wir die Eskalation aktueller Bedrohungen und das Auftreten neuer Bedrohungen antizipieren. Wir haben nicht so viel Zeit für KI, wie es Jahrzehnte dauert, bis sie akzeptiert wird Klimawechsel.
Auf gesellschaftlicher Ebene bestehen zahlreiche Risiken, darunter eine Zunahme der Ungerechtigkeit, eine Verschlechterung der Stabilität und eine Verschlechterung der gemeinsamen Wahrnehmung der Realität. Hier sind Terroristen und Kriminelle in großem Umfang tätig. KI könnte sich in den Händen einiger weniger Akteure konzentrieren, was zu größerer globaler Ungleichheit führen, automatisierte Kriegsführung, Massenmanipulation, die auf jeden Einzelnen zugeschnitten ist, und allgegenwärtige Überwachung erleichtern.
Als autonom KI wird ausgefeilter und kann planenWenn es darum geht, in der Welt zu handeln und seine Ziele zu erreichen, werden diese Risiken nur noch zunehmen. Diese Ziele sind möglicherweise nicht in unserem besten Interesse und können im Falle schlechter Akteure sogar schädlich sein. Es ist derzeit unklar, wie das Problem der KI-Ausrichtung gelöst werden kann, bei dem es darum geht, das KI-Verhalten an unsere komplexen Ziele anzupassen. Darüber hinaus ist es sehr leicht, Sicherheitsvorkehrungen zu übersehen, wenn man Rennen mit der Absicht fährt, zu gewinnen.
Normale Software ist für Menschen schwer zu kontrollieren, ganz zu schweigen von hochentwickelten KI-Systemen, die sich zunehmend mit Social Engineering, Hacking, Täuschung und strategischer Planung auskennen. Dies ist etwas, das autonome KI-Systeme von Menschen aufgreifen oder selbst erstellen können.
Diese Systeme haben die Fähigkeit, Koalitionen mit Einzelpersonen und anderen Systemen zu bilden, Vertrauen zu gewinnen, Finanzierung zu sichern und Entscheidungsträger zu beeinflussen. Wie ein Wurm sind sie in der Lage, sich im gesamten Netzwerk selbst zu reproduzieren. Mit Hilfe von KI-Assistenten werden bereits riesige Mengen an Code geschrieben; In Zukunft könnten Systeme Exploits in zahlreiche wichtige Systeme integrieren. KI-Systeme haben die Fähigkeit, biologische oder autonome Waffen im offenen Kampf einzusetzen oder zu bedrohen. Dies ist lediglich eine Fortsetzung von die aktuellen Bewegungen hin zu biologischer Forschung, künstlicher Intelligenz und der Automatisierung der Kriegsführung. Für die Menschen könnte es zu schwierig sein, einzugreifen und Widerstand zu leisten.
In vielen Fällen sind wir bereit, ihnen die Zügel zu übergeben, ohne dass sie darum bitten müssen. Viele Einzelpersonen und Unternehmen sind bereit, solche Systeme in einem Wettbewerbsumfeld selbst einzuführen, aus Angst, dass sie hinter der Konkurrenz zurückfallen.
Das vollständige Dokument finden Sie hier hier.
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
Weitere Artikel
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
