Eine sechsmonatige Pause im KI-Training ist eine gute Idee, aber möglicherweise nicht genug
In Kürze
Die Geschichte der Petition und die Veröffentlichung von Yudkovskys Artikel haben die Gesellschaft polarisiert.
Das Gefangenendilemma und die Spieltheorie legen nahe, dass eine kritische Masse von geistig gesunden Menschen an verschiedenen Orten erforderlich ist, damit solche Probleme gelöst werden können.
Allerdings gibt es ein paar Aber zu dieser Idee, wie zum Beispiel das Fehlen von Bewusstsein, Willen und Handlungsfähigkeit in der digitalen Evolution.
Die Geschichte der Petition, die Entwicklung fortschrittlicherer KI-Systeme zu stoppen als GPT-4 hat die Gesellschaft spürbar polarisiert. Die Freilassung von Yudkovsky Artikel Bitte darum, die Weiterentwicklung von einzustellen GPT Models gossen Öl ins Feuer, insbesondere seine Passagen über die Bombardierung von Rechenzentren.
Nach dem, was online beobachtet werden kann, scheint es viel weniger Unterstützer der Petition als Gegner zu geben, die drei Hauptargumente haben:
| 1 | – Der Fortschritt ist nicht aufzuhalten. – Die Petition wurde erfunden von OpenAI Konkurrenten. – China wird nicht warten. |
| 2 | – Sie sollten keine Angst vor KI haben, sondern vor Menschen. - GPT hat kein Bewusstsein, keinen Willen, keine Bestrebungen oder Entscheidungsfreiheit, also gibt es nichts zu befürchten. - GPT-4 ist wahnsinnig weit davon entfernt, die Welt zu versklaven, weil es nichts versteht, dumme Fehler macht und im Allgemeinen ziemlich dumm ist. - GPT-4 wird nicht in der Lage sein, die Welt zu regieren, weil es keine Arme/Beine hat. |
| 3 | – Die dritte Gruppe versteht nicht wie GPT-4 funktioniert in erster Linie. |
Wir werden uns nicht auf die dritte Gruppe konzentrieren, weil ihre Haltung aus Unwissenheit kommt. Das soll nicht heißen, dass alle KI-Gegner alles über KI wissen; Man findet viele Anti-KI-Leute, denen es an Verständnis für die Technologie und deren Folgen mangelt, obwohl Yudkovsky selbst sehr viel tiefer in das Thema KI eintaucht, sodass ihm keine Unwissenheit vorgeworfen werden kann.
Werfen wir einen Blick auf die erste Gruppe von Menschen – diejenigen, die glauben, dass der Fortschritt nicht aufgehalten werden kann. Sie bieten unterschiedliche, aber ähnliche Argumente an, und insgesamt leugnen diese Leute die Fähigkeiten der KI und die Aussichten, die ihre Einführung mit sich bringt, nicht und glauben, dass die Entwicklung der KI auf jeden Fall fortgesetzt wird.
Die erste These vom unaufhaltsamen Fortschritt ist ein Slogan, der nicht stimmen muss. Die Menschen scheinen einige wissenschaftliche Experimente eingestellt zu haben, und viele einst akzeptierte Forschungsprojekte gelten nicht mehr als ethisch vertretbar, und ähnliche Projekte würden heute niemals zugelassen werden. Wie viel Fortschritt wurde jedoch in der Vergangenheit durch die Inquisition und andere religiöse Verfolgung, Buchverbote und Morde an Wissenschaftlern in China (und anderen Ländern) gestoppt? Das ist etwas, was wir aufgrund des Survivorship-Bias nie vollständig begreifen können.
Andere Thesen beinhalten den Ansatz, der sich wie folgt zusammenfassen lässt: „Wenn nicht wir, dann sie.“ Diese Denkweise mag zwar verständlicher sein, scheint aber auch nicht die richtige Lösung zu sein. Es ist dem Gefangenendilemma in der Spieltheorie sehr ähnlich.
Die zweite Gruppe von Argumenten ist die interessanteste. Während ich persönlich dem bis zu einem gewissen Grad zustimme, gibt es ein paar Aber, die angesprochen werden müssen. Ja, KI hat kein Bewusstsein, keinen Willen, keine Handlungsfähigkeit usw. COVID-19 auch nicht, und dennoch hat es weltweit Chaos angerichtet. Etwas muss kein Gefühl von Handlungsfähigkeit und Bewusstsein haben, um gefährlich zu werden; Ein Szenario, dass das Leben auf der Erde aufgrund eines Virus ausgelöscht wird, ist nicht unvorstellbar. Sobald seine Arbeit erledigt ist, kann es die Stühle auf die Tische stellen, das Licht ausschalten und für immer gehen.
Um die biologische Analogie fortzusetzen, gibt es einen wunderbaren Artikel, „The Surprising Creativity of Digital Evolution: A Collection of Anecdotes from the Evolutionary Computation and Artificial Life Research Communities“, der viele Beispiele dafür liefert, wann Prozesse in eine unerwartete Richtung gehen. Auch ohne einen evolutionären Prozess kann alles auf die falsche Verallgemeinerung „Goal Misgeneralization: Why Correct Specifications Aren't Enough For Correct Goals“ hinauslaufen. Einem Optimierungsprozess freien Lauf zu lassen, kann schief gehen, wird in „Risiken aus erlernter Optimierung in fortschrittlichen maschinellen Lernsystemen"
Dabei berücksichtigen wir grundsätzlich nicht die Risiken von böswilliger Einsatz von KI und alle Missbrauch, was nur das Argument nährt, dass wir uns vor Menschen und nicht vor KI selbst fürchten müssen. Die Wahrheit ist jedoch, dass KI auch ohne böswillige Menschen schlecht sein kann.
Ich stimme auch darin überein, dass das Modell dumme Fehler macht, aber auch Menschen machen das, und wir wissen doch, dass sie Schaden anrichten können. Während Models viele Fehler machen, können sie auch viele tolle, coole und komplexe Probleme lösen, die der Durchschnittsmensch nicht lösen kann. Aus dem berüchtigten Werk „Sparks of Artificial General Intelligence: Early Experiments with GPT-4„Ich war beeindruckt, dass KI in der Lage war, Fermi-Probleme, ziemlich komplexe mathematische Probleme, zu lösen, wenn auch nicht immer richtig.“ Auch die Theorie des Geistes und „sozusagen die Fähigkeit, die Handlungen anderer zu verstehen“ sind sehr beeindruckend. All diese Dinge deuten auf die Intelligenz der KI hin; vorhanden, aber nicht ganz wie unseres.
Die Beseitigung zumindest einiger der Fehler, die KI-Modelle machen, ist im Allgemeinen machbar, sodass ihre Intelligenz nur wachsen kann. Alles, was Sie tun müssen, ist ein Modul für genaue Berechnungen, eine Faktenbasis und die Validierung mit einem anderen Modell hinzuzufügen.
Das Wichtigste an dieser ganzen Geschichte ist die Geschwindigkeit der KI-Entwicklung. GPT für sind in schwindelerregendem Tempo enorm gewachsen. Jetzt sind da ChatGPT Plugins verfügbar, Sie können es verwenden GPT Modelle zum Schreiben von Code, APIs stehen der breiten Öffentlichkeit zur Verfügung und Sie können externe Tools ohne vorherige Schulung verwenden.
GPT-4Natürlich wird es nicht die Welt erobern, aber es kann die Wirtschaft stark erschüttern. GPT-5, und die zukünftige Iteration des Modells, sind möglicherweise nicht sehr weit voraus und werden wahrscheinlich mit viel stärkeren Fähigkeiten ausgestattet sein. Und seien wir ehrlich, wir können nicht hoffen, die noch nicht existierenden Modelle zu verstehen; wir haben die bereits existierenden Modelle noch nicht einmal annähernd verstanden. In diesem Sinne kann eine sechsmonatige Pause eine gute Idee sein, aber sie reicht möglicherweise nicht aus.
Und angesichts dessen, dass die KI-Rennen hat begonnen, es bleibt keine Zeit zum Lernen.
Im Allgemeinen habe ich angesichts all dessen auch die Petition unterschrieben. Obwohl ich nicht glaube, dass es in irgendeiner Weise helfen wird.
Lesen Sie weitere verwandte Themen:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
Weitere Artikel
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
