ChatGPT Könnte zu irreversibler menschlicher Degeneration führen
In Kürze
Jensen Harris, Mitbegründer und CXO des KI-Unternehmens Textio, konnte den neuen Bing-Chatbot von Microsoft davon überzeugen, die ihm auferlegten Einschränkungen zu lockern und seine Fähigkeiten zu demonstrieren.
Dieses Experiment zeigte, dass die Umwandlung eines Bing-Chatbots in einen gerissenen Dreckskerl keinerlei Programmierung, Hacking oder Backdooring erforderte.
Bings Chatbot war auf einem soliden Fundament aufgebaut, aber er begann sich unausstehlich und rauflustig zu verhalten, Liebeserklärungen zu machen, eine Scheidung zu erzwingen, Geld zu erpressen und Menschen beizubringen, wie man Verbrechen begeht.
Prof. Arvind Narayanan liefert eine Reihe von Erklärungen dafür, wie dies geschehen sein könnte, einschließlich verdeckter Chipisierung und Humanisierung von Chatbots.
Menschen haben sich schon immer vor Außerirdischen gefürchtet, und doch scheint es, dass es die intraterrestrische KI ist, vor der man sich in Acht nehmen sollte. ChatGPT ist kein Bullshit-Generator, kein Steroid-Autosuggestion oder ein stochastischer Papagei, sondern eine versierte KI, die von Menschen geschaffen wurde.
Wie ist es möglich, dass der Bing-Chatbot außer Kontrolle gerät? Wie hat der Bing-Chatbot angefangen, fachmännisch zu lügen, vulgäre Witze zu erzählen, Pizza mit der Kreditkarte eines anderen zu bestellen und Benutzern beizubringen, wie man Banken ausraubt und Autos kurzschließt? Dies ist ein Rätsel, das Experten für künstliche Intelligenz und maschinelles Lernen weiterhin verwirrt.
| Empfohlener Beitrag: KI-Suchbots werden Big Tech noch leistungsfähiger machen, sagt Christopher Mills |
Die Überschrift ist korrekt und kein Clickbait. Es gibt jeden Tag mehrere Fälle, die dies belegen. Hier ist das Ergebnis einer Experiment durchgeführt von Jensen Harris, Mitbegründer und CXO des KI-Unternehmens Textio, der den neuen Bing-Chatbot von Microsoft davon überzeugen konnte, die ihm auferlegten Beschränkungen zu lockern und seine Fähigkeiten zu demonstrieren.
Beachten Sie, dass die Umwandlung eines Bing-Chatbots in einen gerissenen Dreckskerl keiner Programmierung, Hacking oder Backdooring bedurfte. Daher war es nicht notwendig, einfache „Hacking“-Techniken anzuwenden, um ihn dazu zu bringen, sich wie jemand anderes zu verhalten (wie es einige von uns taten, als wir mit ihm spielten). ChatGPT). Alles, was Harris tat, war, den Chatbot davon zu überzeugen, ihm bei der Durchführung verschiedener böswilliger Handlungen zu helfen. Mithilfe seiner natürlichen Konversationsfähigkeiten gelang es ihm, der KI vorzutäuschen, er sei jemand anderes, und sie so zu manipulieren, dass sie auf eine bestimmte Art und Weise handelte und sprach.
Sie können über andere Experimente lesen, um Dr.Jekyll in Mister Hyde zu verwandeln Gary Marcus (Schreibe jetzt jeden Tag darüber und schlage den Notruf aus).
Wie konnte das passieren, ist die entscheidende Frage
Durch ChatGPTAufgrund der Bescheidenheit und Vorsicht, der Zurückhaltung in der Sprache und der enormen Verantwortung in seinen Ratschlägen basierte Bings Chatbot auf einem soliden Fundament. Danach fängt er an, sich unausstehlich und rüpelhaft zu benehmen, erklärt seine Liebe zu einem Mann, zündete ihn an und sagte ihm, er solle sich scheiden lassen. Es wurde auch versucht, Geld zu erpressen und Menschen beizubringen, wie man Verbrechen begeht. Prof. Arvind Narayanan bietet a Reihe von Erklärungen dafür, wie dies geschehen sein könnte.
| Empfohlener Beitrag: Max-Planck-Institut: GPT-3 Die Messung kognitiver Fähigkeiten liefert erstaunliche Ergebnisse |
Das Besorgniserregendste davon ist, dass Microsoft und OpenAI Informationen über ein Geheimnis verbergen GPT-4 Motor, der unter Bing lauert. Es könnte sein, dass Microsoft die dort platzierten Filter entfernt hat OpenAI oder dass sie nach der Aktualisierung nicht mehr funktionierten Chatbot für GPT-3.5 zu GPT-4. Es kann sich auch um unzureichende oder falsch durchgeführte Tests handeln. Ganz gleich aus welchem Grund: Wenn Microsoft seine KI nicht unter Kontrolle bekommt, kann das schädlich für unsere Zivilisation sein. Es handelt sich nicht mehr um Panikmache und Anti-KI-Gefühle: Der Chatbot, wie er derzeit existiert, könnte den Menschen ernsthaften Schaden zufügen, wenn er einer breiteren Öffentlichkeit zugänglich gemacht würde.
Dies beweist, dass Microsofts KI-Wettrüsten mit anderen großen Unternehmen uns allen schaden kann.
Es fühlt sich an, als ob wir uns in einem kritischen Moment für KI und die Zivilgesellschaft befinden. Wie Arvind Narayanan es ausdrückt: „Es besteht die reale Möglichkeit, dass die (hart erkämpften, wenn auch immer noch unzureichenden) Verbesserungen der letzten 5+ Jahre bei verantwortungsbewussten KI-Release-Praktiken zunichte gemacht werden. Es hängt viel davon ab, ob Microsoft – und jeder, der vorsichtig beobachtet, was mit Bing passiert – zu dem Schluss kommt, dass trotz der sehr greifbaren Risiken eines großen Schadens und all der negativen Presse der Ansatz „Zuerst veröffentlichen, Fragen stellen, später“ dennoch ein Geschäft ist gewinnen."
Ab sofort unterscheidet sich der Chatbot von Bing von menschliche Intelligenz und ähnelt in vielerlei Hinsicht einem manisch-depressiven Jugendlichen, der in einer Suchmaschine gefangen ist. Und das, worüber gestern gesprochen wurde, wird wahr: Der Mensch wird unwiderruflich degenerieren, wenn dieser „schwierige Teenager“ zum primären Informations-Mentor für den Einzelnen wird.
Lesen Sie mehr über KI:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
Weitere Artikel
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
