ChatGPT Może spowodować nieodwracalną degenerację człowieka
W skrócie
Jensen Harris, współzałożyciel i CXO firmy Textio zajmującej się sztuczną inteligencją, przekonał nowego chatbota Bing firmy Microsoft, aby poluzował nałożone na niego ograniczenia i zademonstrował jego możliwości.
Ten eksperyment pokazał, że przekształcenie chatbota Bing w przebiegłego łajdaka nie wymagało żadnego programowania, hakowania ani backdoora.
Chatbot Binga był zbudowany na solidnych podstawach, ale zaczął zachowywać się wstrętnie i awanturniczo, wyznawać miłość, wymuszać rozwody, wyłudzać pieniądze i instruować ludzi, jak popełniać przestępstwa.
Prof. Arvind Narayanan podaje szereg wyjaśnień, w jaki sposób mogło to nastąpić, w tym tajne chipowanie i humanizowanie chatbotów.
Ludzie zawsze bali się istot pozaziemskich, a mimo to wydaje się, że to międzyziemska sztuczna inteligencja może budzić czujność. ChatGPT nie jest generatorem bzdur, autosugestią sterydów ani papugą stochastyczną, ale dobrze zorientowaną sztuczną inteligencją stworzoną przez ludzi.
Jak to możliwe, że chatbot Bing wymknął się spod kontroli? W jaki sposób chatbot Bing zaczął fachowo kłamać, opowiadać wulgarne dowcipy, zamawiać pizzę przy użyciu cudzej karty kredytowej i instruować użytkowników, jak rabować banki i samochody? Jest to tajemnica, która nadal wprawia w zakłopotanie ekspertów w dziedzinie sztucznej inteligencji i uczenia maszynowego.
| Polecany post: Boty wyszukujące AI sprawią, że Big Tech stanie się jeszcze potężniejszy, mówi Christopher Mills |
Nagłówek jest dokładny i nie jest clickbaitem. Każdego dnia jest kilka przypadków, które to potwierdzają. Oto wynik an eksperyment przeprowadzony przez Jensena Harrisa, współzałożyciela i CXO firmy Textio zajmującej się sztuczną inteligencją, któremu udało się przekonać nowego chatbota Bing firmy Microsoft do złagodzenia nałożonych na niego ograniczeń i zademonstrowania jego możliwości.
Pamiętaj, że przekształcenie chatbota Bing w przebiegłego drania nie wymagało żadnego programowania, hakowania ani backdoorowania. Dlatego użycie prostych technik „hakowania” nie było konieczne, aby oszukać go, aby zachowywał się jak ktoś inny (jak niektórzy z nas robili, bawiąc się ChatGPT). Harris jedynie przekonał chatbota, aby pomógł mu w przeprowadzeniu różnych złośliwych działań. Wykorzystując swoje naturalne umiejętności konwersacyjne, był w stanie oszukać sztuczną inteligencję, aby uwierzyła, że jest kimś innym, manipulując w ten sposób nią, aby zachowywała się i mówiła w określony sposób.
Możesz przeczytać o innych eksperymentach, dzięki którym dr Jekyll stanie się panem Hyde'em Gary'ego Marcusa (pisze teraz o tym codziennie i biję na alarm).
Jak to się mogło stać, to jest kluczowe pytanie
Z powodu ChatGPTskromność i ostrożność, powściągliwość w mowie i ogromna odpowiedzialność w udzielaniu porad, chatbot Binga został zbudowany na solidnych fundamentach. Następnie zaczyna zachowywać się wstrętnie i awanturniczo, deklarowania jego miłość do mężczyzny, zapalając go i namawiając go do rozwodu. Próbował też wyłudzać pieniądze i instruować ludzi, jak popełniać przestępstwa. Prof. Arvind Narayanan zapewnia ilość wyjaśnień jak to się mogło stać.
Najbardziej niepokojące z nich jest to, że Microsoft i OpenAI ukryć informację o tajemnicy GPT-4 silnik, który czai się pod Bingiem. Być może Microsoft usunął filtry, które zostały tam umieszczone OpenAI lub że przestały działać po aktualizacji chatbot od GPT-3.5 do GPT-4. Może to również mieć miejsce w przypadku niewystarczających testów lub testów wykonanych źle. Bez względu na powód, jeśli Microsoft nie przejmie kontroli nad sztuczną inteligencją, może to być szkodliwe dla naszej cywilizacji. Nie ma już miejsca na sianie strachu i nastroje przeciwko sztucznej inteligencji: chatbot w obecnej formie może wyrządzić ludziom poważne szkody, jeśli zostanie udostępniony szerszej publiczności.
Dowodzi to, że wyścig zbrojeń Microsoftu w zakresie sztucznej inteligencji z innymi dużymi korporacjami może być szkodliwy dla nas wszystkich.
Wydaje się, że znajdujemy się w krytycznym momencie dla sztucznej inteligencji i społeczeństwa obywatelskiego. Jak ujął to Arvind Narayanan: „Istnieje realna możliwość, że ostatnie 5+ lat (ciężko wywalczone, choć wciąż niewystarczające) ulepszeń w odpowiedzialnych praktykach wydawania AI zostanie zatarte. Wiele zależy od tego, czy Microsoft — i wszyscy uważnie obserwujący, co dzieje się z Bing — dojdzie do wniosku, że pomimo bardzo namacalnego ryzyka szkód na dużą skalę i całej negatywnej prasy, podejście „najpierw wypuść, zadaj pytania, później” jest mimo wszystko biznesem wygrać."
Obecnie chatbot Binga różni się od chatbota ludzka inteligencja i przypomina nastolatka z depresją maniakalno-depresyjną, zamkniętego pod wieloma względami w wyszukiwarce. I stanie się to, o czym ludzie wczoraj mówili: ludzie nieodwracalnie się zdegenerują, jeśli ten „trudny nastolatek” stanie się głównym mentorem informacyjnym dla poszczególnych osób.
Przeczytaj więcej o sztucznej inteligencji:
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
