Vitalik Buterin i dyrektor MIRI, Nate Soares, zagłębiają się w niebezpieczeństwa związane ze sztuczną inteligencją: czy sztuczna inteligencja może spowodować wyginięcie ludzkości?
W skrócie
Założyciel Ethereum, Vitalik Buterin, i dyrektor Machine Intelligence Research Institute Nate Soares omówili dziś w Zuzalu zagrożenia związane ze sztuczną inteligencją.
Zuzalu to wyskakująca społeczność miejska w Czarnogórze, zainicjowana przez Buterina i jego rówieśników ze społeczności kryptograficznej.
W dyskusji Soares podzielił się swoim spojrzeniem na to, dlaczego sztuczna inteligencja najprawdopodobniej zakończy całe życie na Ziemi.
Założyciel Ethereum Vitalik Buterin i dyrektor Machine Intelligence Research Institute (MIRI) Nate'a Soaresa omówił dziś zagrożenia związane ze sztuczną inteligencją w Zuzalu.
Zuzalu to „wyskakująca społeczność miejska” w Czarnogórze, zainicjowana przez Buterina i jego rówieśników ze społeczności kryptograficznej, trwająca od 25 marca do 25 maja. Wydarzenie gromadzi 200 głównych mieszkańców, których łączy pragnienie uczenia się, tworzenia, dłuższego i zdrowszego życia życia i budować samowystarczalne społeczności. W ciągu dwóch miesięcy społeczność organizuje również szereg wydarzeń na różne tematy, takie jak biologia syntetyczna, technologia zapewniająca prywatność, dobra publiczne, długowieczność, zarządzanie i inne.
Połączenia dyskusja otworzył Soares, przedstawiając swoją pracę w MIRI, organizacji non-profit z siedzibą w Berkeley, która istnieje dłużej niż on ją prowadzi. Przez ostatnie 20 lat MIRI starał się położyć podwaliny pod rozwój sztucznej inteligencji. W dyskusji Vitalik miał nadzieję zająć się tym, co sprawia, że sztuczna inteligencja jest wyjątkowo ryzykowna w porównaniu z innymi technologiami wprowadzonymi w historii ludzkości.
Prawdopodobieństwo, że sztuczna inteligencja doprowadzi do wyginięcia ludzkości
Vitalik powiedział, że od dawna interesuje się tematem zagrożeń związanych ze sztuczną inteligencją i pamięta, że był przekonany, że istnieje 0.5–1% szans, że całe życie na Ziemi przestanie istnieć, jeśli sztuczna inteligencja się nie powiedzie – ryzyko egzystencjalne, które spowodowałoby wyginięcie rasy ludzkiej lub nieodwracalny upadek ludzkiej cywilizacji.
Z perspektywy Soaresa wyginięcie człowieka wygląda jak domyślny wynik niebezpiecznego rozwoju technologii sztucznej inteligencji. Porównując to do ewolucji, powiedział, że rozwój ludzkości wydaje się następować szybciej niż zwykłe zmiany ewolucyjne. Zarówno w procesach sztucznej inteligencji, jak i ewolucji człowieka, dominująca optymalizacja – proces znajdowania najlepszego rozwiązania problemu, gdy trzeba wziąć pod uwagę wiele celów – ulegała zmianie. Ludzie osiągnęli punkt, w którym byli w stanie przekazywać wiedzę ustnie, zamiast wbudowania informacji w geny poprzez dobór naturalny.
„Sztuczna inteligencja to ostatecznie przypadek, w którym można ponownie zmienić makroskopowy proces optymalizacji. Myślę, że możesz zrobić znacznie lepiej niż ludzie pod względem optymalizacji. Myślę, że wciąż jesteśmy dość głupi, jeśli chodzi o optymalizację naszego otoczenia. W przypadku sztucznej inteligencji przechodzimy pewnego rodzaju przejście fazowe, w którym zautomatyzowana optymalizacja jest siłą, która określa makroskopowe cechy wszechświata” — wyjaśnił Soares.
Dodał, że to, jak wygląda ta przyszłość, jest tym, co optymalizuje proces optymalizacji, i prawdopodobnie przestanie to być korzystne dla ludzkości, ponieważ większość celów optymalizacji nie ma miejsca dla ludzi.
Czy ludzie mogą wyszkolić sztuczną inteligencję, by czyniła dobro?
Buterin zwrócił uwagę, że to ludzie szkolą sztuczną inteligencję i mówią jej, jak optymalizować. W razie potrzeby mogą zmienić sposób optymalizacji maszyny. Do tego Soares powiedział, że w zasadzie można wyszkolić sztuczną inteligencję, aby czyniła dobro, ale samo wyszkolenie sztucznej inteligencji, aby osiągnąć cel, nie oznacza, że chciałaby to zrobić lub chce to zrobić, sprowadzając się do pragnienia.
Mówiąc o uczeniu się przez wzmacnianie w dużych modelach językowych, które otrzymują duże ilości danych o ludzkich preferencjach, Buterin zapytał, dlaczego miałoby to nie działać, ponieważ istniejąca inteligencja coraz lepiej rozumie nasze preferencje.
„Istnieje duża przepaść między zrozumieniem naszych motywacji a gównem”
Soares odpowiedział.
„Nie twierdzę, że duży model językowy lub sztuczna inteligencja nie zrozumieją najdrobniejszych szczegółów ludzkich preferencji. Twierdzę, że zrozumienie najdrobniejszych szczegółów ludzkich preferencji jest czymś zupełnie innym niż optymalizacja pod kątem dobra” – dodał.
Członek widowni dokonał porównania między sztuczną inteligencją a ludźmi, mówiąc, że podobnie jak sztuczna inteligencja, ludzie zwykle nie rozumieją, co robią lub co przewidują, co również może być niebezpieczne. Następnie poprosił Soaresa, aby udawał kosmitę i wyjaśnił, dlaczego nie powinno być ludzi.
„Nie byłbym zachwycony przekazaniem boskiej mocy i kontroli nad przyszłością pojedynczemu człowiekowi. Osobno byłbym znacznie bardziej podekscytowany oddaniem władzy pojedynczemu człowiekowi niż przypadkowej sztucznej inteligencji. Nie twierdzę stanowczo, że nie powinniśmy mieć sztucznej inteligencji. Mówię, że musimy to naprawić. Musimy sprawić, by zatroszczyli się o przyszłość pełną zabawy i szczęścia oraz kwitnące cywilizacje, w których transludzie angażują się w transakcje o dodatniej sumie z kosmitami i tak dalej” – wyjaśnił Soares. „Jeśli zbudujesz silny proces optymalizacji, który dba o różne rzeczy, może to potencjalnie zniszczyć wszystkie wartości wszechświata”.
Dodał, że rzeczy, które ludzie cenią, nie są powszechnie przekonujące, a moralność nie jest czymś, do czego dążyłby każdy badający ją umysł. Zamiast tego jest wynikiem popędów wbudowanych w ludzi, które w środowisku przodków sprawiły, że jesteśmy dobrzy w rozmnażaniu się i są specyficzne dla ludzi.
Ostatecznie Soares uważa, że nie powinniśmy budować czegoś, co jest podobnie inteligentne, a nawet bardziej inteligentne, co jest niezgodne z zabawą, szczęściem i kwitnącą przyszłością. Z drugiej strony powiedział też, że ludzkość nie powinna budować przyjaznej superinteligencji, która optymalizuje zabawną przyszłość za pierwszym razem podczas wyścigu zbrojeń. W perspektywie krótkoterminowej sztuczna inteligencja powinna być zaangażowana w pomaganie ludzkości w kupowaniu czasu i przestrzeni, aby dowiedzieć się, czego tak naprawdę chcą.
ChatGPT nie pochłonie całej biosfery
Ponieważ sztuczna inteligencja jest obecnie budowana w celu osiągnięcia określonych celów, w tym przewidywania, Buterin zapytał, co by było, gdyby sztuczna inteligencja nie była ukierunkowana na cel? Soares powiedział, że łatwo jest zbudować sztuczną inteligencję, która jest bezpieczna i niezdolna do działania, a wkrótce możemy mieć sztuczną inteligencję, która jest zdolna, ale dąży do innych rzeczy. On nie myśli ChatGPT pochłonie całą biosferę, ponieważ nie jest na tym poziomie możliwości.
Soares zauważył, że najbardziej interesujące aplikacje AI, takie jak automatyzacja rozwoju i badań naukowych i technologicznych, wydają się wymagać pewnego dążenia do celów.
„To nie błąd, który możesz dostać GPT napisać porządne haiku, ale nie da się tego zrobić, pisząc powieść. Ograniczenia obecnych systemów wynikają z faktu, że nie realizują one głębszych celów, przynajmniej według mnie.
Czytaj więcej:
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Cindy jest dziennikarką w Metaverse Post, obejmujące tematy związane z web3, NFT, Metaverse i AI, z naciskiem na wywiady z Web3 gracze branżowi. Rozmawiała z ponad 30 dyrektorami wyższego szczebla, a ich liczba wciąż rośnie, przekazując czytelnikom ich cenne spostrzeżenia. Pochodząca z Singapuru Cindy mieszka obecnie w Tbilisi w Gruzji. Uzyskała tytuł licencjata w dziedzinie nauk o komunikacji i mediach na Uniwersytecie Australii Południowej oraz dziesięcioletnie doświadczenie w dziennikarstwie i pisarstwie. Skontaktuj się z nią poprzez [email chroniony] z prezentacjami prasowymi, ogłoszeniami i możliwościami wywiadów.
Więcej artykułów
Cindy jest dziennikarką w Metaverse Post, obejmujące tematy związane z web3, NFT, Metaverse i AI, z naciskiem na wywiady z Web3 gracze branżowi. Rozmawiała z ponad 30 dyrektorami wyższego szczebla, a ich liczba wciąż rośnie, przekazując czytelnikom ich cenne spostrzeżenia. Pochodząca z Singapuru Cindy mieszka obecnie w Tbilisi w Gruzji. Uzyskała tytuł licencjata w dziedzinie nauk o komunikacji i mediach na Uniwersytecie Australii Południowej oraz dziesięcioletnie doświadczenie w dziennikarstwie i pisarstwie. Skontaktuj się z nią poprzez [email chroniony] z prezentacjami prasowymi, ogłoszeniami i możliwościami wywiadów.
