05 kwietnia 2023 r.

6-miesięczna przerwa w szkoleniu AI to dobry pomysł, ale może nie wystarczyć

Opublikowano: 05 kwietnia 2023 o 7:59 Zaktualizowano: 05 kwietnia 2023 o 7:59

W skrócie

Historia petycji i publikacja artykułu Judkowskiego spolaryzowały społeczeństwo.

Dylemat więźnia i teoria gier sugerują, że do rozwiązania takich problemów potrzebna jest masa krytyczna zdrowych na umyśle ludzi w różnych miejscach.

Istnieje jednak kilka „ale” tego pomysłu, takich jak brak świadomości, woli i sprawczości w ewolucji cyfrowej.

Historia petycję o zaprzestanie rozwoju systemów sztucznej inteligencji bardziej zaawansowanych niż GPT-4 wyraźnie spolaryzował społeczeństwo. Uwolnienie Judkowskiego artykuł z prośbą o zaprzestanie dalszego rozwoju GPT modele dolali oliwy do ognia, zwłaszcza jego fragmenty o bombardowaniach centrów danych.

6-miesięczna przerwa na trening AI jest dobra, ale niewystarczająca

Z tego, co można zaobserwować w Internecie, wydaje się, że zwolenników petycji jest znacznie mniej niż przeciwników, którzy mają trzy główne argumenty:

1	– Postępu nie da się zatrzymać. – Petycja została wymyślona przez OpenAI konkurenci. – Chiny nie będą czekać.
2	– Nie należy bać się AI, ale ludzi. - GPT nie ma świadomości, woli, aspiracji ani wolnej woli, więc nie ma się czego bać. - GPT-4 jest szalenie daleki od zniewolenia świata, bo nic nie rozumie, popełnia głupie błędy i w ogóle jest dość głupi. - GPT-4 nie będzie w stanie rządzić światem, ponieważ nie ma rąk/nog.
3	– Trzecia grupa nie rozumie, jak GPT-4 działa przede wszystkim.

Nie będziemy koncentrować się na trzeciej grupie, ponieważ ich postawa wynika z ignorancji. Nie oznacza to, że wszyscy przeciwnicy sztucznej inteligencji wiedzą wszystko o sztucznej inteligencji; można znaleźć wielu przeciwników AI, którzy nie rozumieją technologii i tego, co się z nią wiąże, chociaż sam Yudkovsky jest bardzo zagłębiony w temat AI, więc nie można mu zarzucić ignorancji.

Przyjrzyjmy się pierwszej grupie ludzi – tym, którzy wierzą, że postępu nie da się zatrzymać. Oferują różne, ale podobne argumenty i ogólnie rzecz biorąc, ci ludzie nie zaprzeczają możliwościom sztucznej inteligencji i perspektywom, jakie niesie ze sobą jej przyjęcie, i wierzą, że rozwój sztucznej inteligencji będzie kontynuowany bez względu na wszystko.

Pierwsza teza o niepowstrzymanym postępie to slogan, który wcale nie musi być prawdziwy. Wydaje się, że ludzie zaprzestali niektórych eksperymentów naukowych, a wiele niegdyś zaakceptowanych projektów badawczych nie jest już uważanych za etyczne, a podobne nigdy nie byłyby dozwolone dzisiaj. Jednak o ile większy postęp w przeszłości został zatrzymany przez Inkwizycję i inne prześladowania religijne, zakazy książek i morderstwa naukowców w Chinach (i innych krajach)? To jest coś, czego nigdy nie będziemy w stanie w pełni zrozumieć z powodu błędu związanego z przetrwaniem.

Inne tezy dotyczą podejścia, które można streścić w następujący sposób: „jak nie my, to oni”. Chociaż ten sposób myślenia może być bardziej zrozumiały, nie wydaje się również właściwym rozwiązaniem. Jest to bardzo podobne do dylematu więźnia w teorii gier.

Najbardziej interesująca jest druga grupa argumentów. Chociaż osobiście do pewnego stopnia się z tym zgadzam, jest kilka ale, którymi należy się zająć. Tak, AI nie ma świadomości, woli, sprawczości itp. COVID-19 też nie, a jednak siał spustoszenie na całym świecie. Coś nie musi mieć poczucia sprawczości i świadomości, aby stać się niebezpiecznym; scenariusz, w którym życie na ziemi zostanie zniszczone z powodu wirusa, nie jest niewyobrażalny. Po wykonaniu swojej pracy może ustawić krzesła na stołach, zgasić światła i wyjść na zawsze.

Kontynuując biologiczną analogię, istnieje wspaniały artykuł „Zaskakująca kreatywność ewolucji cyfrowej: zbiór anegdot ze społeczności zajmujących się obliczeniami ewolucyjnymi i badaniami nad sztucznym życiem”, który zawiera wiele przykładów, kiedy procesy idą w nieoczekiwanym kierunku. Nawet bez procesu ewolucyjnego wszystko może prowadzić do niewłaściwego uogólnienia „Błędna generalizacja celów: dlaczego prawidłowe specyfikacje nie wystarczają do osiągnięcia właściwych celów”. Dawanie upustu procesowi optymalizacji, który może się nie udać, zostało omówione w „Zagrożenia wynikające z wyuczonej optymalizacji w zaawansowanych systemach uczenia maszynowego".

Jednocześnie generalnie nie bierzemy pod uwagę ryzyka złośliwe wykorzystanie AI i jakikolwiek nadużycie, co tylko podsyca argument, że powinniśmy bać się ludzi, a nie samej sztucznej inteligencji. Jednak prawda jest taka, że sztuczna inteligencja może być zła nawet bez złośliwych ludzi.

Zgadzam się też z tym, że modelka popełnia głupie błędy, ale człowiek też, a przecież wiadomo, że może wyrządzić krzywdę. Chociaż modele popełniają wiele błędów, mogą również rozwiązać wiele niesamowitych, fajnych i złożonych problemów, których przeciętny człowiek nie jest w stanie rozwiązać. Z osławionej pracy „Iskry sztucznej inteligencji ogólnej: wczesne eksperymenty z GPT-4”, Uderzyło mnie, że sztuczna inteligencja jest w stanie rozwiązać, choć nie zawsze poprawnie, problemy Fermiego, a raczej złożone problemy matematyczne. Imponująca jest także jego teoria umysłu i „coś w rodzaju zdolności rozumienia” działań innych. Wszystko to wskazuje na inteligencję sztucznej inteligencji; istnieje, ale nie do końca tak jak u nas.

Wyeliminowanie przynajmniej części błędów popełnianych przez modele AI jest generalnie wykonalne, więc ich inteligencja może tylko rosnąć. Wystarczy dodać moduł do dokładnych obliczeń, bazę faktów i walidację z innym modelem.

Najważniejszą rzeczą w tej całej historii jest szybkość rozwoju AI. GPT modele rozrosły się niesamowicie, w zawrotnym tempie. Teraz są tam ChatGPT wtyczki dostępne, możesz skorzystać GPT modele do pisania kodu, interfejsy API są dostępne dla szerokiego grona odbiorców, a z zewnętrznych narzędzi można korzystać bez wcześniejszego szkolenia.

GPT-4oczywiście nie podbije świata, ale może mocno wstrząsnąć gospodarką. GPT-5, a przyszła iteracja modelu może nie być bardzo odległa i prawdopodobnie będzie oferować znacznie silniejsze zdolności. I spójrzmy prawdzie w oczy, nie możemy mieć nadziei na zrozumienie nieistniejących jeszcze modeli; nie zbliżyliśmy się nawet do zrozumienia modeli, które już istnieją. W tym sensie sześciomiesięczna przerwa może być dobrym pomysłem, ale po prostu może nie wystarczyć.

A biorąc pod uwagę, że Wyścig SI się zaczęło, nie ma czasu na naukę.

Ogólnie biorąc pod uwagę to wszystko, również podpisałem petycję. Chociaż nie wierzę, że to w jakikolwiek sposób pomoże.

Przeczytaj więcej powiązanych tematów:

tagi:

Odpowiedzialność

Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.

O autorze

Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.

Więcej artykułów

Damir Jałałow