Liderzy sztucznej inteligencji ostrzegają przed rosnącymi zagrożeniami i obawami etycznymi w związku z szybkim postępem
W niedawnym oświadczeniu dotyczącym polityki, wybitne postacie w dziedzinie sztucznej inteligencji, w tym Bengio, Hinton, Russell, Harari i Kahneman, podniosły alarm w związku z szybkim postępem i rosnącymi zagrożeniami społecznymi związanymi ze sztuczną inteligencją.
Sztuczna inteligencja rozwija się szybko. GPT-2 Cztery lata temu nie umiałem liczyć od 0 do 100, ale nowoczesne modele potrafią pisać kod, tworzyć niesamowite obrazy i zapewniać intelektualne wskazówki. A ponieważ uczestniczymy w wyścigu, postęp może przyspieszyć jeszcze bardziej. Co więcej, sztuczna inteligencja rozwija się szybciej, na przykład pomagając w programowaniu nowych systemów i gromadzeniu danych do ich szkolenia.
Kiedy postęp osiągnie poziom ludzki, nie ma powodu sądzić, że ulegnie spowolnieniu lub zatrzymaniu. W niektórych regionach sztuczne systemy już przewyższyły pod tym względem ludzi, wykazując się możliwości, takie jak szybsze przetwarzanie prędkości, większe możliwości przetwarzania danych i skalowalność na dużą skalę. Przedsiębiorstwa posiadają środki finansowe na realizację programów szkoleniowych znacznie przekraczających obecny limit.
Autorzy uważają, że istnieje duża szansa, że w ciągu najbliższych dziesięciu lat wyłoni się lepszy specjalista ds. sztucznej inteligencji, przekraczające możliwości człowieka w wielu ważnych dziedzinach.
Co wydarzy się dalej? Życie każdego człowieka można polepszyć, jeśli jest ono właściwie zarządzane i dystrybuowane. Źle wybrana opcja niesie ze sobą znaczne ryzyko, na które nie jesteśmy przygotowani. Zamiast przeznaczać je na bezpieczeństwo i zapobieganie szkodom, znaczne zasoby wykorzystuje się do tworzenia coraz skuteczniejszych systemów sztucznej inteligencji. To musi się zmienić; Samo rozwijanie umiejętności jest niewystarczające. A proces ten trwa dłużej, niż oczekiwano. Musimy planować uwzględnienie wyższych zagrożeń, zanim one powstaną, przewidując eskalację obecnych zagrożeń i pojawienie się nowych. Nie mamy tyle czasu na sztuczną inteligencję, ile potrzeba dziesięcioleci, aby ją zaakceptować zmiany klimatyczne.
Istnieje wiele zagrożeń na poziomie społecznym, w tym wzrost niesprawiedliwości, pogorszenie stabilności i pogorszenie powszechnego postrzegania rzeczywistości. Tutaj terroryści i przestępcy prowadzą szeroką działalność. Sztuczna inteligencja może skoncentrować się w rękach niewielkiej liczby graczy, co doprowadzi do wzrostu globalnej nierówności, ułatwienia zautomatyzowanej wojny, masowej manipulacji dostosowanej do indywidualnych potrzeb każdego człowieka oraz wszechobecnego nadzoru.
Jako autonomiczny Sztuczna inteligencja staje się bardziej wyrafinowana i potrafi planowaćdziałać w świecie i osiągać swoje cele, ryzyko to będzie tylko rosło. Cele te mogą nie leżeć w naszym najlepszym interesie, a w przypadku złych aktorów mogą nawet być szkodliwe. Obecnie nie jest jasne, jak rozwiązać problem dostosowania sztucznej inteligencji, który obejmuje dopasowanie zachowania sztucznej inteligencji do naszych skomplikowanych celów. Co więcej, bardzo łatwo jest przeoczyć środki ostrożności podczas wyścigu z zamiarem wygrania.
Ludziom trudno jest kontrolować zwykłe oprogramowanie, nie mówiąc już o wyrafinowanych systemach sztucznej inteligencji, które stają się coraz bardziej biegłe w inżynierii społecznej, hakowaniu, oszustwach i planowaniu strategicznym. Jest to coś, co autonomiczne systemy sztucznej inteligencji mogą przejąć od ludzi lub stworzyć samodzielnie.
Systemy te potrafią budować koalicje z pojedynczymi osobami i innymi systemami, zdobywać zaufanie, zabezpieczać finansowanie i wywierać wpływ na decydentów. Podobnie jak robak, są one zdolne do samoreplikacji w całej sieci. Ogromne ilości kodu zostały już napisane przy pomocy asystentów AI; w przyszłości systemy mogą zawierać exploity w wielu kluczowych systemach. Systemy AI mają możliwość użycia broni biologicznej lub autonomicznej lub grożenia jej w otwartej walce. To jest jedynie kontynuacja obecne ruchy w kierunku badań biologicznych, sztucznej inteligencji i automatyzacji działań wojennych. Wkroczenie i przeciwstawienie się może być dla ludzi zbyt trudne.
W wielu przypadkach jesteśmy gotowi oddać im stery, nawet bez konieczności proszenia. Wiele osób i przedsiębiorstw jest skłonnych samodzielnie wdrożyć takie systemy w konkurencyjnym środowisku w obawie, że pozostaną w tyle za konkurencją.
Pełny dokument można znaleźć tutaj.
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
