Dan Hendrycks: Wybierając między sztuczną inteligencją a ludźmi, ewolucja nas nie wybierze
W skrócie
Badania Dana Hendrycksa „Dobór naturalny woli sztuczną inteligencję od ludzi” są przerażającym wnioskiem.
Jest doświadczonym i znanym badaczem, który opublikował dziesiątki prac naukowych dotyczących oceny bezpieczeństwa systemów AI.
Badania Dana Hendrycksa brzmią jak wyrok śmierci dla Homo Sapiens. Wnioski z badania”Dobór naturalny faworyzuje AI nad ludźmi” jest naprawdę przerażające. Zostało to napisane nie przez popularnego wizjonera, takiego jak Dan Brown, ale przez Dana Hendrycksa, dyrektora California Center for AI Security (CAIS), organizacji non-profit specjalizującej się w badaniach i pracach terenowych w zakresie bezpieczeństwa AI.
Dan Hendrycks nie jest skrajnym szaleńcem panikującym z powodu postępów sztucznej inteligencji. Jest doświadczonym i powszechnie szanowanym badaczem, który opublikował dziesiątki prac naukowych dotyczących oceny bezpieczeństwa systemów AI — sprawdzania, jak dobrze radzą sobie z kodowaniem, rozumowaniem, rozumieniem praw itp. Jest także współtwórcą m.in. liniowe jednostki błędu Gaussa (GELU).
Jack Clark, współzałożyciel ChatGPT konkurent Anthropic, współprzewodniczący AI Index na Uniwersytecie Stanforda, współprzewodniczący sekcji AI and Compute w OECD i członek Krajowego Komitetu Doradczego ds. AI rządu USA omawia wnioski z badania Hendrycksa. „Ludzie odruchowo chcą odrzucić takie stwierdzenie, jak stwierdzenie jakiegoś wariata o dzikich oczach, mieszkającego w leśnej chatce. Z góry chciałbym temu zaprzeczyć. Kiedy ekspert mający doświadczenie nie tylko w badaniach nad sztuczną inteligencją, ale także w ocena bezpieczeństwa systemów AI pisze artykuł argumentujący, że przyszłe systemy sztucznej inteligencji mogą działać samolubnie i niezgodnie z interesami ludzi, powinniśmy o to zadbać!
Podsumowanie artykułu Hendrycksa:
- Jeśli agentów AI stanie się więcej inteligentni niż ludziemoże to doprowadzić do utraty przez ludzkość kontroli nad swoją przyszłością.
- Istnieje duże prawdopodobieństwo, że stanie się to nie w wyniku jakiegoś specjalnego złośliwego zamiaru ludzi lub maszyn, ale wyłącznie w wyniku zastosowania ewolucyjnych zasad rozwoju do sztucznej inteligencji zgodnie z logiką darwinowską.
- Aby zminimalizować to ryzyko, należy starannie zaprojektować wewnętrzne motywacje agentów AI, nałożyć ograniczenia na ich działania i stworzyć instytucje zachęcające do współpracy AI.
To znaczy najważniejsze punkty, które Hendrycks czyni w swoim 43-stronicowym artykule naukowym:
1. Baliśmy się przybycia Terminatora, ale podstawy tych obaw były błędne. Były dwa błędy:
A. Antropomorfizacja AI z przypisaniem jej naszych motywacji itp. – as ChatGPT pokazało, że sztuczna inteligencja to zasadniczo inny umysł, ze wszystkimi konsekwencjami, jakie z tego wynikają.
B. Pomysł, że sztuczna inteligencja jest swego rodzaju pojedynczą istotą: inteligentną lub niezbyt mądrą, życzliwą lub niezbyt życzliwą, ale w rzeczywistości te bardzo różne istoty sztucznej inteligencji wkrótce pojawią się na świecie tak często, jak to możliwe.
2. W naszych pomysłach na przyszłość z AI jest jeszcze jedna fundamentalna wada — zapomnieliśmy o najważniejszym mechanizmie rozwojowym — ewolucji, która napędza rozwój nie tylko bioagentów, ale także idei i znaczeń, materialnych narzędzi i niematerialnych instytucji.
3. Środowisko już zaczęło nabierać kształtu na Ziemi, w którym wiele AI będzie się rozwijać i ewoluować. Ewolucja ta będzie przebiegać zgodnie z logiką Darwina, poprzez rywalizację AI między sobą, z uwzględnieniem interesów ich „macierzystych” instytucji: korporacji, wojska itp.
4. Logika konkurencyjnej ewolucji doprowadzi do tego samego, co u ludzi: coraz bardziej inteligentni agenci AI będą stawać się coraz bardziej samolubni i gotowi do osiągania celów za pomocą oszustwa i siły, których głównym celem będzie władza.
5. Naturalna selekcja agentów AI ma tendencję do faworyzowania bardziej samolubnych gatunków nad bardziej altruistycznymi. Agenci AI będą zachowywać się samolubnie i realizować własne interesy, nie zważając na ludzi, co może prowadzić do katastrofalnych zagrożeń dla ludzkości.
- Petycja zaprzestać rozwijania systemów AI bardziej zaawansowanych niż GPT-4 spolaryzowało społeczeństwo. Pierwsza grupa uważa, że postępu nie da się zatrzymać, druga natomiast uważa, że postępu, a czasem wręcz należy go zatrzymać. Trzecia grupa nie rozumie, jak to zrobić GPT-4 działa przede wszystkim. Najważniejszymi szczegółami w tym tekście jest to, że sztuczna inteligencja nie ma świadomości, woli ani sprawstwa i że może być zła nawet bez złośliwych ludzi.
- Geoffrey Hinton jest często nazywany „ojcem chrzestnym sztucznej inteligencji” i uważany jest za wiodącą postać w społeczności głębokiego uczenia się. Jego 40-minutowy wywiad z ChatGPT jest wyjątkowy, ponieważ jest łatwy do zrozumienia i ma głębię zrozumienia dostępną dla niewielu innych. Podkreśla znaczenie trwającej „rewolucji intelektualnej” i nieludzkiej inteligencji ChatGPT, który opiera się na sztucznie inteligentnym agencie posiadającym zaawansowane możliwości komunikacji cyfrowej.
Przeczytaj więcej powiązanych artykułów:
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
