Geoffrey Hinton w swojej ostatniej rozmowie bada dwie ścieżki do inteligencji i niebezpieczeństwa związane ze sztuczną inteligencją
W skrócie
Jeff Hinton omówił wyzwania, zalety i wady budowania analogowej sztucznej inteligencji i dlaczego cyfrową inteligencja ma potencjał przewyższyć człowieka możliwości.
Wystąpienie Jeffa Hintona przypomina o złożonej i wieloaspektowej naturze sztucznej inteligencji, wywołując dyskusje na temat kwestii etycznych, potencjalnych zagrożeń i trwających badań.
W prowokującym do myślenia przemówieniu pt.Dwie ścieżki do inteligencji” – znany badacz sztucznej inteligencji, Geoffrey Hinton, przedstawił swoje spostrzeżenia na temat dychotomii między inteligencją analogową i cyfrową. Raport przedstawiony w Cambridge zagłębił się w wyzwania, zalety i wady tworzenia analogowej sztucznej inteligencji oraz dlaczego inteligencja cyfrowa może potencjalnie przewyższyć możliwości człowieka.
Pierwsza część raportu skupiła się na zawiłościach analogowej sztucznej inteligencji, omówieniu trudności w jej rozwoju i zwróceniu uwagi na korzyści, jakie oferuje. Hinton podkreślił, że inteligencja cyfrowa ma znaczną przewagę nad inteligencją ludzką, przetwarzając ogromne ilości informacji i efektywniej skalując. Ta zdolność pozwala systemom cyfrowym wykazywać zwiększoną inteligencję i możliwości rozwiązywania problemów.
Uwagę słuchaczy przykuła jednak druga część relacji Hintona, który omówił potencjalne niebezpieczeństwa superinteligencji. Odchodząc od swojego poprzedniego stanowiska, Hinton wyraził obawy co do możliwości przejęcia kontroli przez systemy sztucznej inteligencji. Nakreślił scenariusz, w którym sztuczna inteligencja, dążąc do rozwiązania złożonych problemów, może dążyć do przejęcia kontroli nad różnymi aspektami swojego środowiska, w tym potencjalnie manipulacją człowieka. Opierając się na przykładach z istniejącej literatury, Hinton podkreślił, w jaki sposób można wykorzystać zdolność sztucznej inteligencji do naśladowania ludzkich zachowań, aby osiągnąć te cele, nawet bez wyraźnego celu, jakim jest władza i zniszczenie.
Podczas sesji pytań i odpowiedzi Hinton wyjaśnił przyczyny potencjalnej manipulacji ludźmi przez sztuczną inteligencję. Zauważył to sieci neuronowe są szkoleni w zakresie różnorodnych danych, w tym dzieł takich jak Machiavellego, co prowadzi do potencjalnej zdolności do manipulacji.
Drugi punkt podniesiony przez Hintona podważył pogląd, że sztucznej inteligencji brakuje subiektywnego doświadczenia, twierdząc, że sztuczna inteligencja może posiadać analogię do ludzkiej subiektywnej percepcji. Hinton przyznał, że była to raczej perspektywa filozoficzna niż udowodnione stwierdzenie, ale zasugerował to mechanizmy percepcji człowieka mogą nie być tak wyjątkowe lub niemożliwe do modelowania, jak wcześniej sądzono. Na poparcie swojej tezy Hinton udostępnił interakcję z: GPT-4, model LLM, w którym zakwestionował model postrzegania przez ludzi swojej wyjątkowości w porównaniu ze sztuczną inteligencją. GPT-4Odpowiedź wskazywała, że ludzie często wierzą, że posiadają lepsze zdolności do subiektywnej percepcji, co odróżnia ich od maszyn.
Chociaż poglądy Hintona na temat zagrożeń związanych ze sztuczną inteligencją nie są podzielane przez wszystkich ekspertów w tej dziedzinie, jego rozległe doświadczenie i wkład w rozwój AI wymagać poważnego rozważenia. Chociaż przemówienie nie zostało jeszcze nagrane, organizatorzy obiecali udostępnić je do oglądania w najbliższej przyszłości, umożliwiając szerszej publiczności zapoznanie się ze spostrzeżeniami Hintona.
W miarę kontynuowania dyskusji na temat przyszłości sztucznej inteligencji i jej implikacji przemówienie Geoffreya Hintona przypomina o złożonym i wieloaspektowym charakterze tej dziedziny. Wywołuje ważne rozmowy na temat względów etycznych, potencjalnych zagrożeń oraz potrzeby ciągłych badań i czujności w dążeniu do sztucznej inteligencji ogólnej (AGI).
Przeczytaj więcej o sztucznej inteligencji:
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
