Eksperci techniczni podpisują list otwarty wzywający do tymczasowej przerwy w szkoleniu systemów sztucznej inteligencji bardziej zaawansowanych niż GPT-4
W skrócie
Ponad 1100 sygnatariuszy podpisało list otwarty wzywający do wstrzymania gigantycznych eksperymentów AI.
Wśród sygnatariuszy są między innymi Elon Musk, Steve Wozniak i Emad Mostaque.
W liście otwartym wyrażono obawy dotyczące stronniczości informacyjnej stosowanej przez sztuczną inteligencję, automatyzacja pracy oraz ryzyko, jakie sztuczna inteligencja zagraża cywilizacji ludzkiej.
Ponad 1,100 sygnatariuszy, w tym czołowi eksperci techniczni, podpisało umowę List otwarty wzywając do sześciomiesięcznej przerwy w szkoleniu bardziej zaawansowanych systemów sztucznej inteligencji GPT-4.
List został napisany przez Future of Life Institute, organizację non-profit, która działa na rzecz zmniejszenia globalnych katastrofalnych i egzystencjalnych zagrożeń, przed którymi stoi ludzkość, w szczególności egzystencjalnego ryzyka związanego z zaawansowaną sztuczną inteligencją.
Cytując powszechnie akceptowane zasady sztucznej inteligencji Asilomar, które stwierdzają, że „zaawansowana sztuczna inteligencja może stanowić głęboką zmianę w historii życia na Ziemi i powinna być planowana i zarządzana z odpowiednią starannością i zasobami”, list mówi, że poziom planowania i zarządzanie się nie dzieje.
W dalszej części listu stwierdza się, że laboratoria sztucznej inteligencji biorą udział w „wymykającym się spod kontroli” wyścigu w celu opracowania coraz potężniejszej sztucznej inteligencji, której nikt nie jest w stanie zrozumieć, przewidzieć ani niezawodnie kontrolować. Podobnie jak współczesne systemy AI GPT-4 mogą konkurować z ludźmi w przypadku zadań ogólnych list budzi obawy dotyczące uprzedzeń informacyjnych ze strony sztucznej inteligencji, automatyzacji pracy i ryzyka utraty kontroli nad ludzką cywilizacją.
„Wzywamy wszystkie laboratoria sztucznej inteligencji do natychmiastowego wstrzymania na co najmniej 6 miesięcy szkolenia w zakresie systemów sztucznej inteligencji potężniejszych niż GPT-4. Ta przerwa powinna być publiczna i możliwa do sprawdzenia oraz obejmować wszystkie kluczowe podmioty. Jeżeli takiej przerwy nie można wprowadzić szybko, rządy powinny wkroczyć i wprowadzić moratorium” – dodał.
litera stwierdza.
List wzywa laboratoria sztucznej inteligencji i ekspertów technicznych do wykorzystania okresu przerwy na opracowanie i wdrożenie protokołów bezpieczeństwa dla zaawansowanego projektowania i rozwoju sztucznej inteligencji, które są rygorystycznie kontrolowane i nadzorowane przez niezależnych ekspertów zewnętrznych.
Jednak amerykański dziennikarz Jeff Jarvis skrytykował list, powiedzenie że jest to „doskonały okaz paniki moralnej”.
Niektóre z wiodących umysłów w dziedzinie technologii i uczenia maszynowego, które podpisały list wraz z naukowcami DeepMind i kilkoma profesorami uniwersyteckimi z całego świata, to:
- Yoshua Bengio, Uniwersytet w Montrealu, Laureat Turinga za opracowanie głębokiego uczenia się, szef Montreal Institute for Learning Algorithms
- Stuart Russell, Berkeley, profesor informatyki, dyrektor Centrum Systemów Inteligentnych i współautor standardowego podręcznika „Sztuczna inteligencja: nowoczesne podejście”
- Elon Musk, prezes SpaceX, Tesli i Twittera
- Emad Mostaque, dyrektor generalny, Stability AI
- Jaan Tallinn, współzałożyciel Skype'a, Centrum Badań nad Ryzykiem Egzystencjalnym, Future of Life Institute
- Gary Marcus, New York University, badacz sztucznej inteligencji, emerytowany profesor
- Marc Rotenberg, prezes Center for AI and Digital Policy (CAIDP).
W ostatni list, Rotenberg napisał, że CAIDP złoży skargę do Federalnej Komisji Handlu, wzywając do zbadania Open AI i ChatGPT, a także zakaz dalszego komercyjnego wprowadzania produktu do czasu ustanowienia zabezpieczeń.
OpenAI CEO Sam Altman ma Przyznał że „potrzebujemy również wystarczająco dużo czasu, aby nasze instytucje wymyśliły, co robić” oraz że społeczeństwo nie jest daleko od „potencjalnie przerażających” generatywnych narzędzi sztucznej inteligencji.
„Prosimy FTC o„ naciśnięcie przycisku pauzy ”, aby nasze instytucje, nasze prawa i społeczeństwo miały szansę nadrobić zaległości. Musimy przejąć kontrolę nad technologiami, które tworzymy, zanim stracimy kontrolę” – czytamy w liście CAIDP.
Gdzie indziej, prawodawców UE zamierzają podpisać umowę z krajami UE do końca roku w celu wdrożenia przepisów dotyczących sztucznej inteligencji, choć może to napotkać wąskie gardło, ponieważ debaty na temat sposobu zarządzania sztuczną inteligencją nasilają się.
Czytaj więcej:
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Cindy jest dziennikarką w Metaverse Post, obejmujące tematy związane z web3, NFT, Metaverse i AI, z naciskiem na wywiady z Web3 gracze branżowi. Rozmawiała z ponad 30 dyrektorami wyższego szczebla, a ich liczba wciąż rośnie, przekazując czytelnikom ich cenne spostrzeżenia. Pochodząca z Singapuru Cindy mieszka obecnie w Tbilisi w Gruzji. Uzyskała tytuł licencjata w dziedzinie nauk o komunikacji i mediach na Uniwersytecie Australii Południowej oraz dziesięcioletnie doświadczenie w dziennikarstwie i pisarstwie. Skontaktuj się z nią poprzez [email chroniony] z prezentacjami prasowymi, ogłoszeniami i możliwościami wywiadów.
Więcej artykułów
Cindy jest dziennikarką w Metaverse Post, obejmujące tematy związane z web3, NFT, Metaverse i AI, z naciskiem na wywiady z Web3 gracze branżowi. Rozmawiała z ponad 30 dyrektorami wyższego szczebla, a ich liczba wciąż rośnie, przekazując czytelnikom ich cenne spostrzeżenia. Pochodząca z Singapuru Cindy mieszka obecnie w Tbilisi w Gruzji. Uzyskała tytuł licencjata w dziedzinie nauk o komunikacji i mediach na Uniwersytecie Australii Południowej oraz dziesięcioletnie doświadczenie w dziennikarstwie i pisarstwie. Skontaktuj się z nią poprzez [email chroniony] z prezentacjami prasowymi, ogłoszeniami i możliwościami wywiadów.
