OpenAI Budzi alarm w związku z potencjałem superinteligencji i sztucznej inteligencji do przewyższenia ludzkich możliwości w następnej dekadzie
W skrócie
OpenAI wzywa do uregulowania superwywiadu, podkreślając potrzebę zarządzania w świetle szybkich postępów AI.
Przewiduje się, że systemy sztucznej inteligencji przewyższą ludzką wiedzę i produktywność przedsiębiorstw w ciągu dekady, Według OpenAI.
OpenAI podkreśla znaczenie nadzoru publicznego i demokratycznej kontroli nad potężnymi systemami sztucznej inteligencji.
OpenAI, twórca ChatGPT, wystosował prowokujący apel do regulacja superinteligencji, odwołując się do regulacji dotyczących energii jądrowej. w niedawnym blogu, OpenAI podkreślono potencjalne implikacje szybkiego postępu AI i podkreślono pilną potrzebę zarządzania w tym ewoluującym krajobrazie. Firma stwierdziła, że systemy AI przewyższą ekspertów i największe korporacje pod względem produktywności i umiejętności w ciągu dziesięciu lat.
„Musimy również ograniczać ryzyko związane z dzisiejszą technologią sztucznej inteligencji, ale superinteligencja będzie wymagać specjalnego traktowania i koordynacji” — Sam Altman, Greg Brockman i Ilya Sutskever z OpenAI podkreślił.
Superinteligencja opisuje byt, który przekracza ogólną ludzką inteligencję lub niektóre specyficzne aspekty inteligencji. Według autorów superinteligencja AI będzie miała niezrównany poziom mocy, obejmujący zarówno pozytywne, jak i negatywne aspekty.
Rozwój i zagrożenia związane z nieuniknioną superinteligencją
OpenAI zidentyfikował trzy ważne idee, które odgrywają kluczową rolę w pomyślnym rozwoju superinteligencji. Obejmują one koordynację wiodących wysiłków na rzecz rozwoju, ustanowienie międzynarodowego organu podobnego do Międzynarodowej Agencji Energii Atomowej (MAEA) oraz rozwój możliwości technicznych na rzecz bezpieczeństwa.
Kompletujemy wszystkie dokumenty (wymagana jest kopia paszportu i XNUMX zdjęcia) potrzebne do OpenAI przyznaje, że systemy sztucznej inteligencji wiążą się z ryzykiem, które jest porównywalne z ryzykiem związanym z innymi technologiami związanymi z Internetem. Altman, Brockman i Sutskever również wyrażają przekonanie, że obecne podejście społeczeństwa do zarządzania tymi zagrożeniami jest odpowiednie. Jednak główna obawa dotyczy przyszłych systemów, które będą miały niespotykaną dotąd moc.
„Z drugiej strony, systemy, o które się martwimy, będą miały moc wykraczającą poza jakąkolwiek technologię, która została jeszcze stworzona, i powinniśmy uważać, aby nie osłabiać koncentracji na nich, stosując podobne standardy do technologii znacznie poniżej tego poziomu” – czytamy we wpisie na blogu.
Autorzy argumentują, że potężne systemy sztucznej inteligencji wymagają publicznego nadzoru i demokratycznej kontroli. Wyjaśniają również, dlaczego budują tę technologię w OpenAI: aby stworzyć lepszy świat i uniknąć ryzyka związanego z jego zatrzymaniem. Sztuczna inteligencja pomaga w różnych obszarach, w tym w edukacji, kreatywności i produktywności, a także w ogólnym wzroście gospodarczym.
OpenAI uważa, że jest to trudne i ryzykowne zatrzymać superinteligencję od stworzenia. Superinteligencja przynosi znaczne korzyści, z roku na rok staje się tańsza, pracuje nad nią coraz więcej osób i jest częścią ścieżki technologicznej firmy.
Ilman Szazajew, techpreneur w AI i współzałożyciel Laboratoria Farcany, podzielił się kilkoma komentarzami dotyczącymi wiadomości. Prognozy wskazują, że superinteligencja, jeśli nie będzie odpowiednio zarządzana, może być jednym z najbardziej destrukcyjnych wynalazków ludzkości wszechczasów. Jednak rozmowy na temat wdrożenia technologii nadal dzielą, ponieważ nie została ona jeszcze opracowana. Naciskanie na zatrzymanie rozwoju w oparciu o strach przed przewidywaniami może pozbawić ludzkość możliwości, jakie może nieść ze sobą nowa technologia.
"OpenAIzdecentralizowane podejście do zarządzania może pomóc w utrzymaniu szerokiego bezpieczeństwa. Przy odpowiednich przepisach program mógłby zostać zamknięty w przypadku jego wystąpienia stwarza zagrożenie. Jeśli te zabezpieczenia zostaną wprowadzone, superinteligencja może być innowacją wartą zbadania” – powiedział Shazhaev.
Otwarcie dyskutując swoje poglądy na temat superinteligencji AI i proponowanych środków regulacyjnych, OpenAI wydaje się sprzyjać rzeczowym dyskusjom i zachęcać do różnych perspektyw.
Sam Altman mocno wierzy w powszechnej dostępności sztucznej inteligencji dla społeczeństwa. Uznając, że nie można z góry przewidzieć wszystkich problemów, opowiada się za rozwiązywaniem problemów na jak najwcześniejszym etapie. Jednak Altman podkreśla również znaczenie niezależnych audytów dla systemów takich jak ChatGPT przed wydaniem. Dostrzega ponadto możliwość wdrożenia środków, takich jak ograniczenie tempa tworzenia nowego modelu lub powołanie komitetu ds ocenić bezpieczeństwo modeli AI przed wprowadzeniem na rynek. Warto zauważyć, że Altman przewiduje, że ilość inteligencji we wszechświecie podwoi się co 18 miesięcy.
Czytaj więcej:
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Agne jest dziennikarką, która zajmuje się najnowszymi trendami i wydarzeniami w metaverse, sztucznej inteligencji i Web3 branże dla Metaverse Post. Jej pasja do opowiadania historii skłoniła ją do przeprowadzenia licznych wywiadów z ekspertami w tych dziedzinach, zawsze starając się odkryć ekscytujące i wciągające historie. Agne posiada tytuł licencjata z literatury i rozległe doświadczenie w pisaniu na różne tematy, w tym podróże, sztukę i kulturę. Zgłosiła się także jako wolontariuszka jako redaktorka do organizacji praw zwierząt, gdzie pomagała podnosić świadomość na temat kwestii związanych z dobrostanem zwierząt. Skontaktuj się z nią [email chroniony].
Więcej artykułów
Agne jest dziennikarką, która zajmuje się najnowszymi trendami i wydarzeniami w metaverse, sztucznej inteligencji i Web3 branże dla Metaverse Post. Jej pasja do opowiadania historii skłoniła ją do przeprowadzenia licznych wywiadów z ekspertami w tych dziedzinach, zawsze starając się odkryć ekscytujące i wciągające historie. Agne posiada tytuł licencjata z literatury i rozległe doświadczenie w pisaniu na różne tematy, w tym podróże, sztukę i kulturę. Zgłosiła się także jako wolontariuszka jako redaktorka do organizacji praw zwierząt, gdzie pomagała podnosić świadomość na temat kwestii związanych z dobrostanem zwierząt. Skontaktuj się z nią [email chroniony].
