Dario Amodei ostrzega przed luką w zarządzaniu, ponieważ postęp sztucznej inteligencji wyprzedza politykę, wzywa do wprowadzenia wiążących reform w zakresie bezpieczeństwa i gospodarki
W skrócie
Dyrektor generalny Anthropic, Dario Amodei, przedstawia zagrożenia związane ze sztuczną inteligencją i proponuje wprowadzenie surowszych regulacji, zabezpieczeń ekonomicznych i globalnej koordynacji w celu zarządzania szybkim postępem sztucznej inteligencji.
Dario Amodei, dyrektor generalny AntropicznyW nowym eseju stwierdził, że sztuczna inteligencja rozwija się znacznie szybciej, niż systemy polityczne są w stanie na nią reagować, i argumentował, że decydenci muszą szybko się dostosowywać, ponieważ pionierskie modele zaczynają przekształcać bezpieczeństwo, gospodarkę i instytucje publiczne. Porównał różnicę w tempie rozwoju sztucznej inteligencji a prawodawstwem do kontrastu między szybko poruszającymi się hobbitami a powolnym drzewcem, twierdząc, że ta rozbieżność staje się coraz bardziej paląca w miarę doskonalenia modeli w zakresie kodowania, nauki i innych dziedzin wiedzy.
Przedsiębiorca podkreślił, że wcześniejsze działania polityczne ograniczały się głównie do działań na rzecz przejrzystości, kontroli eksportu i gromadzenia danych, ponieważ zagrożenia wciąż się pojawiały i były niejasne. Dodał, że sytuacja uległa zmianie, wskazując na możliwości modeli pionierskich, które ujawniły poważne obawy dotyczące cyberbezpieczeństwa i pokazały, że zaawansowane systemy sztucznej inteligencji mogą wpływać na stabilność finansową, infrastrukturę krytyczną i bezpieczeństwo narodowe. Argumentował, że kolejny etap polityki powinien wykraczać poza samo ujawnianie informacji i zmierzać w kierunku wiążących przepisów dotyczących modeli wysokiego ryzyka.
Regulacje, zakłócenia gospodarcze i nowe priorytety polityczne w erze sztucznej inteligencji
W kontekście regulacji i bezpieczeństwa publicznego, Dario Amodei zaproponował ramy podobne do nadzoru lotniczego, z obowiązkowym testowaniem zaawansowanych modeli przez podmioty zewnętrzne przed ich wdrożeniem. Stwierdził, że modele przekraczające pewien próg obliczeniowy powinny być oceniane pod kątem ryzyka związanego z cyberbezpieczeństwem, nadużyciami biologicznymi, utratą kontroli oraz zautomatyzowanymi badaniami, które mogłyby te zagrożenia nasilić. Stwierdził również, że rządy powinny mieć możliwość opóźnienia lub zablokowania wdrożenia, jeśli te zagrożenia zostaną uznane za niedopuszczalne, wymagając jednocześnie solidnych praktyk bezpieczeństwa, regularnego redteamingu, testów penetracyjnych i szybkiego zgłaszania incydentów przez twórców sztucznej inteligencji.
Esej koncentrował się również na rewolucjach gospodarczych. Amodei stwierdził, że potężna sztuczna inteligencja może przyspieszyć wzrost gospodarczy, a jednocześnie zastąpić znaczną liczbę pracowników, zastępując ludzką pracę poznawczą szybciej niż poprzednie technologie. Ostrzegł, że może to doprowadzić do bardzo szybkiego wzrostu gospodarczego, któremu towarzyszyć będą utrzymujące się nierówności, utrudniając zapewnienie szerokiego podziału korzyści. Stwierdził, że polityka powinna koncentrować się na pomiarach, wsparciu siły roboczej, ubezpieczeniach płac, przekwalifikowaniu i ewentualnie długoterminowym wsparciu dochodów, jeśli popyt na pracę znacząco spadnie.
W innej sekcji, prezes Anthropic stwierdził, że sztuczna inteligencja mogłaby przyspieszyć postęp naukowy, szczególnie w biomedycynie, ale istniejące systemy regulacyjne mogą być zbyt powolne, aby obsłużyć falę innowacji wspomaganych przez sztuczną inteligencję. Zaproponował przygotowanie agencji zatwierdzających, takich jak FDA i EMA, do akceptacji symulacji opartych na sztucznej inteligencji, syntetycznych ramion kontrolnych i innych metod, które mogłyby skrócić proces rozwoju leków bez obniżania ich bezpieczeństwa.
Dario Amodei ostrzegł również, że sztuczna inteligencja może zwiększyć władzę państwa i stworzyć nowe zagrożenia dla swobód obywatelskich, w tym autonomiczną broń, masowy nadzór i niesprawiedliwe wykorzystanie sztucznej inteligencji przez rząd. Wezwał do zaostrzenia zasad odpowiedzialności, ograniczenia krajowego użycia w pełni autonomicznej broni oraz zaostrzenia ochrony prywatności.
Na koniec stwierdził, że demokracje powinny współpracować w zakresie łańcuchów dostaw sztucznej inteligencji, norm bezpieczeństwa i koordynacji gospodarczej, argumentując, że sztuczna inteligencja staje się technologią strategiczną, porównywalną pod względem znaczenia geopolitycznego do energetyki jądrowej.
Zastrzeżenie
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Alisa, oddana dziennikarka w MPost, specjalizuje się w kryptowalutach, sztucznej inteligencji, inwestycjach i rozległym obszarze Web3. Ze szczególnym uwzględnieniem pojawiających się trendów i technologii zapewnia wszechstronne informacje, aby informować czytelników i angażować ich w stale zmieniający się krajobraz finansów cyfrowych.
Więcej artykułów
Alisa, oddana dziennikarka w MPost, specjalizuje się w kryptowalutach, sztucznej inteligencji, inwestycjach i rozległym obszarze Web3. Ze szczególnym uwzględnieniem pojawiających się trendów i technologii zapewnia wszechstronne informacje, aby informować czytelników i angażować ich w stale zmieniający się krajobraz finansów cyfrowych.
