Vitalik Buterin: Sztuczna inteligencja i formalna weryfikacja mogą sprawić, że krytyczny kod stanie się niemożliwy do zhakowania
W skrócie
Vitalik Buterin twierdzi, że formalna weryfikacja wspomagana przez sztuczną inteligencję może matematycznie udowodnić poprawność kodu, oferując wiarygodną metodę zabezpieczenia kluczowego oprogramowania przed cyberatakami wykorzystującymi sztuczną inteligencję.
Współzałożyciel Ethereum, Vitalik Buterin, nigdy nie stronił od wielkich idei. Jednak jego najnowszy esej wykracza poza blockchain, wkraczając w obszar, który może zmienić fundamenty samego bezpieczeństwa oprogramowania: formalną weryfikację, czyli praktykę tworzenia matematycznie weryfikowalnych dowodów na to, że kod komputerowy zachowuje się dokładnie tak, jak powinien. W obliczu coraz potężniejszej sztucznej inteligencji, która potrafi wyszukiwać i wykorzystywać błędy w oprogramowaniu na dużą skalę, Buterin argumentuje, że to wielowiekowe podejście do dowodu matematycznego jest nie tylko użyteczne – może być jedyną wiarygodną drogą do godnej zaufania cyfrowej przyszłości.
Ten argument jest jak najbardziej aktualny. Wykrywanie błędów wspomagane przez sztuczną inteligencję szybko przechyla szalę na korzyść atakujących. Kod, którego analiza kiedyś zajmowała zespołom audytorów tygodnie, teraz można przeskanować w poszukiwaniu luk w zabezpieczeniach w ciągu kilku minut. Niektóre głosy w świecie bezpieczeństwa zareagowały na tę rzeczywistość rezygnacją, sugerując, że deterministyczne gwarancje oprogramowania praktycznie się skończyły lub że jedynym realnym rozwiązaniem jest wycofanie się za mury zamkniętego kodu źródłowego. Buterin stanowczo odrzuca oba wnioski.
Jego optymizm opiera się nie na pobożnych życzeniach, lecz na specyficznym połączeniu technologicznym: sztucznej inteligencji i formalnej weryfikacji. Sztuczna inteligencja może generować ogromne ilości kodu, w tym wysoce zoptymalizowany niskopoziomowy kod asemblera, którego napisanie przez ludzi byłoby żmudne. Formalna weryfikacja może następnie udowodnić, z matematyczną pewnością weryfikowalną przez maszynę, że ten kod ma pożądane właściwości. Rezultatem, jak sugeruje Buterin, jest powrót do pisania maksymalnie wydajnego kodu – takiego, jaki programiści pisali pięćdziesiąt lat temu w surowym asemblerze – ale tym razem z rygorystycznym dowodem poprawności. Badacz Yoichi Hirai nazywa to „ostateczną formą tworzenia oprogramowania”. Buterin jest skłonny się z tym zgodzić.
Co tak naprawdę robi formalna weryfikacja, a czego nie robi
Aby zrozumieć argumentację Buterina, warto jasno określić, czym jest weryfikacja formalna. W istocie oznacza to pisanie twierdzeń matematycznych dotyczących oprogramowania, a następnie automatyczne sprawdzanie tych twierdzeń. Zamiast testować, czy kod działa na próbce danych wejściowych, udowadniasz, że działa on na wszystkich możliwych danych wejściowych, przy założeniu pewnych… defiZałożenia ne. Język programowania Lean, coraz częściej używany zarówno w matematyce czystej, jak i inżynierii oprogramowania, jest tu głównym narzędziem. Wśród już realizowanych projektów znajdują się formalnie zweryfikowane implementacje protokołów kryptograficznych, takich jak wymiana kluczy X3DH firmy Signal, systemy dowodowe ZK-STARK, a nawet pełna maszyna wirtualna EVM (Ethereum Virtual Machine) zbudowana bezpośrednio w asemblerze RISC-V z dołączonymi dowodami poprawności.
To naprawdę potężne. Najpoważniejsze błędy oprogramowania to często błędy interakcji – wady, które znajdują się na granicy między dwoma podsystemami, z których każdy był uważany za solidny w oderwaniu od reszty. Ludzcy audytorzy po prostu nie są w stanie jednocześnie ogarnąć całego złożonego systemu. Zautomatyzowany system weryfikacji dowodów potrafi. Formalna weryfikacja jest również wyjątkowo dobrze dostosowana do systemów, których Ethereum najbardziej potrzebuje: sygnatur odpornych na ataki kwantowe, systemów dowodów zerowej wiedzy i algorytmów konsensusu – wszystkich obszarów, w których właściwości bezpieczeństwa są koncepcyjnie proste do określenia, nawet jeśli implementacje są diabelnie skomplikowane w budowie.
Buterin uważa jednak, by nie przesadzić z jego wyolbrzymianiem. „Udowodniona poprawność” nie oznacza tego, co większość ludzi zakłada. Dowód pokazuje jedynie, że kod spełnia formalnie określoną specyfikację. Jeśli specyfikacja jest niekompletna, dowód jest niekompletny. Jeśli krytyczne założenia zawarte w dowodzie nie sprawdzają się w praktyce – na przykład, sprzętowy kanał boczny ujawnia informacje w sposób, którego model zagrożenia nigdy nie uwzględniał – dowód jest nadal ważny, ale system nadal jest niezabezpieczony. Historia dostarcza trzeźwiących przykładów: formalnie zweryfikowane kompilatory C były dostarczane z błędami; formalnie sprawdzone protokoły kryptograficzne zostały później złamane w modelach przeciwnika, których ich autorzy nie przewidzieli. Formalna weryfikacja, podkreśla Buterin, nie jest panaceum. Jest to jedna z wielu skutecznych technik, która zawodzi, gdy jest stosowana niedbale, częściowo lub ze specyfikacją, która nie odpowiada rzeczywistym potrzebom użytkowników.
Droga przed nami: Bezpieczne jądro w świecie pełnym pojazdów
Buterin przedstawia pełną niuansów, ale autentycznie pełną nadziei wizję. W jego ujęciu przyszłość bezpieczeństwa oprogramowania nie polega na perfekcyjnej weryfikacji całego kodu – nie jest to ani osiągalne, ani konieczne. To świat podzielony między utwardzonym, kurczącym się „bezpiecznym rdzeniem” a luźniejszym, zamkniętym w piaskownicy peryferium. Kod peryferyjny – aplikacje, wtyczki, skrypty generowane przez sztuczną inteligencję – może pozostać chaotyczny i podatny na błędy. Jest to akceptowalne, o ile działa z minimalnymi uprawnieniami i nie może naruszyć rdzenia. Z kolei bezpieczne jądro – jądra systemów operacyjnych, samo Ethereum, infrastruktura kryptograficzna, fundamenty Internetu Rzeczy – musi podlegać zupełnie innym standardom, a formalna weryfikacja jest kluczowa dla jego spełnienia.
W tej architekturze sztuczna inteligencja zmienia równanie nie poprzez domyślne zwiększenie bezpieczeństwa kodu, ale poprzez uczynienie rygorystycznej weryfikacji wykonalną po raz pierwszy. Ręczne pisanie dowodów jest notorycznie trudne i przez dekady utrzymywało metody formalne w niszy. Ale jeśli sztuczna inteligencja potrafi napisać zarówno zoptymalizowaną implementację, jak i towarzyszący jej dowód, a ludzki nadzór skupia się ściśle na sprawdzeniu, czy deklarowane twierdzenia rzeczywiście oddają to, co istotne, rachunek różniczkowy ulega zmianie. Ciężka praca weryfikacji staje się zautomatyzowana; ludzka rola staje się specyfikacją i osądem, a nie żmudną pracą linijka po linijce.
Zdaniem Buterina, stawka wykracza poza Ethereum, a nawet kryptowaluty. Tradycja cypherpunku – przekonanie, że w sieci cyfrowej obrońcy mają przewagę strukturalną, ponieważ zbudowanie zabezpieczeń kryptograficznych jest łatwiejsze niż ich złamanie – jest realnie zagrożona przez atakujących wspomaganych sztuczną inteligencją. Formalna weryfikacja w połączeniu ze sztuczną inteligencją to jedno z niewielu dostępnych narzędzi, które mogą przywrócić tę przewagę. Nie poprzez eliminację wszystkich błędów, ale poprzez zapewnienie, że najważniejsze systemy będą rzeczywiście zabezpieczone przed formalnie istniejącymi zagrożeniami. defied klasa zagrożeń. W świecie coraz bardziej autonomicznej i wydajnej sztucznej inteligencji, może to być właśnie ten rodzaj twardej gwarancji, której potrzebujemy.
Zastrzeżenie
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Alisa, oddana dziennikarka w MPost, specjalizuje się w kryptowalutach, sztucznej inteligencji, inwestycjach i rozległym obszarze Web3. Ze szczególnym uwzględnieniem pojawiających się trendów i technologii zapewnia wszechstronne informacje, aby informować czytelników i angażować ich w stale zmieniający się krajobraz finansów cyfrowych.
Więcej artykułów
Alisa, oddana dziennikarka w MPost, specjalizuje się w kryptowalutach, sztucznej inteligencji, inwestycjach i rozległym obszarze Web3. Ze szczególnym uwzględnieniem pojawiających się trendów i technologii zapewnia wszechstronne informacje, aby informować czytelników i angażować ich w stale zmieniający się krajobraz finansów cyfrowych.
