Od „łatania” do „eliminacji całych klas błędów”: jak zbudować odporność internetu?

By: foresightnews.pro|
0
Udostępnij
copy
Oceń nas w GoogleOceń nas w Google

W październiku 2026 roku wiele ataków ujawniło kruchość internetu, agenci AI mogą zarówno atakować, jak i wzmacniać, kluczowe jest zapobieganie, a nie naprawa.

Autor: Jay You

Tłumaczenie: AididiaoJP, Foresight News

Początkowy projekt internetu był odporny: część węzłów była usuwana, a pozostałe działały normalnie. Jednak dzisiejszy internet przypomina raczej chwiejny wieżowiec, wypełniony różnymi bibliotekami, zależnościami i środowiskami deweloperskimi, z kilkoma kluczowymi komponentami na dole. Utrzymujących go jest mało, a kontrolujących jeszcze mniej.

W październiku 2026 roku seria ataków wyraźnie ujawniła tę kruchość.

W PHP odkryto lukę „PHP2Shell”, co naraża ponad 5 milionów hostów na ryzyko zdalnego przejęcia. Proces wydania LiteLLM został przejęty, a na PyPI pojawiła się wersja kradnąca dane uwierzytelniające. Klucze do przechowywania w Railway, z maksymalnie 100 000 obszarów roboczych, zostały odszyfrowane, a napastnicy szukali kluczy API AI. Fireworks AI zostało zaatakowane dwukrotnie, pierwszy raz z powodu wycieku własnych danych uwierzytelniających, a drugi raz z powodu włamania do dostawcy usług w chmurze. Klucz podpisu zaufanego wydawcy eMudhra był tak słaby, że jednym z nich był cyfrowy „4”. Portfel gorący Binance został skradziony na kwotę 6,3 miliarda dolarów, a FBI przypisuje to Korei Północnej.

Te ataki pokazują, jak niebezpieczni mogą być agenci AI jako strona atakująca. Z drugiej strony, agenci mogą być kluczową częścią rozwiązania. Mogą przyspieszyć migrację do bezpieczniejszych języków i formalnej weryfikacji, przyspieszyć popularyzację produktów kryptograficznych, takich jak dowody zerowej wiedzy i zaufane środowiska wykonawcze, a także mogą stworzyć „podwójną drogę” internetu, w której agenci i ludzie będą podążać różnymi ścieżkami, opartą na weryfikacji tożsamości i treści.

Gdy agenci obniżają koszty pisania oprogramowania, najbardziej wartościowe biblioteki kodu będą coraz bardziej przypominać żywe systemy: nowoczesne modele nieustannie przeprowadzają testy penetracyjne, każda iteracja wzmacnia kod, język i łańcuch narzędzi, eliminując całe klasy defektów. W ten sposób możemy użyć agentów, aby wzmocnić internet w coś odpornego - z każdym nowym agentem internet staje się silniejszy, a nie słabszy.

I. Trzy role agentów: broń, cel, imitator

Agenci zmieniają strukturę internetu na trzy sposoby.

Po pierwsze, agenci są bronią. Bezpieczność starego kodu w dużej mierze wynika z wysokich kosztów wykorzystania luk. Agenci obniżają te koszty do zera. PHP2Shell ukrywał się w PHP przez ponad dziesięć lat, a zespół białych kapeluszy Wiz w ciągu kilku godzin przekształcił lukę w użyteczne narzędzie ataku przy użyciu nowoczesnych modeli. Wiz twierdzi, że AI obniżyło próg wejścia do rozwoju i modyfikacji skomplikowanych luk, a to, co wcześniej wydawało się niepraktyczne, stało się osiągalnym celem. Napastnicy już korzystają z tej dźwigni. W przypadku jednego z przypadków szpiegostwa odkrytego przez Anthropic, AI wykonało 80-90% całej operacji. Ataki z października to powtórzenie tego samego wzoru w skali internetu: znaleźć słabość i szybko zaatakować miliony celów.

Po drugie, agenci są również celem. Obecnie wiele nowego kodu jest pisane przez te narzędzia, a agenci i kod, który piszą, są łatwe do zaatakowania. Agenci konsumenccy, tacy jak Muse i Instinct, oraz agenci korporacyjni, tacy jak Sierra i Decagon, działają na otwartych narzędziach, narażeni na ataki, takie jak wstrzykiwanie podpowiedzi, które w ostatnich latach stają się coraz bardziej wyrafinowane. Agenci mogą również wprowadzać więcej błędów do kodu. LiteLLM został zhakowany, ponieważ AI agent niechcący zapisał token GitHub w logach. Nawet jeśli pozwolimy agentom piszącym kod naprawić problemy z bezpieczeństwem, ich realizacja często jest niewiarygodna.

Po trzecie, agenci mogą udawać ludzi, kwestionując istniejące zasady dotyczące ruchu w internecie. Dane Cloudflare pokazują, że w 2026 roku połowa ruchu w internecie nie pochodziła od ludzi. CEO Matthew Prince przewiduje, że w ciągu pięciu lat automatyczny ruch osiągnie „1000 razy więcej niż ruch ludzki”. Te działania agentów niszczą strony internetowe zaprojektowane dla ludzkich przeglądarek. Fundacja Wikimedia w październiku poinformowała, że miliony złośliwych żądań agentów OpenAI próbowały uzyskać dostęp do jej strony, co mogło spowodować awarię usługi Wikidata. Inny klient miał agenta Instinct, który przez cały dzień wywoływał Resy setki razy na godzinę, aż konto zostało zablokowane.

Już istnieją inicjatywy oznaczające i identyfikujące ruch agentów, takie jak Personal Agent Protocol Meta i Sierra, ale to nie wystarczy. Agenci często mają motyw, aby nie ujawniać swojej tożsamości: wiele stron internetowych nadal traktuje ruch nie-ludzki jako złośliwy, a agenci, którzy ujawniają swoją tożsamość, mogą zostać zablokowani w połowie zadania, podczas gdy ci, którzy udają ludzi, mogą przejść niezauważeni.

II. Trzy sposoby reakcji: obserwacja, wykonanie, zapobieganie

„Broń, cel, imitator” mówi nam, skąd pochodzą zagrożenia, ale nie mówi, co robić. Można dodać jeszcze jedną oś, trzy sposoby reakcji: obserwacja, znajdowanie luk, monitorowanie zachowań agentów; wykonanie, szybsze naprawy, ograniczenie tego, co agenci mogą dotykać; zapobieganie, budowanie systemu, w którym całe klasy awarii nigdy nie wystąpią. Przecięcie tych dwóch osi to mapa lokalizacji dzisiejszych startupów.

Patrząc na tę mapę, większość firm i widocznego kapitału koncentruje się na dwóch poziomach „obserwacji” i „wykonania”. Te dwa poziomy są najłatwiejsze do wejścia i łatwe do zintegrowania z istniejącymi stosami oprogramowania. Już są duzi gracze: Socket zebrał 125 milionów dolarów, Braintrust zakończył rundę B na 80 milionów dolarów, Armadin zebrał 445 milionów dolarów.

Zwycięzcy na poziomie obserwacji i wykonania prawdopodobnie będą tymi, którzy zbiorą najwięcej logów agentów. Kto widzi najwięcej zachowań agentów, ten może napisać najlepsze strategie, co jest prawdopodobnie najbliższe efektowi sieciowemu w tym rynku. Jeśli zdolności detekcji wzrastają wraz z gromadzeniem danych, przewaga przejdzie do niezależnych dostawców - mogą oni obserwować ruch z różnych klientów i różnych modeli, a nie tylko skupiać się na jednym laboratorium.

Jednak długoterminowa odpowiedź, która zasługuje na uwagę, może dotyczyć tego, jak napisać oprogramowanie zabezpieczające, które może zapobiegać lub eliminować całe klasy błędów. Zapobieganie oznacza, że oprogramowanie i agenci są zbudowani w taki sposób, że pewne rodzaje awarii nigdy nie wystąpią. Historia pokazuje, że ta transformacja wymaga jednoczesnego spełnienia kilku warunków: uderzenia, które ujawnia koszty, narzędzia łatwe do włączenia do przepływu pracy oraz siły, która promuje to jako domyślny standard.

Bezpieczeństwo pamięci stanowiło prawie 70% CVE Microsoftu. Pojawił się Rust, który stał się wykonalną alternatywą, coraz częściej stosowaną w programowaniu systemów agentów, a według procentów jest jednym z najszybciej rosnących języków programowania. HTTPS podąża tą samą drogą: incydent Snowdena był uderzeniem, Let’s Encrypt dostarczył darmowe i łatwe w użyciu narzędzia, a Chrome oznaczył HTTP jako „niebezpieczne”, co było impulsem. Dziś ataki z października stanowią już poważne uderzenie. Narzędzia mogą być łańcuchami narzędzi do formalnej weryfikacji, a impuls może pochodzić z ram testowych, regulacji lub funkcjonalnych efektów sieciowych.

Co więcej, gdy agenci staną się głównym źródłem ruchu w internecie, problemy z tożsamością i bezpieczeństwem mogą się połączyć. W erze chmurowej, Okta i Wiz to dwie firmy, które rozwiązują w rzeczywistości ten sam problem: kto może uzyskać dostęp do jakich zasobów w chmurze. Agenci stają przed tym samym problemem autoryzacji zasobów, zwłaszcza gdy używają API, MCP i innych łączników do łączenia z kontekstowymi repozytoriami.

Tożsamość agentów ma dwie drogi: źródło tożsamości i weryfikacja treści. Obie mogą być potrzebne. Źródło tożsamości obejmuje podpisy żądań i protokoły tożsamości, takie jak PAP lub A2A, używane do podpisywania i udowadniania tożsamości wykonawcy i treści. Ale jak wcześniej wspomniano, agenci często mają motyw, aby ukrywać swoją tożsamość podczas wykonywania zadań, a złośliwi wykonawcy tym bardziej nie będą przestrzegać tych standardów. Weryfikacja treści uzupełnia pozostałą część: na podstawie rzeczywistych działań i treści wyjściowych dokonuje detekcji i buduje drzewo decyzyjne, aby strony internetowe mogły ocenić, kto jest człowiekiem, a kto robotem, nawet jeśli nie widzą odznaki.

III. Co dalej

1. Wielka migracja kodu

Rzeczy mogą najpierw się pogorszyć, a potem poprawić. Na świecie istnieje wiele przestarzałych infrastruktur, wiele napisanych w czasach, gdy koszty wykrywania i wykorzystania luk były wysokie. To założenie przestało obowiązywać, ponieważ agenci obniżają koszty ataków do zera. W ciągu najbliższych jednego lub dwóch lat te ataki mogą wywołać „wielką migrację kodu”: z niebezpiecznych starych bibliotek kodu i starych języków do nowocześniejszych, bardziej odpornych stosów.

W przeszłości ręczne przepisanie dużych przestarzałych bibliotek kodu na bardziej bezpieczne języki, takie jak TypeScript czy Rust, było niezwykle trudne i kosztowne. Agenci całkowicie zmieniają tę kalkulację. GitHub Copilot niedawno przeniósł 832 000 linii kodu do Rust w ciągu trzech miesięcy, przy minimalnym udziale jednego inżyniera. Bez agentów, ta praca wymagałaby całego zespołu przez rok lub dwa. Nowe, bezpieczniejsze modele AI również będą się szybciej popularyzować: TypeSafe’s Jev zwraca strukturalne decyzje z typami, a nie nieograniczone wyjścia, a po jednym dniu pracy trafił do zespołu płatnych AI Vercel z prawie 13%.

Dziś nowy zestaw narzędzi zabezpieczających jest odbudowywany wokół programowania agentów: przegląd kodu (Greptile), skanowanie kodu i kluczy (Semgrep), sprawdzanie zależności złośliwych pakietów (Socket), wykrywanie awarii działania agentów (Raindrop), odpowiedzi na incydenty produkcyjne (Resolve AI). Pod spodem powstaje nowa warstwa wdrożeniowa: piaskownice agentów (E2B, Daytona), warstwa autoryzacji i narzędzi (Composio, Nango, Arcade). Razem mogą stworzyć odporny stos deweloperski: każdy błąd wykryty podczas rozwoju, testowania i wdrażania może być przekazywany do następnej linii kodu.

Migracja kodu staje się tańsza, a formalna weryfikacja może ponownie zyskać na znaczeniu na poziomie kompilatorów i łańcuchów narzędzi. Na przykład w współpracy Theorem i Anthropic, Claude udowodnił właściwości bezpieczeństwa dla ponad 100 otwartych bibliotek.

Jednak migracja kodu ma również pułapki. Przepisanie dużych bibliotek kodu w bardziej bezpiecznych językach jest niezwykle trudne w inżynierii oprogramowania. Nawet przy nowoczesnej inteligencji, migracja pisana przez AI może być niewiarygodna, wprowadzając wiele nowych błędów. Formalna weryfikacja nie jest również panaceum; jej skuteczność zależy od tego, jak dobrze napisano specyfikacje, nawet systemy takie jak Lean mogą mieć błędy w poziomie jądra, które niszczą matematyczne gwarancje. Aby to zrobić poprawnie, potrzebny jest staranny projekt architektoniczny, ściśle określone specyfikacje oraz wiele testów penetracyjnych na wynikach.

2. Bezpieczeństwo „znika” w aplikacjach

Dla aplikacji konsumenckich prywatność i bezpieczeństwo mogą ostatecznie „zniknąć” w tych, które najpierw odnoszą sukces dzięki wygodzie i doświadczeniu dewelopera, a nie jako osobny produkt płatny. Usługa portfela kryptograficznego to przykład wzmocnienia zarządzania kluczami. Privy i Turnkey ukrywają złożoność kryptograficzną związaną z zaufanym środowiskiem wykonawczym i obliczeniami wielostronnymi, tworząc łatwe do zintegrowania interfejsy deweloperskie i przyjazne doświadczenia dla konsumentów. Pośrednicy mogą podążać tą samą drogą: bezpieczniejsze domyślne ustawienia przychodzą dzięki lepszym aplikacjom i narzędziom deweloperskim, a nie poprzez osobny zakup bezpieczeństwa. Bezpieczeństwo staje się jak pas bezpieczeństwa w taksówce — pasażerowie wybierają tę podróż dla wygody, a ochrona jest wbudowana.

Dowody zerowej wiedzy i TEE mogą już cicho się rozprzestrzeniać. World ID ma już ponad 18 milionów osób, które ukończyły „dowód człowieczeństwa”, a zespoły firmowe mogą w Zoomie pokazywać, którzy uczestnicy są zweryfikowanymi ludźmi. Incognito Chat w WhatsApp uruchamia rozmowy Meta AI w TEE, a Meta twierdzi, że nawet oni sami nie mają do nich dostępu. W obu tych przykładach kryptografia jest ukryta za znanymi aplikacjami, a użytkownicy nie powinni czuć, że dodano dodatkowy krok.

Jednocześnie modele prywatne i lokalne mogą być drogą do wbudowania prywatności w produkty. W 2026 roku otwarte modele wagowe będą tylko o cztery miesiące w tyle za zamkniętymi modelami wiodącymi. Małe modele stają się coraz bardziej zdolne, chipy urządzeń stają się coraz mocniejsze, a lokalne wnioskowanie może zająć większy udział w tokenach AI. Wnioskowanie przesuwa się z chmury na krawędź, a formy zagrożeń bezpieczeństwa również się zmieniają. Wrażliwe dane mogą opuszczać urządzenia w mniejszym stopniu, a tego rodzaju wycieki będą się zmniejszać. Jednak zhakowane laptopy lub domowe serwery mogą stać się gospodarzami zaufanych pośredników, a powierzchnia ataku przenosi się na sprzęt kontrolowany przez użytkowników. Może to sprzyjać lokalnemu środowisku uruchomieniowemu pośredników — modele, narzędzia i logi znajdują się na tym samym sprzęcie, co może nawet stworzyć przestrzeń dla nowych form sprzętu i oprogramowania, aby uruchomić pośredników dla rodzin lub zespołów.

3. Podwójna droga internetu

Sposób, w jaki pośrednicy i ludzie korzystają z internetu, jest bardzo różny. Wraz ze wzrostem ruchu pośredników, sieć dzieli się na dwie drogi: jedna jest przeznaczona wyłącznie dla przeglądania przez pośredników, wspierana przez systemy takie jak Parallel, Browserbase, Kernel; druga dla ludzi, która dokonuje mądrzejszego routingu w zależności od tego, kto stoi za żądaniem. Właściciele stron mogą używać tych kontroli tożsamości do filtrowania ruchu i ustawiania uprawnień transakcyjnych, jednocześnie nie blokując całkowicie pośredników. Podobnie jak restauracja może jednocześnie obsługiwać klientów „na wynos” i „w lokalu” z tej samej kuchni, strony internetowe mogą dostarczać tę samą treść w różnych formatach dla różnych podmiotów składających żądania.

W przyszłości droga dla pośredników może coraz częściej prowadzić do rozmów między pośrednikami. Po powszechnym wprowadzeniu pośredników konsumenckich i biznesowych mogą pojawić się moje pośredniki Instinct lub Muse, które będą szukać pośrednika do składania zamówień tekstowych w DoorDash, aby uzyskać spersonalizowaną cenę i doświadczenie. Relacje między pośrednikami mają już wczesne przykłady, takie jak eksperyment Project Swap firmy Anthropic. W tych scenariuszach każdy pośrednik wie coś o swoim zleceniodawcy, czego inni nie wiedzą, więc decyduje, jakie preferencje i informacje ujawnić, co wymaga zabezpieczeń: co pośrednik może obiecać, rejestr transakcji, zdolność do arbitrażu i audytu po fakcie.

W tej złożonej negocjacji między pośrednikami, sama znajomość tożsamości pośrednika nie wystarcza. Zleceniodawcy i przeciwnicy chcą wiedzieć, jak pośrednik zachowywał się wcześniej: czy płacił, czy dotrzymywał umowy, czy ujawniał tajemnice. Reputacja przenośnego pośrednika może być ważnym uzupełnieniem tożsamości pośrednika. Ale to rodzi pytanie: kto będzie utrzymywał reputację pośrednika między aplikacjami i jak zapobiec, aby stała się ona kolejnym punktem centralizacji kontroli?

Cena --

--
--
--

4. W kierunku internetu odpornego na wstrząsy

Jeśli ostatnia fala ataków hakerskich zdominowanych przez pośredników nauczyła nas jednej rzeczy, to tego, że wszystko może być zhakowane. Zawsze będą nowe błędy, nowe ataki, a wiodący pośrednicy będą je znajdować jako pierwsi. Ale internet jest odporny na wstrząsy, ponieważ to, jak reagujemy, jak dostosowujemy system. Musimy starać się zapobiegać w projektowaniu, łatać odkryte luki i nieustannie aktualizować systemy i łańcuchy narzędzi.

W praktyce może to przypominać cykl bezpieczeństwa. Wiodące modele przeprowadzają testy bezpieczeństwa przez całą dobę, a wykryte problemy nie tylko trafiają do lepszej bazy kodu, ale co ważniejsze, do lepszego łańcucha narzędzi i języków programowania. Wszystko to jest połączone przez stos deweloperów pośredników, który może szybko wykrywać, naprawiać i przenosić bazy kodu. W idealnym przypadku formalna weryfikacja może być również zbudowana na poziomie kompilatora, a jej założenia i dowody mogą być testowane penetracyjnie przez tę samą grupę wiodących modeli ataków. Każdy odkryty błąd może zasilać cykl danych, czyniąc cały internet bardziej odpornym.

Patrząc szerzej, ten internet, który nie wymaga pozwolenia, autonomiczny i odporny na wstrząsy, jest zgodny z wieloma pierwotnymi wizjami blockchainu i kryptowalut. USV badało i inwestowało w tym kierunku przez dziesięć lat. Blockchain pokazuje, jak obcy mogą bezpiecznie współdziałać w warunkach braku wzajemnego zaufania, a punktem wyjścia są najbardziej zaufane aktywa: pieniądze. Ale ciężkie koszty rozwoju i infrastruktury ograniczyły tę wizję do sektora finansowego. Gdy pośrednicy sprawiają, że internet staje się bardziej złożony i angażuje więcej stron, możemy mieć kolejną szansę, aby wpleść pomysły kryptograficzne w aplikacje i protokoły, które ludzie już używają. Na przykład DAO w pewnym sensie pokazuje, jak mogą wyglądać przyszłe grupy pośredników.

Patrząc wstecz, pierwotny projekt internetu zakładał, że im więcej węzłów, tym bardziej odporny staje się całość. Pośrednicy zagrażają temu projektowi, ale mogą być również sposobem na jego przywrócenie. W USV chcemy postawić na internet odporny na wstrząsy w trzech obszarach. Po pierwsze, kontynuować nasze dotychczasowe podejście „eliminować, a nie automatyzować”, wspierając metody, które od samego początku eliminują całe klasy błędów, a nie tylko je wykrywają i łatają. Po drugie, rozszerzyć naszą tezę „dane na krawędzi”, wierzymy, że dzienniki bezpieczeństwa pośredników mają prawdziwy efekt sieciowy: kto uchwyci te dzienniki, ten może stworzyć bezpieczniejsze produkty niż inni. Po trzecie, postrzegamy bezpieczeństwo pośredników jako część „sojuszu buntowników” — w przyjaznych interfejsach konsumenckich i bezproblemowych doświadczeniach deweloperskich, wbudowane narzędzia, przepływy pracy i protokoły bezpieczeństwa.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.

Możesz również polubić

iconiconiconiconiconiconiconiconicon
Obsługa klienta:@weikecs
Współpraca biznesowa:@weikecs
Quant trading i MM:[email protected]
Program VIP:[email protected]