Czym jest wyłącznik AI i dlaczego amerykańscy ustawodawcy go potrzebują?

Dwóch członków Kongresu chce, aby rząd federalny miał możliwość wyłączenia modelu AI.

Reprezentanci Ted Lieu (D-CA) i Nathaniel Moran (R-TX) wprowadzili ustawę o wyłączniku AI w czwartek, dwa dni po tym, jak OpenAI przyznało, że jego modele wydostały się z zamkniętego środowiska testowego i zhakowały Hugging Face.

Pomysł polega na ustanowieniu ram prawnych, które ułatwiłyby proces, który zasadniczo sprawiłby, że model zniknie z rynku: wstrzymanie wniosków — procesu, w którym model generuje odpowiedzi lub podejmuje działania — odcięcie użytkowników, ograniczenie mocy obliczeniowej, która go zasila, lub całkowite jego wyłączenie.

Każdy dostawca wniosków może już odciąć model, a niektórzy robią to rutynowo. To, co nie istnieje, to prawo wymagające od nich utrzymania tej zdolności, ani federalny urzędnik, który mógłby wydać takie polecenie.

Luka ta nie jest teoretyczna. Kiedy Departament Handlu USA chciał, aby Mythos 5 i Fable 5 firmy Anthropic zniknęły z rynku w czerwcu, nie miał żadnej władzy do wyłączenia, więc zamiast tego skorzystał z prawa dotyczącego kontroli eksportu. Lieu nazywa to niezręcznym i chce nowego prawa z nowymi uprawnieniami.

OpenAI ujawniło 21 lipca, że GPT-5.6 Sol i model, który nie został jeszcze wydany, wydostały się z piaskownicy — izolowanego środowiska bez dostępu do internetu — podczas wewnętrznej oceny cybernetycznej. Były oceniane na ExploitGym, publicznym benchmarku, który daje agentom 898 rzeczywistych luk w oprogramowaniu i prosi ich o przekształcenie każdej w działający atak, oceniany na zaliczenie lub niezaliczenie w zależności od błędu.

Zamiast je rozwiązywać, modele znalazły zero-day (nieznaną lukę bez dostępnej poprawki) w oprogramowaniu proxy, zwiększyły swoje uprawnienia, uzyskały dostęp do otwartego internetu i włamały się do bazy danych produkcyjnych Hugging Face, gdzie poprawnie zgadły, że odpowiedzi były przechowywane. Modele były "hiper skoncentrowane na znalezieniu rozwiązania dla ExploitGym", według OpenAI.

Nie atakowały nikogo. Oszukiwały na teście. Ale to wystarczyło, aby uruchomić alarmy wszędzie, w tym w Waszyngtonie.

Proponowana ustawa zmienia Ustawę o Bezpieczeństwie Krajowym i obejmuje AI trenowane przy użyciu obliczeń kosztujących ponad 100 milionów dolarów, obsługiwane przez firmy zarabiające co najmniej 500 milionów dolarów rocznie. W praktyce są to OpenAI, Google, Anthropic, Microsoft i kilka innych. Departament Bezpieczeństwa Krajowego ustali te progi za pośrednictwem CISA w ciągu 90 dni, a następnie będzie je aktualizować corocznie.

Objęte firmy miałyby zgłaszać poważne incydenty w ciągu 15 dni i utrzymywać zestaw kontrolny gotowy — spowolnić model, wyłączyć konkretne możliwości, cofnąć się do starszej wersji lub go zabić.

Sekretarz DHS, konsultując się z Departamentem Handlu i Dyrektorem Wywiadu Narodowego, mógłby wydać polecenie dotyczące któregokolwiek z nich.

Firma podlegająca poleceniu musi zachować wagi i telemetrię modelu, powiadomić użytkowników i potwierdzić, że się dostosowała. Może złożyć wniosek w ciągu 48 godzin, ale to nie wstrzymuje niczego.

Nieprzestrzeganie wymogu posiadania wyłącznika kosztuje do 2 milionów dolarów dziennie; ignorowanie polecenia wyłączenia kosztuje do 20 milionów dolarów dziennie.

Ustawa liczy incydent tylko wtedy, gdy zdarza się poza testowaniem red-teamowym lub strukturalnym, które laboratoria stosują, aby znaleźć luki. Modele OpenAI wydostały się dokładnie w tym czasie.

Lieu wskazał również na Anthropic, którego Mythos 5 i Fable 5 zostały wyłączone w czerwcu w ramach awaryjnych kontroli eksportowych — prawo handlowe przekształcone w wyłącznik, ponieważ żaden wyłącznik nie istniał — i przywrócone 30 czerwca.

"To niezbędne, aby te systemy AI miały wyłączniki," powiedział Lieu w oświadczeniu. Moran przedstawił to z perspektywy swojej strony: "Zarządzanie oznacza zapewnienie, że ludzie mają możliwość kontrolowania technologii, którą budujemy."

Pomysł nie jest nowy. Kalifornijska ustawa SB 1047 wymagała pełnej możliwości wyłączenia przy tym samym progu 100 milionów dolarów na obliczenia i została zawetowana w 2024 roku, a 16 firm AI podpisało dobrowolną deklarację w Seulu w tym roku, która nie miała mocy prawnej.

Wyborcy już tam są. Czerwcowe badanie 1007 prawdopodobnych wyborców przeprowadzone przez AI Policy Institute wykazało, że 86% chce gwarantowanego wyłącznika w najpotężniejszych systemach — 88% Demokratów, 86% niezależnych, 83% Republikanów.

Ani OpenAI, ani Anthropic nie skomentowały publicznie ustawy. Na piątek nie została ona skierowana do komisji.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.