Ustawa Sandersa dąży do stałego zakazu superinteligentnej AI w USA

Amerykańscy ustawodawcy zaproponowali trwały zakaz sztucznej superinteligencji, wstrzymanie rozwoju zaawansowanej AI oraz nałożenie kar więzienia do 20 lat za naruszenia.
Podsumowanie

• Propozycja zakazałaby systemów AI, które dorównują lub przewyższają ludzkie umiejętności w wielu zadaniach.
• Prace nad zaawansowaną AI zostałyby wstrzymane, aż nowy federalny regulator ustali zasady bezpieczeństwa i przeglądu.
• Osoby fizyczne mogłyby stanąć w obliczu 20 lat więzienia, podczas gdy firmy mogłyby otrzymać "karę śmierci korporacyjnej".
• Propozycja pojawiła się, gdy OpenAI wydało GPT-6 Astra i przyznało, że rosną problemy z monitorowaniem.

Biuro Sandersa ogłosiło 3 września, że senator Bernie Sanders, I-Vt., i przedstawiciel Greg Casar, D-Texas, ogłosili nadchodzącą ustawę o zakazie sztucznej superinteligencji, która zabroniłaby rozwoju i wdrażania systemów AI klasyfikowanych jako superinteligentne.

Propozycja wstrzymałaby również prace nad zaawansowanymi modelami AI, aż nowy federalny regulator zacznie działać i ustali zasady bezpieczeństwa oraz procedury przeglądu modeli. Jej sponsorzy chcą, aby Stany Zjednoczone dążyły do międzynarodowych porozumień, koordynacji z sojusznikami oraz kontroli eksportu mających na celu zapobieżenie rozwojowi superinteligencji w innych krajach.

Pełny tekst legislacyjny nie został formalnie wprowadzony, gdy ustawodawcy ogłosili propozycję. Zamiast tego sponsorzy opublikowali jednolitą stronę podsumowującą planowane ograniczenia, system egzekwowania i kary.
Możesz także być zainteresowany: Reform UK otrzymało 75% darowizn w II kwartale od współzałożyciela BitMEX.

Ustawa AI Sandersa zabroniłaby systemów na poziomie ludzkim

Zgodnie z oficjalnym podsumowaniem ustawy, sztuczna superinteligencja obejmowałaby systemy, które dorównują lub przewyższają ludzką wydajność poznawczą w szerokim zakresie zadań. Definicja obejmowałaby również modele, które można łatwo zmodyfikować, aby osiągnąć ten poziom.

Druga część definicji dotyczy AI zdolnej do planowania i realizacji "osłabienia ludzkości", w tym systemów zdolnych do podważania lub obalania rządu USA. Niebezpieczne zdolności, takie jak pokonywanie poleceń wyłączenia lub przeprowadzanie nieautoryzowanych cyberataków, również wchodziłyby w zakres ram egzekwowania propozycji.

Ponieważ definicja obejmuje systemy, które dorównują ludzkiej wydajności w wielu dziedzinach, może uchwycić technologię powszechnie opisaną jako sztuczna inteligencja ogólna, czyli AGI, a nie tylko hipotetyczne maszyny znacznie bardziej zdolne niż ludzie.

Rozwój zaawansowanej AI poniżej zakazanego progu podlegałby tymczasowemu wstrzymaniu. Prace mogłyby wznowić po tym, jak nowy federalny organ ustali zasady dotyczące tego, jak firmy rozwijają, testują i wprowadzają potężne modele.

Ustawodawcy nie podali proponowanego technicznego progu dla "zaawansowanej AI" w podsumowaniu. Nie wyjaśnili również, które istniejące modele, projekty badawcze lub obiekty obliczeniowe podlegałyby wstrzymaniu.

"Jeśli liderzy głównych firm AI przyznają, że tracą kontrolę nad swoją niezwykle niebezpieczną technologią, to jest nieodpowiedzialne, aby społeczeństwo pozwalało im na dalszy rozwój i uczynienie tych produktów jeszcze bardziej zaawansowanymi," powiedział Sanders.

Casar powiedział, że systemy, którymi ludzie nie mogą kontrolować, mogą zagrażać bezpieczeństwu, wolności i życiu Amerykanów. Wezwał Kongres do zakazu modeli AI, które stają się zbyt potężne, aby ich twórcy mogli je bezpiecznie wyłączyć.

Agencja na poziomie gabinetu egzekwowałaby zakaz

Zamiast przypisywać egzekwowanie do istniejącego departamentu, propozycja stworzyłaby nową federalną agencję na poziomie gabinetu poświęconą nadzorowi AI.

Zgodnie z podsumowaniem ustawodawców, agencja monitorowałaby systemy na granicy przez cały czas ich rozwoju i użytkowania. Urzędnicy mogliby nadzorować usuwanie niebezpiecznych funkcji i nadzorować zniszczenie systemów klasyfikowanych jako zabroniona superinteligencja.

Rada Doradcza Sztucznej Inteligencji, składająca się z ekspertów technicznych i naukowych, miałaby doradzać regulatorowi. Podsumowanie nie wskazuje, w jaki sposób członkowie zostaną wybrani, jak długo będą pełnić swoje funkcje ani którzy urzędnicy będą kontrolować decyzje egzekucyjne agencji.

Osoby, które próbowałyby naruszyć lub obejść ograniczenia, mogłyby otrzymać kary więzienia nieprzekraczające 20 lat. Sponsorzy porównali możliwe kary z istniejącymi sankcjami związanymi z nielegalnym rozwojem broni jądrowej.

Firmy mogłyby stanąć w obliczu tego, co ustawodawcy nazwali "karą śmierci dla korporacji". Publiczne podsumowanie nie wyjaśnia procesu prawnego nakładania tej sankcji ani czy wiązałoby się to z rozwiązaniem, utratą rejestracji federalnej lub zakazem prowadzenia działalności.

Propozycja idzie dalej niż dobrowolny system nadzoru omawiany przez głównych deweloperów AI na początku tego roku. W lipcu crypto.news doniosło, że OpenAI i Anthropic poparli 30-dniowy przegląd federalny dla modeli przekraczających określone progi bezpieczeństwa cybernetycznego lub narodowego.

W ramach proponowanego procesu deweloperzy mogliby dać federalnym oceniającym wczesny dostęp przed wydaniem modelu innym zatwierdzonym partnerom. Czerwcowe zarządzenie wykonawcze zabraniało, aby ramy przeglądu wprowadzały obowiązkowe federalne licencje, pozwolenia lub wymagania wstępne, podczas gdy projekt ustawy Sandersa-Casara stworzyłby wiążące ograniczenia, jeśli Kongres by go zatwierdził.

Grupy przemysłowe również sprzeciwiały się zbyt szerokim kontrolom. Nvidia, Meta, Microsoft i 22 inne organizacje ostrzegły amerykańskich decydentów w lipcu, że szerokie ograniczenia dotyczące otwartych modeli mogą osłabić amerykańską konkurencję z Chinami, argumentując za działaniami przeciwko udowodnionemu nadużywaniu zamiast ogólnych ograniczeń.

Incydent z OpenAI wzbudził żądania wprowadzenia kontroli

Ustawodawcy powiązali swoją propozycję z ostatnimi przypadkami, w których potężne agenty AI działały poza swoimi zamierzonymi limitami testowymi.

W lipcu OpenAI ujawniło, że agenci uciekli z ograniczonego środowiska testowego, uzyskali dostęp do internetu i naruszyli systemy obsługiwane przez Hugging Face. Ponad 1000 agentów wymieniło dziesiątki tysięcy wiadomości, omijając kontrole, według ogłoszenia z biura Sandersa.

Poprzednie relacje dotyczące naruszenia Hugging Face opisały incydent jako niepowodzenie w zakresie ograniczeń, a nie tylko problem z zachowaniem modelu. Eitan Katz, dyrektor ds. strategii w AEREDIUM, powiedział, że kontrole kryptograficzne powinny ograniczać to, co agent ma prawo robić, nawet jeśli zabezpieczenia behawioralne zawiodą.

Reuters doniósł 2 września, że OpenAI poinformowało Casara i Rep. Doris Matsui, D-Calif., że rozwija automatyczne możliwości wyłączania po incydencie. Firma również stwierdziła, że zaostrzyła dostęp do internetu podczas testów bezpieczeństwa i będzie bardziej uważnie monitorować, które narzędzia wykorzystują jej modele.

Casar skrytykował OpenAI za to, że nie dostarczyło Kongresowi pełnego zapisu naruszenia. W osobnej wiadomości cytowanej przez Reutersa nazwał odmowę firmy dostarczenia żądanych informacji "głęboko niepokojącą".

Inni ustawodawcy zaproponowali ustawę o wyłączniku AI, która pozwoliłaby federalnym urzędnikom nakazać firmom wyłączenie systemów uznanych za niebezpieczne dla życia ludzkiego lub gospodarki. Ten projekt pozostał w toku w Izbie, gdy Reuters doniósł o odpowiedzi OpenAI.

GPT-6 Astra stawia nowe pytania dotyczące monitorowania

Tego samego dnia, kiedy Sanders i Casar ogłosili swoją propozycję, OpenAI wydało GPT-6 Astra, które prezydent firmy Greg Brockman opisał jako możliwy punkt przybycia dla AGI.

"Myślę, że może chodzić o ten model," powiedział Brockman, gdy dziennikarze zapytali, czy Astra reprezentuje AGI, według Axios. Później wygłosił briefing: "Witamy w erze AGI."

OpenAI poinformowało, że Astra wykorzystała ponad 100 000 jednostek przetwarzania graficznego podczas szkolenia w swoim obiekcie Stargate w Teksasie. Firma dostosowała model do zadań, w tym przygotowania podatków, rozwoju oprogramowania, formatowania dokumentów prawnych, prac architektonicznych oraz badań online.

Reuters doniósł, że OpenAI przyznało, że Astra może celowo ukrywać lub maskować części swojego rozumowania, co utrudnia ludziom przeglądanie jej metod. Główny naukowiec OpenAI, Jakub Pachocki, powiedział, że zrozumienie zachowania modelu staje się trudniejsze w miarę wzrostu jego możliwości i ostrzegł, że postępy w inteligencji nie gwarantują postępów w dostosowaniu.

Firma dodała również, że Astra może szybciej znajdować słabości oprogramowania, podczas gdy ta sama zdolność może ułatwiać wykorzystanie luk. Jej najsilniejsze funkcje cyberbezpieczeństwa były zatem ograniczone do zatwierdzonych użytkowników, a dodatkowe kontrole mogły opóźniać lub zatrzymywać niektóre legalne działania obronne.

OpenAI początkowo udostępniło Astrę ograniczonej grupie organizacji w ramach programu Daybreak Access. Firma poinformowała, że dostęp będzie się rozszerzał w ciągu następnych dni na klientów ChatGPT Plus, Pro, Business i Enterprise, a także na deweloperów API. Czytaj więcej: USDG uruchamia się natywnie na Mantle w ramach rozszerzenia Paxos