OpenAI pyta Kongres, czy spowolnienie rozwoju AI byłoby legalne

OpenAI zapytało członków Kongresu, czy rywalizujące firmy AI mogłyby legalnie zgodzić się na spowolnienie rozwoju, podczas gdy ich główny naukowiec wzywa branżę do ustanowienia wspólnych standardów bezpieczeństwa.

Według WIRED, które cytuje osoby bliskie firmie, OpenAI zapytało prawodawców w ostatnich tygodniach, czy umowa między firmami AI o spowolnieniu rozwoju mogłaby naruszać przepisy antymonopolowe.

Kontakt z prawodawcami następuje po wezwaniu głównego naukowca OpenAI, Jakuba Pachockiego, do dobrowolnego spowolnienia, aż deweloperzy będą mogli lepiej wykazać, że ich systemy są bezpieczne. Jednak firmy są pod presją, aby kontynuować postęp, nawet gdy ich własni badacze mają obawy.

"Konkurencja komercyjna i geopolityczna w przestrzeni AI jest niezwykle intensywna, co prowadzi do niepokojącej dynamiki, w której firmy są zachęcane do wypuszczania produktów, zanim ich ryzyko zostanie w pełni zrozumiane," powiedziała Miranda Bogen, główny technolog w Centrum Demokracji i Technologii, w rozmowie z Decrypt.

"Nawet gdy wewnętrzny personel wie, że potrzebne są dalsze badania i testy, ich firmy są pod ogromną presją, aby iść na skróty i pomijać kluczowe testy bezpieczeństwa, mimo że dowody na konsekwencje zbyt szybkiego działania się kumulują," dodała.

Umowa o spowolnieniu rozwoju AI mogłaby budzić obawy antymonopolowe poprzez ograniczenie konkurencji. Senatorowie Adam Schiff i Jim Banks wprowadzili ustawodawstwo mające na celu ochronę niektórych współpracy w zakresie bezpieczeństwa, pod warunkiem wcześniejszego powiadomienia Departamentu Sprawiedliwości.

Debata na temat spowolnienia rozwoju AI odbywa się w kontekście rywalizacji Stanów Zjednoczonych i Chin o przywództwo w tej technologii. Prezydent USA Donald Trump opóźnił wydanie rozkazu wykonawczego dotyczącego AI w maju z obawami, że może to osłabić przewagę Ameryki nad Chinami. Trump później podpisał rozkaz w czerwcu, tworząc dobrowolny proces przeglądu zaawansowanych modeli przed ich wydaniem.

Bardziej bezpośrednie niż obawy o bezpieczeństwo narodowe, zachęty finansowe mogą utrudnić osiągnięcie porozumienia.

"Każdy postęp w obecnych warunkach przynosi wiele milionów lub miliardów więcej w finansowaniu i stawia twórców tego postępu w lepszej pozycji władzy i wpływu," powiedział Duncan Sabien, szef komunikacji w Instytucie Badań nad Inteligencją Maszynową, w rozmowie z Decrypt.

Nazwając dynamikę wyścigu zbrojeń rzeczywistą, Sabien powiedział, że OpenAI i Anthropic są pod presją, aby kontynuować postęp mimo niepewnych ryzyk, ponieważ każdy nowy system pomaga budować bardziej zdolnych następców, co pozwala rywalowi wyprzedzić, jeśli którakolwiek z firm spowolni bez wspólnego porozumienia.

"To szczególnie prawda, ponieważ zyski w inteligencji są kumulacyjne; każdy nowy system ułatwia szkolenie i wdrażanie następnego, bardziej zaawansowanego systemu," powiedział. "Bez jakiegoś mechanizmu koordynacji, cofnięcie się oznacza tylko, że druga strona zyskuje przewagę.

W sierpniu OpenAI wstrzymało wewnętrzną pracę nad Astra z powodu braku silniejszych zabezpieczeń w związku z obawami o cyberbezpieczeństwo. Jednak zarówno OpenAI, jak i Anthropic złagodziły swoje zobowiązania dotyczące bezpieczeństwa w lutym, przy czym główny oficer naukowy Anthropic, Jared Kaplan, argumentował, że spowolnienie rozwoju niezależnie ma mniej sensu, podczas gdy konkurenci nadal się rozwijają.

Główny naukowiec OpenAI ostrzega, że laboratoria AI mogą potrzebować spowolnienia.

Debata na temat spowolnienia rozwoju AI nasiliła się w tym tygodniu po tym, jak były inżynier Anthropic, Jacob Coxon, publicznie ogłosił swoją rezygnację, powołując się na obawy dotyczące ryzyk, jakie niesie ze sobą dalszy rozwój AI dla ludzkości.

"Ludzie budujący AI szczerze wierzą, że mogą nas wszystkich zabić do końca tej dekady," powiedział Coxon na X, dodając, że nie jest to "sztuczka marketingowa."

"Jeśli już, wielu dyrektorów i starszych badaczy będzie formułować swoje wypowiedzi w mediach, aby brzmiały rozsądnie - ale słyszę, jak ci sami ludzie wyrażają strach prywatnie. Żadne inne ludzkie działanie nie stwarza tego poziomu zagrożenia," napisał.

Jednak Sabien powiedział, że badacze mogą osiągnąć niewiele, jeśli odejdą, jeśli ktoś inny po prostu zajmie ich miejsce.

"Jeśli wystarczająco wielu z nich osiągnie wspólną wiedzę, że wszyscy powinni przestać, to mogą przełamać barierę koordynacji i zatrzymać się razem, zamiast być po prostu zastąpionymi przez następnego nieco mniej ostrożnego człowieka," powiedział.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.