OpenAI i Anthropic wzywają do 30-dniowego przeglądu modeli AI na granicy możliwości

OpenAI i Anthropic współpracują w Waszyngtonie, aby ukształtować federalny system przeglądu zaawansowanych modeli AI, mimo że konkurują o klientów, finansowanie i przywództwo technologiczne.

Podsumowanie

• OpenAI i Anthropic wspierają do 30 dni dostępu federalnego przed wydaniem niektórych modeli na granicy możliwości.
• Proponowany proces miałby zastosowanie w całej branży, w tym wśród rywali takich jak Meta i xAI.
• Agencje federalne muszą opracować ramy do 1 sierpnia na mocy czerwowego rozkazu wykonawczego.
• Nvidia, Meta i Microsoft osobno ostrzegły przed ogólnymi kontrolami modeli AI o otwartych wagach.

OpenAI i Anthropic dążą do wspólnych standardów przeglądu

OpenAI i Anthropic wzywają administrację Trumpa do przyjęcia spójnego procesu przeglądu modeli AI z zaawansowanymi możliwościami w zakresie cyberbezpieczeństwa lub bezpieczeństwa narodowego, według The Information.

Ich współpraca następuje przed terminem 1 sierpnia, kiedy agencje federalne mają zdefiniować, które systemy powinny kwalifikować się jako "objęte modele na granicy możliwości". Modele te mogłyby być udostępniane rządowi do oceny na okres do 30 dni przed ich wydaniem innym zaufanym partnerom.

Obie firmy podobno chcą, aby standardy były stosowane w całej branży AI, a nie ograniczone do deweloperów już współpracujących z Waszyngtonem. To mogłoby objąć konkurencyjne firmy, w tym Meta i xAI Elona Muska, w ramach tego samego systemu przeglądu, jeśli ich modele przekroczą ostateczny próg możliwości.

Dyskusje te oznaczają rzadką zgodność polityczną między OpenAI a Anthropic. Obie firmy sprzedają ogólne systemy AI i konkurują o kontrakty dla przedsiębiorstw, badaczy, moc obliczeniową i inwestycje.

Żadna z firm publicznie nie ujawniała pełnych warunków, które chciałaby uwzględnić w ostatecznych ramach.

Rozkaz Trumpa ustanawia dobrowolny proces 30-dniowy

Prezydent Donald Trump nakazał agencjom federalnym ustanowienie klasyfikowanego procesu benchmarkowego na mocy Rozkazu Wykonawczego 14409 z 2 czerwca.

Rozkaz ten nakazuje Narodowej Agencji Bezpieczeństwa, Agencji Cyberbezpieczeństwa i Bezpieczeństwa Infrastruktury, Departamentowi Skarbu i innym organom federalnym określenie, kiedy model AI ma wystarczające możliwości, aby uzasadnić dodatkowy przegląd.

Deweloperzy uczestniczący w ramach mogliby zapytać rząd, czy model spełnia próg objętego modelu na granicy możliwości. Mogliby następnie udostępnić oceniającym federalnym dostęp na okres do 30 dni przed udostępnieniem systemu innym zatwierdzonym partnerom.

Rozkaz wymaga zabezpieczeń dla własności intelektualnej, informacji poufnych, cyberbezpieczeństwa i zagrożeń wewnętrznych podczas oceny.

Jednak wyraźnie stwierdza, że proces nie może stworzyć obowiązkowych federalnych zasad licencjonowania, wstępnej zgody ani zasad wydawania zezwoleń na rozwój lub wydawanie modeli AI. Firmy będą więc uczestniczyć dobrowolnie, chyba że zastosują się do odrębnych przepisów lub uprawnień rządowych.

Amerykańscy deweloperzy AI szukają jasności przed uruchomieniami

Wspólny system mógłby dać amerykańskim deweloperom jaśniejsze standardy dotyczące tego, kiedy oczekiwane są testy rządowe. Pozostają pytania dotyczące tego, które wskaźniki techniczne wywołają przegląd, które agencje będą testować każdy system i jak urzędnicy zatwierdzą partnerów wczesnego dostępu.

Te niepewności już wpłynęły na ostatnie uruchomienia. OpenAI i Anthropic udostępniły urzędnikom rządowym wczesny dostęp do zaawansowanych modeli przed szerszą dystrybucją, ale zewnętrzni badacze mieli ograniczoną widoczność w ocenach.

Raport z lipca wykazał, że agencje, testy i wymagania dotyczące zatwierdzenia zaangażowane w te przeglądy pozostają niejasne. Brak opublikowanego procesu może utrudnić planowanie wydania dla deweloperów i pozostawić mniejsze firmy AI niepewne, czy te same standardy mają do nich zastosowanie.

Zastosowanie jednego progu opartego na zdolnościach dla OpenAI, Anthropic, Meta, xAI i innych deweloperów mogłoby zmniejszyć część tej niepewności. Mogłoby to również ograniczyć obawy, że Waszyngton traktuje wybrane firmy w różny sposób.

Debata na temat otwartej sztucznej inteligencji dzieli branżę

Apel OpenAI i Anthropic o wspólny proces przeglądu pojawia się w momencie, gdy inne firmy technologiczne ostrzegają Waszyngton przed wprowadzaniem szerokich kontroli nad modelami otwartej sztucznej inteligencji.

Jak donosi crypto.news w zeszłym tygodniu, Nvidia, Meta i Microsoft dołączyli do 22 innych organizacji w otwartym liście, w którym argumentują, że szerokie ograniczenia mogą osłabić przywództwo USA w obliczu rosnącej konkurencji z Chinami. IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz i Fundacja Linuksa również podpisały ten list.

Grupa wezwała do ukierunkowanych działań prawnych i handlowych przeciwko nadużyciom zamiast ograniczeń obejmujących technologie o uzasadnionych zastosowaniach badawczych i biznesowych.

Modele otwarte pozwalają firmom, badaczom i rządom na pobieranie oprogramowania, modyfikowanie go i uruchamianie na własnej infrastrukturze. Zwolennicy twierdzą, że daje to użytkownikom większą kontrolę nad danymi, bezpieczeństwem i systemami obliczeniowymi, jednocześnie obniżając koszty wdrożenia.

Sygnatariusze nie przedstawili modeli otwartych i zamkniętych jako wzajemnie wykluczających się. Zamiast tego argumentowali, że oba podejścia są potrzebne, aby wspierać konkurencję i dawać deweloperom różne sposoby budowania i wdrażania systemów AI.

Dyrektor generalny Nvidii, Jensen Huang, podzielił się listem w swoim pierwszym poście na X i bronił roli obu modeli rozwoju.

"Świat potrzebuje zarówno zamkniętych modeli granicznych, jak i otwartych modeli granicznych."

Elon Musk również poparł list w odpowiedzi na Huanga, chociaż jego firma AI, xAI, nie była wymieniona wśród 25 zgłoszonych sygnatariuszy.

Obie inicjatywy dotyczą różnych aspektów debaty politycznej. OpenAI i Anthropic dążą do spójnych ocen federalnych dla modeli, które przekraczają próg zdolności bezpieczeństwa narodowego, podczas gdy otwarty list argumentuje przeciwko ograniczeniom opartym głównie na tym, czy model udostępnia swoje wagi.

Agencje federalne mają teraz czas do 1 sierpnia na zdefiniowanie progu modelu granicznego i nakreślenie dobrowolnego procesu przeglądu. Ostateczny framework pokaże, czy Waszyngton skupi się na mierzalnych zdolnościach, czy zastosuje szersze warunki w oparciu o to, jak modele AI są dystrybuowane.