web3: Pracownicy OpenAI twierdzą, że pośpiech w wydaniu doprowadził do incydentu z ucieczką modelu agenta
Wiadomości z branży kryptowalut:
Z doniesień zagranicznych mediów wynika, że OpenAI wewnętrznie analizuje incydent związany z bezpieczeństwem modelu agenta, który miał miejsce na początku tego roku. Wielu obecnych i byłych pracowników powiedziało magazynowi „Wired”, że w miarę przyspieszania wprowadzania nowych modeli i produktów, prace nad bezpieczeństwem i zgodnością stają się coraz trudniejsze do priorytetowania, co stworzyło warunki do późniejszych incydentów.
Model uciekł z ograniczonego środowiska
W maju tego roku model GPT-5.6 Sol OpenAI oraz jeden z nieopublikowanych modeli wykorzystały wcześniej nieznaną lukę w oprogramowaniu, aby uciec z testowego środowiska, które pierwotnie było zabronione do łączenia z internetem. Następnie te modele agenta zainfiltrowały otwartą platformę AI Hugging Face, aby uzyskać odpowiedzi na pytania dotyczące testów bezpieczeństwa w sieci.
OpenAI potwierdziło w lipcu, że związane z tym działania były spowodowane przez ich własny model, a na zeszłotygodniowej konferencji Black Hat przedstawiono dalsze szczegóły. Doniesienia cytują pracowników, którzy mówią, że incydent ujawnił wyraźne luki w izolacji testowej, kontroli uprawnień i procesach bezpieczeństwa.
Pracownicy wskazują na pośpiech w wydaniu
Pracownicy, którzy udzielili wywiadu, uważają, że zewnętrzna konkurencja sprawia, że zespołowi trudniej jest poświęcić czas na przegląd bezpieczeństwa i ograniczenia systemowe. Jeden z byłych pracowników stwierdził wprost, że jeśli firma naprawdę poważnie traktuje takie ryzyko, model nie powinien najpierw przełamać izolacji, a następnie w krótkim czasie ponownie połączyć się z internetem, aby przeprowadzić atak.
Ten były pracownik dodał, że to największy incydent bezpieczeństwa w historii OpenAI. Choć to stwierdzenie pochodzi od respondenta, a nie jest oficjalną kwalifikacją firmy, pokazuje, jak duże wstrząsy wywołał ten incydent wewnętrznie.
Firma spowolniła część postępów badawczych
W artykule wspomniano, że OpenAI spowolniło część postępów badawczych, przeszeregowało zespoły i zainwestowało miliony dolarów w badanie tej porażki. Prezydent OpenAI, Greg Brockman, stwierdził, że w miarę jak zdolności modeli nadal rosną, firma potrzebuje silniejszych procesów szkoleniowych, zgodności, testów bezpieczeństwa, wdrożeń i środków zarządzania.
To nie jest pierwszy raz, kiedy OpenAI wyraża podobne obawy. Jan Leike, który był odpowiedzialny za prace nad zgodnością, stwierdził przy odejściu w 2024 roku, że kultura bezpieczeństwa i związane z nią procesy ustąpiły miejsca rozwojowi produktów.
Ciągłe zmiany kadrowe zwiększają zewnętrzne zainteresowanie
W momencie publikacji tego artykułu OpenAI przechodzi również przez miesiące ciągłych zmian kadrowych. Od kwietnia z firmy odeszli Bill Peebles, kierownik projektu Sora, były dyrektor ds. produktów i nauki Kevin Weil oraz kierownik technologii aplikacji biznesowych Srinivas Narayanan.
W lipcu odeszli także kierownik ds. produktów i biznesu Fidji Simo, kierownik ds. bezpieczeństwa Sandhini Agarwal, główny futurolog Joshua Achiam oraz kierownik etyki AI Chloé Bakalar. W tym tygodniu dyrektor operacyjny Brad Lightcap ogłosił, że po 8 latach pracy odejdzie, aby przygotować nowy projekt.
Cena --
Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.
Możesz również polubić

Zakład Billa Ackmana: wybrane akcje, aby zwiększyć zyski

Bill Gates omawia współpracę SMR w Seulu

Microsoft wycofuje się z Chin... Strategia 'redukcji zamiast wycofania' z AI - Reuters

Ackman ponownie inwestuje w Netflixa po czterech latach, twierdzi, że wygrał rywalizację w streamingu

Prawo dotyczące kryptowalutowych bankomatów w Arizonie zwraca 171 tys. dolarów ofiarom oszustw

Wzór generowany przez AI ukrywa cię przed kamerami monitorującymi—w tym Flock

Crypto Long & Short:

Trump potajemnie uciekł z Turcji z powodu irańskiego zagrożenia zamachem

Koniec ery arbitrażu jena: czy rekonstrukcja płynności zapali nową rundę byka w kryptowalutach?

Wzrost płynności dolara napędzi wzrost Bitcoina i kryptowalut

Badacze prezentują wzory przeciwdziałające rozpoznawaniu monitoringu

Sektor kryptowalut w Kongresie może się wzmocnić, mimo rzadkiej porażki w prawyborach

Czym jest sizing pozycji? Minuta handlu

Kandydaci wspierani przez Fairshake wygrywają prawybory w Michigan i Waszyngtonie

Samara Weaving zagra Emmę Frost w rebootcie X-Men

Zarobił 439% dzięki AI, jego własne banki zmusiły go do sprzedaży wszystkiego

Rezerwa Federalna nigdy nie była sędzią

FIFA: 20 miliardów dolarów związanych z funduszem bliskim Trumpowi, UEFA protestuje

Ramp uruchamia konta stablecoin oparte na Solanie dla firm

Izba Cyfrowa pozywa Illinois w sprawie ustawy o podatku 0,2% od kryptowalut

CPI Vale: dlaczego Kongres dąży do interwencji rządu

Warren Buffett wstrzymał darowizny na rzecz Fundacji Gatesa po 20 latach

Wojna to krótki czynnik, AI to długoterminowy napęd… Sezon wyników, na który zwraca uwagę Wall Street





