OpenAI wstrzymuje wewnętrzne prace nad modelem Astra i wzmacnia kontrolę bezpieczeństwa

OpenAI nie wyklucza, że autonomiczne zdolności cyberataków nowego modelu Astra osiągnęły najwyższy poziom ryzyka, w związku z czym wstrzymało część prac wewnętrznych i wzmocniło kontrolę bezpieczeństwa. W ogłoszeniu z 7. dnia miesiąca OpenAI poinformowało, że Astra wykazała znaczące postępy w obszarze kodowania agentowego i cyberbezpieczeństwa. Na chwilę obecną nie można wykluczyć poziomu krytycznego. Krytyczny oznacza najwyższy poziom ryzyka w dziedzinie cyberbezpieczeństwa, co oznacza, że model jest w stanie znaleźć luki zero-day i przekształcić je w kod ataku bez interwencji człowieka. OpenAI tymczasowo wstrzymało prace, które nie spełniają nowych standardów bezpieczeństwa związanych z Astra, a wzmocnione środki obejmują izolowane środowisko testowe, ograniczony dostęp do sieci oraz ochronę wag modelu. W procesie uczenia i oceny Astra wprowadzono uniwersalne monitorowanie, które na bieżąco śledzi ryzykowne zachowania. Działania te zostały podjęte po incydencie bezpieczeństwa w Hugging Face w zeszłym miesiącu. OpenAI planuje, aby zdolności Astra zostały przetestowane przez odpowiednie agencje rządowe oraz niektóre organizacje zajmujące się bezpieczeństwem AI.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.