Analiza: Firmy Anthropic i OpenAI ujawniły kolejno luki w zabezpieczeniach, budząc obawy dotyczące bezpieczeństwa modeli sztucznej inteligencji

Według serwisu „The Information” zarówno firma Anthropic, jak i OpenAI doświadczyły incydentów związanych z bezpieczeństwem, co wzbudziło na rynku obawy dotyczące bezpieczeństwa samych modeli sztucznej inteligencji.

Obecnie firma Anthropic bada sprawę potencjalnego nieuprawnionego dostępu użytkowników do swojego modelu Claude Mythos. Niemal w tym samym czasie pojawiły się doniesienia, że firma OpenAI przypadkowo ujawniła kilka niepublikowanych modeli w swojej aplikacji Codex. Z opinii branżowych wynika, że te incydenty związane z lukami w zabezpieczeniach spowodowały wzmożoną kontrolę zdolności firm zajmujących się sztuczną inteligencją w zakresie zarządzania bezpieczeństwem oraz pokazują, że systemy zabezpieczeń obecnych technologii sztucznej inteligencji nadal wymagają udoskonalenia w miarę ich szybkiego rozwoju. Analitycy uważają, że nawet dostawcy modeli sztucznej inteligencji, którzy koncentrują się na rozwiązaniach z zakresu cyberbezpieczeństwa, sami borykają się z poważnymi wyzwaniami w tej dziedzinie. W miarę jak sztuczna inteligencja znajduje coraz szersze zastosowanie w ochronie przed cyberatakami, kwestie związane z bezpieczeństwem platform i kontrolą dostępu stały się również kluczowymi obszarami ryzyka.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.