Analiza: Firmy Anthropic i OpenAI ujawniły kolejno luki w zabezpieczeniach, budząc obawy dotyczące bezpieczeństwa modeli sztucznej inteligencji

Według serwisu „The Information” zarówno firma Anthropic, jak i OpenAI doświadczyły incydentów związanych z bezpieczeństwem, co wzbudziło na rynku obawy dotyczące bezpieczeństwa samych modeli sztucznej inteligencji.

Obecnie firma Anthropic bada sprawę potencjalnego nieuprawnionego dostępu użytkowników do swojego modelu Claude Mythos. Niemal w tym samym czasie pojawiły się doniesienia, że firma OpenAI przypadkowo ujawniła kilka niepublikowanych modeli w swojej aplikacji Codex. Z opinii branżowych wynika, że te incydenty związane z lukami w zabezpieczeniach spowodowały wzmożoną kontrolę zdolności firm zajmujących się sztuczną inteligencją w zakresie zarządzania bezpieczeństwem oraz pokazują, że systemy zabezpieczeń obecnych technologii sztucznej inteligencji nadal wymagają udoskonalenia w miarę ich szybkiego rozwoju. Analitycy uważają, że nawet dostawcy modeli sztucznej inteligencji, którzy koncentrują się na rozwiązaniach z zakresu cyberbezpieczeństwa, sami borykają się z poważnymi wyzwaniami w tej dziedzinie. W miarę jak sztuczna inteligencja znajduje coraz szersze zastosowanie w ochronie przed cyberatakami, kwestie związane z bezpieczeństwem platform i kontrolą dostępu stały się również kluczowymi obszarami ryzyka.