Anthropic zapobiega wielu próbom badań nad bronią biologiczną

Anthropic poinformował, że w tym roku zablokował wiele prób naukowców wykorzystujących jego technologię do potencjalnego wspierania badań nad bronią biologiczną. Firma wymieniła pięć przypadków, w których odpowiednie osoby omijały środki kontrolne i zaciemniały cele badań, aby uniknąć zabezpieczeń. Anthropic ma nadzieję, że dzieląc się tymi przypadkami, wywoła dyskusję w branży AI oraz wśród rządów na temat nowych ryzyk biologicznych i sposobów ich przeciwdziałania. Przykłady obejmują badacza z regionu nieobjętego wsparciem, który używał Claude'a do planowania eksperymentów związanych z wirusem ptasiej grypy. Anthropic stwierdził, że mechanizm filtracji bezpieczeństwa ograniczył te badania do najsłabszego modelu i podkreślił, że nie można stwierdzić, czy naukowiec miał zamiar wyrządzić krzywdę; informacje potrzebne do opracowania broni biologicznej mogą być również użyte do opracowania szczepionek. Firma zablokowała konta związane z wymienionymi przypadkami, ale nie ujawniono, do jakiej instytucji należał badacz ani w jakim kraju miały miejsce te wydarzenia.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.