Współzałożyciel Perplexity krytykuje narrację o bezpieczeństwie AI

Andy Konwinski, współzałożyciel Perplexity AI i Databricks, twierdzi, że dyskurs na temat bezpieczeństwa AI jest wykorzystywany do centralizacji władzy, a nie do zapobiegania szkodom. W niedawnym eseju podkreśla kontrowersyjną decyzję Anthropic dotyczącą modelu AI Claude Fable 5, który początkowo zawierał klauzulę degradującą odpowiedzi dla użytkowników podejrzewanych o szkolenie konkurencyjnych AI. Decyzja ta została szybko odwrócona po fali krytyki, ale Konwinski twierdzi, że zasadniczym problemem jest przyjęcie władzy decyzyjnej przez firmy takie jak Anthropic. Jego esej jest wynikiem spotkania, które zorganizował w Exploratorium w San Francisco, w którym uczestniczyło około 100 badaczy, gdzie omawiano obawy dotyczące koncentracji władzy w AI. Jennifer Chayes z UC Berkeley zauważyła, że badacze polegają na chińskich modelach z powodu braku zachodniego modelu otwartego frontu, krytykując komunikaty o bezpieczeństwie od OpenAI i Anthropic jako kampanię strachu. Konwinski opowiada się za wspólną przestrzenią badawczą, która umożliwia dostęp do obliczeń na skalę frontową bez ograniczeń korporacyjnych. W odpowiedzi Yann LeCun, były główny naukowiec w Meta, podzielił obawy Konwinskiego, porównując sytuację do historycznej cenzury przez Imperium Osmańskie. Przewiduje, że w miarę jak AI staje się podstawową infrastrukturą, nieuchronnie zostanie skomodyfikowane, a przyszła wartość będzie leżała w rozwoju aplikacji.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.