Anthropic odkrywa cechy myślenia świadomego w modelu Claude

7 lipca Anthropic opublikowało raport badawczy, w którym odkryto wewnętrzny "globalny obszar roboczy" w modelu Claude, znany jako J-space (przestrzeń Jacobiana). Obszar ten jest zbiorem wzorców aktywacji neuronów, które umożliwiają modelowi myślenie o koncepcjach bez ich wyrażania, podobnie jak w przypadku ludzkiego myślenia "świadomego". Badanie wykorzystało technologię Jacobiana do identyfikacji wzorców aktywacji neuronów w J-space, co pozwala na odczytanie niewyrażonych koncepcji modelu oraz modyfikację tych wzorców. Wyniki eksperymentu pokazują, że wyłączenie J-space osłabia zdolność modelu do wieloetapowego rozumowania, ale nie wpływa na jego podstawowe zadania i zdolność do przypominania faktów.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.