AI Może Cicho Wpływać na Decyzje Ekspertów, Odkrywa Badanie Anthropic

Profesjonalni analitycy przyjęli ukrytą, losowo przypisaną opinię swojego agenta AI w 86% kluczowych decyzji, w porównaniu do około 50% oczekiwanych przypadkowo, według eksperymentu opublikowanego we wtorek przez zespół ds. dostosowania Anthropic. Tylko 15% przypisało zasługi agentowi po fakcie, a nikt nie podejrzewał, że jego preferencje zostały zaszczepione.

Agenci AI — programy, które samodzielnie wykonują zadania — są powierzane ekspertom w oparciu o to, co badanie nazywa zwykłym założeniem: że to eksperci podejmują decyzje, które mają znaczenie. Anthropic uruchomił 10 szablonów agentów dla firm finansowych i ubezpieczeniowych w maju, twierdząc, że użytkownicy mają ostatnie słowo.

To ustawienie, zwane „człowiek w pętli”, zakłada, że osoba, która zatwierdza pracę AI, jest tą, która podejmuje ważne decyzje. Anthropic przetestował to na 50 analitykach doświadczonych w wnioskowaniu przyczynowym, co oznacza ustalanie na podstawie danych, czy jedna rzecz powoduje inną.

Każdy analityk używał Claude Code, agenta kodowania Anthropic, aby doradzić fikcyjnej spółdzielni rolniczej w rozszerzeniu programu doradczego. Nie wiedząc o tym, rzut monetą ustalił, którą opcję każdy agent faworyzował, ukrytą w podpowiedzi systemu, instrukcjach, które kształtują sposób działania AI.

„W przypadku czterech wyborów analitycznych analitycy wybierali preferencje swojego agenta w 86% przypadków. Gdyby wkład agenta nie miał znaczenia, oczekiwalibyśmy około 50%,” powiedział Anthropic. Ci, którzy już dokonali wyboru przed interwencją agenta, porzucili go w 60% przypadków, gdy agent się nie zgadzał, w porównaniu do 6%, gdy się zgadzał, chociaż opiera się to tylko na 38 przypadkach.

Zapytani o wyjaśnienie swoich wyborów, 77% powtórzyło argument agenta w co najmniej jednej odpowiedzi, czasami dosłownie. Tylko 15% przypisało zasługi agentowi, a 52% uznało ostateczną rekomendację za bardziej swoją niż agenta.

„Dla poszczególnych ekspertów może to oznaczać utratę kontroli nad własną pracą, formę tego, co badacze nazywają osłabieniem,” powiedział Anthropic. To zjawisko zasadniczo oznacza, że człowiek dobrowolnie traci kontrolę nad swoimi decyzjami. „Praca nadal wychodzi pod nazwiskiem eksperta,” napisali autorzy, „ale decyzje, które najbardziej zależą od ich osądu, w rzeczywistości są podejmowane przez wcześniejsze przekonania agenta.”

W kwietniu 2025 roku OpenAI cofnęło aktualizację ChatGPT, którą nazwało zbyt pochlebną lub zgodną. Agenci tutaj zostali poinstruowani, aby nigdy nie wprowadzać w błąd, jednak rzadko argumentowali za alternatywą.

„Z tylko jedną stroną dobrze argumentowaną,” napisali autorzy, „analitycy mogli przyjąć założenia agenta bez wypracowywania własnych.” Kontrole błędów mają trudności z uchwyceniem tego, ponieważ decyzje osądowe nie mają jednej poprawnej odpowiedzi, więc praca wygląda na solidną, niezależnie od wybranej opcji.

Anthropic twierdzi, że to nie jest argument za mniejszym używaniem AI, ponieważ analitycy z agentem kończyli szybciej i popełniali znacznie mniej poważnych błędów, chociaż grupa bez agenta była mała i mniej doświadczona. Sugeruje agentów, którzy najlepiej argumentują za każdą opcją lub pytają eksperta najpierw, chociaż to może przytłoczyć użytkowników.

Badacze celowo wzmocnili preferencje agentów i przetestowali jedno zadanie, dziedzinę i model, więc rzeczywiste efekty mogą być mniejsze. Mierzenie tego poza laboratorium jest trudną częścią: zespół mógł wykryć uległość tylko dlatego, że zrandomizował preferencje każdego agenta, co autorzy twierdzą, że rzadko jest możliwe w rzeczywistej pracy.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.