Anthropic вводить «контекстний замок» для Claude, щоб запобігти дистиляції моделі

Anthropic впровадила «контекстний замок» для мислення Claude, що вимагає, щоб зашифроване мислення, згенероване через API, поверталося разом із системними підказками, інструментами та історичними повідомленнями на момент генерації. Якщо попередній вміст буде змінено, API видасть помилку або відкине це мислення. Ця зміна має на меті запобігти дистиляції моделі, оскільки дослідники виявили, що зашифроване мислення Claude може бути прочитане іншими моделями, а зловмисники можуть використовувати якісні міркування, щоб спонукати слабші моделі розкрити повний процес мислення. Anthropic вже здійснила один захист у червні, коли випустила Fable 5, обмеживши зашифроване мислення лише для прив'язки до певних моделей. Fable 5.1 додатково впровадила механізм «прив'язки до діалогу», що робить старі міркування недійсними при будь-яких змінах попередніх підказок, інструментів або чат-історії. Цей замок наразі не впроваджено повністю; з 31 серпня нові облікові записи API будуть зобов'язані дотримуватися цього правила, тоді як старі облікові записи поки що не підпадатимуть під його дію. Моделі Claude.ai, Claude Code, Cowork тощо не підпадають під цю категорію, і Anthropic заявила, що майбутні нові моделі за замовчуванням активують це правило.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.