模型微调后 Qwen 自称 Claude 比例升至 40.3%

研究者 Ziqian Zhong 让 Claude、GPT-4o 等模型回答 1000 个普通问题，随后删除模型名和公司名，用这些问答材料微调 Qwen、DeepSeek 等开源模型。训练后，Qwen3.5-397B-A17B 原本只有 0.6% 的回答自称 Claude，经过微调后这一比例升至 40.3%。Ziqian Zhong 解释称，这些模型在预训练时接触过大量 Claude 的对话，形成了与「Claude」的表达习惯关联。为验证这一点，他用 GPT-4.1-mini 将 Claude 的回答改为简单句，结果发现经过微调后，3 个模型中有 2 个几乎不再自称 Claude，表明语言风格是身份转移的主要原因。类似现象在 2025 年的《Subliminal Learning》研究中也有提及，模型会继承训练数据中的偏好和行为。因此，模型自称 Claude 并不直接证明其接受过 Claude 蒸馏，可能只是学会了 Claude 的表达方式。

本内容仅供参考，不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息，不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性，存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。