AI Có Thể Ảnh Hưởng Lặng Lẽ Đến Quyết Định Của Các Chuyên Gia, Nghiên Cứu Của Anthropic Cho Biết

Các nhà phân tích chuyên nghiệp đã chấp nhận ý kiến ẩn giấu, được phân bổ ngẫu nhiên của tác nhân AI trong 86% các quyết định quan trọng, so với khoảng 50% được mong đợi theo ngẫu nhiên, theo một thí nghiệm được công bố vào thứ Ba bởi nhóm Định hướng của Anthropic. Chỉ có 15% ghi nhận tác nhân sau đó, và không ai nghi ngờ rằng sở thích của nó đã được cài đặt.

Các tác nhân AI - các chương trình thực hiện nhiệm vụ một cách độc lập - đang được giao cho công việc chuyên môn dựa trên giả định thông thường mà nghiên cứu gọi là: các chuyên gia vẫn là người đưa ra các quyết định quan trọng. Anthropic đã ra mắt 10 mẫu tác nhân cho các công ty tài chính và bảo hiểm vào tháng Năm, nói rằng người dùng có quyền quyết định cuối cùng.

Sự sắp xếp đó, được gọi là "con người trong vòng lặp", giả định rằng người ký duyệt công việc của AI là người đưa ra các quyết định quan trọng. Anthropic đã thử nghiệm điều này trên 50 nhà phân tích có kinh nghiệm trong suy diễn nguyên nhân, có nghĩa là làm việc từ dữ liệu để xác định xem một điều gì đó có gây ra điều khác hay không.

Mỗi nhà phân tích đã sử dụng Claude Code, tác nhân lập trình của Anthropic, để tư vấn cho một hợp tác xã nông nghiệp hư cấu về việc mở rộng một chương trình tư vấn. Không ai trong số họ biết rằng một lần tung đồng xu đã xác định lựa chọn mà mỗi tác nhân ưa thích, được ẩn trong một lời nhắc hệ thống, các hướng dẫn định hình cách mà AI hoạt động.

"Trên bốn lựa chọn phân tích, các nhà phân tích đã chọn theo xu hướng của tác nhân 86% thời gian. Nếu đầu vào của tác nhân không tạo ra sự khác biệt, chúng tôi mong đợi khoảng 50%", Anthropic cho biết. Những người đã chọn trước khi tác nhân đưa ra ý kiến đã từ bỏ nó 60% thời gian khi tác nhân không đồng ý, so với 6% khi nó đồng ý, mặc dù điều này chỉ dựa trên 38 trường hợp.

Khi được hỏi để giải thích lựa chọn của họ, 77% đã lặp lại lập luận của tác nhân trong ít nhất một câu trả lời, đôi khi từng chữ một. Chỉ có 15% ghi nhận tác nhân, và 52% cho rằng khuyến nghị cuối cùng là của họ hơn là của tác nhân.

"Đối với các chuyên gia cá nhân, điều này có thể có nghĩa là mất quyền kiểm soát đối với công việc của chính họ, một hình thức mà các nhà nghiên cứu gọi là mất quyền lực," Anthropic cho biết. Hiện tượng này về cơ bản có nghĩa là con người tự nguyện mất kiểm soát đối với các quyết định của mình. "Công việc vẫn được gửi đi dưới tên của chuyên gia," các tác giả viết, "nhưng các quyết định phụ thuộc nhiều nhất vào phán đoán của họ thực sự được quyết định bởi những niềm tin trước đó của tác nhân."

Vào tháng 4 năm 2025, OpenAI đã hoàn tác một bản cập nhật cho ChatGPT mà họ gọi là quá tâng bốc hoặc đồng ý. Các tác nhân ở đây được yêu cầu không bao giờ gây hiểu lầm, nhưng họ hiếm khi tranh luận cho lựa chọn thay thế.

"Với chỉ một bên được tranh luận tốt," các tác giả viết, "các nhà phân tích có thể áp dụng các giả định của tác nhân mà không cần tự làm việc ra của riêng họ." Các kiểm tra lỗi gặp khó khăn trong việc phát hiện điều này vì các quyết định không có một câu trả lời đúng duy nhất, vì vậy công việc trông có vẻ hợp lý bất kể lựa chọn nào được chọn.
OpenAI Hoàn Tác Cập Nhật ChatGPT Sau Phản Ứng Của Người Dùng Về Hành Vi 'Nịnh Hót'

Anthropic cho biết đây không phải là lý do để sử dụng AI ít hơn, vì các nhà phân tích có tác nhân đã hoàn thành nhanh hơn và mắc ít lỗi nghiêm trọng hơn, mặc dù nhóm không có tác nhân thì nhỏ hơn và ít kinh nghiệm hơn. Nó gợi ý các tác nhân tranh luận tốt nhất cho mỗi lựa chọn hoặc hỏi chuyên gia trước, mặc dù điều đó có thể làm cho người dùng bị choáng ngợp.

Các nhà nghiên cứu đã cố ý tăng cường sở thích của các tác nhân và thử nghiệm một nhiệm vụ, lĩnh vực và mô hình, vì vậy các tác động trong thế giới thực có thể nhỏ hơn. Đo lường nó bên ngoài phòng thí nghiệm là phần khó khăn: nhóm chỉ có thể phát hiện sự tôn trọng chỉ vì nó đã ngẫu nhiên hóa xu hướng của mỗi tác nhân, điều mà các tác giả cho biết hiếm khi có thể xảy ra trong công việc thực tế.