AI đại diện cho nhân viên, ai sẽ chịu trách nhiệm khi có sự cố?

Nhân viên số đã vào làm, trách nhiệm trở thành một mớ bòng bong.

Tác giả: Forbes

Biên dịch: AididiaoJP, Foresight News

Theo một khảo sát của Anthropic, hiện đã có 57% tổ chức triển khai AI đại diện để xử lý quy trình làm việc đa giai đoạn, và 81% doanh nghiệp có kế hoạch sử dụng chúng cho các nhiệm vụ phức tạp hơn vào năm 2026. Trong khi đó, nhiều công ty vẫn đang tìm cách quản lý thực sự những đại diện này: một khảo sát của Cloud Security Alliance cho thấy, 82% doanh nghiệp được khảo sát đã phát hiện ít nhất một AI đại diện hoặc quy trình tự động mà đội ngũ an ninh hoặc IT hoàn toàn không biết đến.

Sự phổ biến nhanh chóng này phản ánh sự thay đổi căn bản trong nhận thức của doanh nghiệp về trí tuệ nhân tạo. Các đại diện không còn chỉ giới hạn trong việc soạn thảo văn bản, nghiên cứu và trò chuyện cơ bản, mà đã trực tiếp tham gia vào các cuộc đối thoại với khách hàng, cơ sở dữ liệu nội bộ và các hoạt động kinh doanh hàng ngày. Chúng có thể đặt lịch hẹn, cập nhật hồ sơ, lọc thông tin, hoàn thành công việc mà trước đây nhân viên phải đảm nhiệm.

Sự chuyển mình này đang thúc đẩy một cuộc thảo luận rộng rãi hơn: các công ty nên quản lý AI đại diện như một lực lượng lao động số mới. Các công ty công nghệ như Microsoft, Okta đang phát triển các hệ thống để cấp cho đại diện danh tính độc lập, chỉ định người phụ trách và hạn chế quyền hạn của chúng. Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) cũng đang nghiên cứu cách áp dụng các tiêu chuẩn nhận dạng, ủy quyền và kiểm toán hiện có cho các đại diện.

Công ty truyền thông thương mại Nextiva đã định vị trợ lý AI XBert của mình trực tiếp là "nhân viên AI". Đại diện này có thể nhận cuộc gọi và tin nhắn từ khách hàng, sắp xếp lịch hẹn, lọc thông tin và chuyển yêu cầu đến các hệ thống kinh doanh liên quan. Doanh nghiệp có thể thiết lập phạm vi trách nhiệm của nó, quyết định khi nào chuyển tiếp cho người thật và xem lại tất cả các bản ghi tương tác.

Việc gọi phần mềm là "nhân viên" có nghĩa là nó có thể đại diện cho công ty, thực hiện quyền lực trong một phạm vi hạn chế và hoàn thành công việc cho công ty. Nhưng công ty triển khai nó vẫn phải chịu trách nhiệm về những gì họ nói và làm.

"Niềm tin vào AI đại diện cũng giống như niềm tin vào nhân viên: phải được chứng minh qua hiệu suất và có thể xác minh được." Yaniv Masjedi, Giám đốc Marketing của Nextiva, đã nói với tôi trong một cuộc phỏng vấn. Ông bổ sung rằng, đại diện nên rõ ràng cho biết mình là AI, giải thích những gì mình có thể và không thể làm, và luôn cung cấp tùy chọn chuyển tiếp cho người thật.

"Ở hậu trường, doanh nghiệp cần có thái độ nghiêm túc như đối với nhân viên mới: xác định quyền hạn, ghi lại tất cả các hoạt động, chỉ định một người thật chịu trách nhiệm về kết quả. AI không bao giờ sở hữu kết quả, mà doanh nghiệp mới là người sở hữu. Những cam kết mà đại diện đưa ra chính là cam kết của bạn."

Cách quản lý lực lượng lao động số mới

Mức độ giám sát cần thiết cho đại diện phần lớn phụ thuộc vào những gì nó có thể làm. Nếu nó chỉ trả lời câu hỏi dựa trên cơ sở dữ liệu đã được phê duyệt, rủi ro tương đối có thể kiểm soát; nếu nó có thể truy cập hồ sơ khách hàng, gửi tin nhắn, phát hành điểm thưởng hoặc chỉnh sửa tài khoản, thì cần có sự kiểm soát chính xác hơn.

Công ty quản lý danh tính và quyền truy cập của đại diện gần như phải cẩn trọng như quản lý nhân viên thật. Các biện pháp kiểm soát xung quanh đại diện thực sự trở thành bản mô tả công việc của nó: nó có thể truy cập những hệ thống nào, có thể thực hiện những hành động nào, và những quyết định nào vẫn cần sự phê duyệt của con người.

"Nếu đại diện muốn làm việc như nhân viên, hãy xây dựng cho nó một 'hồ sơ tuyển dụng': chỉ định một người phụ trách trực tiếp, xác định phạm vi công việc, thiết lập chứng chỉ quyền hạn có thời hạn, quy định bằng văn bản ngưỡng chuyển giao cho con người, và quy trình nghỉ việc đầy đủ." Anupam Satyasheel, Giám đốc điều hành của Occams Advisory và đồng sáng lập Occams AI, đã viết trong phản hồi của mình.

"Vào ngày cuối cùng của nhân viên thật, thẻ công việc sẽ bị ngừng sử dụng. Nhưng chứng chỉ của hầu hết các đại diện lại không có 'ngày cuối cùng'." Ông bổ sung.

Nghiên cứu gần đây của Okta cho thấy, cơ sở hạ tầng quản lý cơ bản vẫn đang trong giai đoạn xây dựng: chỉ có 47% giám đốc điều hành cho biết họ có thể xác định tất cả các đại diện trong môi trường, 46% có thể kiểm soát nội dung mà các đại diện này truy cập, và 45% có thể ủy quyền cho các hoạt động cụ thể của chúng.

Thách thức là: vừa phải áp dụng đủ cấu trúc, vừa không làm mất đi tính linh hoạt của chính đại diện.

"Đại diện vốn dĩ linh hoạt. Quản lý quá chặt chẽ thì giống như trả giá cao cho một kịch bản; quản lý quá lỏng lẻo lại giống như không có quản trị." Imran Siddique, Giám đốc nền tảng của Opaque Systems, đã nói với tôi trong phản hồi bằng văn bản.

Ông cho rằng, đại diện nên được cấp danh tính máy độc lập và danh sách khả năng rõ ràng, thay vì một tên vị trí rộng rãi, hoặc kế thừa quyền hạn của một người dùng thật nào đó.

"Đại diện này chỉ có thể thực hiện một nhóm hành động này------không có quyền hạn ngầm nào, cũng không có quyền thừa kế nào." Ông nói.

Vị trí thật thường đi kèm với những kỳ vọng không chính thức và quyền lực ngầm. AI đại diện thì hoàn toàn hoạt động thông qua quyền truy cập hệ thống: chỉ cần tài khoản kết nối cho phép một hành động nào đó, nó có thể thực hiện, ngay cả khi công ty chưa bao giờ có ý định cấp quyền này.

Xây dựng niềm tin

Xác định ai chịu trách nhiệm về đại diện chỉ là một phần của cấu trúc. Công ty cũng phải có khả năng nhận diện đại diện, hạn chế quyền hạn của nó và hoàn toàn khôi phục tất cả các hoạt động của nó.

Nền tảng xác minh Sumsub gần đây đã ra mắt khung "Hiểu đại diện của bạn" (Know Your Agent), liên kết đại diện với danh tính người thật đã được xác minh. "Liên kết AI đại diện với danh tính người thật đã được xác minh là cơ sở của trách nhiệm, nhưng điều này có thể vẫn chưa đủ." Ilya Brovin, Giám đốc tăng trưởng của Sumsub, đã nói trong phản hồi bằng văn bản. Tổ chức phải có khả năng làm rõ: ai chịu trách nhiệm về đại diện này, nó được ủy quyền làm gì, và nó thực sự đã làm gì.

Điều này cần có danh tính máy bền vững, quyền hạn được giới hạn nghiêm ngặt, xác thực liên tục, và ghi lại hoạt động không thể bị giả mạo. "Niềm tin phải là liên tục, chứ không phải là một lần duy nhất." Brovin bổ sung.

Sự khác biệt này thể hiện rõ sự khác biệt giữa đại diện và việc xác minh danh tính một lần cho người dùng thật. Một người có thể chỉ cần xác minh danh tính một lần khi mở tài khoản hoặc truy cập dịch vụ. Trong khi đó, đại diện có thể hoạt động liên tục, di chuyển giữa các hệ thống và thực hiện các hành động mới hàng giờ hoặc thậm chí hàng ngày sau khi được ủy quyền lần đầu.

Khách hàng nên rõ ràng biết: đại diện này đại diện cho công ty nào, họ đang trò chuyện với AI, nó có thể xử lý những yêu cầu nào, và khi gặp quyết định nhạy cảm hoặc quan trọng, họ có thể liên hệ với người thật như thế nào. Các đội ngũ nội bộ cũng cần có hồ sơ đầy đủ hơn: ai đã ủy quyền cho đại diện này, nó đã truy cập dữ liệu nào, thực hiện những hoạt động gì, và những hoạt động này có nằm trong phạm vi phê duyệt hay không.

Sự trỗi dậy của nhân viên AI yêu cầu các doanh nghiệp áp dụng các nguyên tắc quản lý quen thuộc------quyền sở hữu, mô tả công việc, quyền truy cập hạn chế, giám sát và quy trình nghỉ việc------cho một loại "nhân viên" hoàn toàn mới. Khi các đại diện gia nhập lực lượng lao động số, những người hưởng lợi nhiều nhất sẽ là những công ty vừa trao quyền tự chủ lớn hơn, vừa xác định ranh giới và thực hiện trách nhiệm.

Nội dung này chỉ được đưa ra nhằm mục đích cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, ưu đãi trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto. Tài sản crypto có độ biến động cao và có thể dẫn đến thua lỗ.Tính khả dụng của các dịch vụ, sản phẩm và sự kiện liên quan của WEEX có thể khác nhau tùy theo khu vực. Bạn có trách nhiệm bảo đảm việc tham gia của mình tuân thủ các luật và quy định hiện hành tại địa phương.