Quyết định phân quyền: Giao nhiệm vụ cho agent, con người hay cả hai?

Câu hỏi ẩn sau mỗi agent

Ở Bài 2, bạn đã lập kế hoạch giám sát cho một agent mà mình đang sử dụng. Tuy nhiên, trước khi giao bất kỳ nhiệm vụ mới nào cho một agent, bạn cần đưa ra một quyết định quan trọng hơn: Liệu nhiệm vụ này có thực sự nên được giao cho agent hay không? Bài học này cung cấp cho bạn một phương pháp rõ ràng để đưa ra quyết định đó - giúp bạn không phải đoán mò, cũng như không rơi vào thái cực "tự động hóa mọi thứ" hay "không tin tưởng bất cứ điều gì".

Những người từng rút ra bài học đắt giá về vấn đề này đều đồng ý rằng: Thứ quý giá và khan hiếm không phải là AI, mà chính là khả năng xác định xem nên ủy quyền công việc nào. Nếu quyết định ủy quyền đúng đắn, công tác giám sát sẽ trở nên dễ dàng. Ngược lại, nếu quyết định sai, thì dù bạn có kiểm tra kỹ lưỡng đến đâu cũng không thể cứu vãn được tình hình.

Sau khi hoàn thành bài học này, bạn sẽ có thể:

• Xác định xem một nhiệm vụ nên thuộc nhóm "agent tự thực hiện", "agent phối hợp với con người", hay "con người trực tiếp thực hiện" thông qua ba câu hỏi cụ thể.
• Bắt đầu với mức độ tin tưởng thấp đối với mọi agent và để chúng dần dần xây dựng sự tin tưởng theo thời gian.

Ba câu hỏi mang tính quyết định

Đối với bất kỳ nhiệm vụ nào, hãy cân nhắc 3 yếu tố sau. Thực tế, bạn vẫn thường cân nhắc những điều này theo bản năng khi quyết định giao việc cho nhân viên cấp dưới - ở đây, chúng ta chỉ đơn giản là làm cho chúng trở nên rõ ràng hơn mà thôi.

1. Mức độ có thể đảo ngược là bao nhiêu? Nếu người thực hiện làm sai, liệu bạn có thể dễ dàng sửa lại không? Chẳng hạn, việc gắn lại nhãn cho một yêu cầu hỗ trợ (ticket) là thao tác hoàn toàn có thể đảo ngược. Ngược lại, việc gửi email cho khách hàng, chuyển tiền, xóa dữ liệu hay đăng tải thông tin công khai là những hành động rất khó hoặc không thể đảo ngược.
2. Mức độ rủi ro - hay "phạm vi ảnh hưởng" - lớn đến đâu? Nếu xảy ra sai sót, thiệt hại sẽ lan rộng đến mức nào? Một lỗi đánh máy trong ghi chú nội bộ thì không đáng kể. Nhưng nếu là một con số sai trong báo cáo gửi hội đồng quản trị, báo giá sai cho khách hàng, hay xóa nhầm cơ sở dữ liệu thì hậu quả sẽ vô cùng nghiêm trọng.
3. Kết quả có dễ kiểm tra không? Liệu một người có thể nhanh chóng xác định xem kết quả đó đã đúng hay chưa? Ví dụ, việc kiểm tra xem một yêu cầu đã được phân loại đúng hay chưa thì rất dễ dàng. Ngược lại, việc đánh giá xem một đề xuất chiến lược phức tạp có hợp lý hay không lại rất khó; đòi hỏi phải có sự suy xét và phán đoán thực sự.

Khi kết hợp ba yếu tố này lại, hầu hết các nhiệm vụ sẽ tự động được phân loại rõ ràng:

Sai lầm cần tránh: Đừng đưa ra quyết định dựa trên vẻ ngoài có vẻ năng lực của agent. Một agent cực kỳ thông minh thực hiện một nhiệm vụ quan trọng, không thể đảo ngược lại nguy hiểm hơn nhiều so với một agent tầm thường thực hiện một nhiệm vụ ít quan trọng và có thể đảo ngược. Mức độ rủi ro của nhiệm vụ mới là yếu tố quyết định cách thức giám sát, chứ không phải sự tinh vi hay vẻ ngoài chuyên nghiệp của agent đó.

Thang đo quyền tự chủ: Sự tin tưởng được xây dựng qua từng giai đoạn

Ngay cả khi một nhiệm vụ được giao cho agent, bạn cũng không nên trao toàn quyền kiểm soát ngay từ ngày đầu tiên. Thay vào đó, hãy thực hiện theo từng nấc. Nguyên tắc đơn giản này giúp ngăn chặn hầu hết các thảm họa - sự cố xóa sạch cơ sở dữ liệu chỉ trong 9 giây (mà bạn sẽ thấy ở Bài 6) đã xảy ra chính vì agent đó được trao quyền tự chủ tối đa ngay từ ngày đầu tiên.

Một agent mới bắt đầu ở nấc thấp nhất: Nó thực hiện quan sát và soạn thảo, trong khi con người đảm nhận khâu hành động. Khi đã chứng tỏ được độ tin cậy qua các công việc ít rủi ro, nó sẽ tiến lên nấc tiếp theo - thực hiện những tác vụ nhỏ với sự kiểm tra ngẫu nhiên - rồi tiến tới giai đoạn tự thực hiện nhưng vẫn cần con người phê duyệt đối với những thao tác không thể đảo ngược. Chỉ khi một agent đã được kiểm chứng và có sự giám sát chặt chẽ, nó mới đạt đến trạng thái "gần như tự chủ" - và ngay cả khi đó, nó vẫn không bao giờ được phép chạm vào các công việc có mức độ rủi ro cao.

Sai lầm mà các nhà quản lý thường mắc phải là nhảy thẳng lên nấc cao nhất chỉ vì bản demo (phiên bản thử nghiệm) trông có vẻ ấn tượng. Các bản demo thường thể hiện kịch bản lý tưởng nhất, trong khi công tác giám sát lại tập trung vào những tình huống xấu nhất.

Ví dụ thực tế

Giả sử bạn quản lý một đội ngũ tiếp thị và đang cân nhắc giao 3 nhiệm vụ cho một agent:

• Tổng hợp các chỉ số chiến dịch hàng tuần thành một bản tóm tắt. Đây là tác vụ có thể đảo ngược (chỉ là bản tóm tắt), rủi ro thấp (nội bộ) và dễ kiểm tra (các con số khớp với bảng điều khiển hoặc không). → Hãy giao cho agent thực hiện.
• Soạn thảo bản tin hàng tháng gửi khách hàng. Việc tự động hóa rất hữu ích, nhưng vì bản tin này được gửi đến hàng ngàn khách hàng và không thể thu hồi sau khi đã gửi đi, nên: → agent soạn thảo, con người phê duyệt trước khi gửi.
• Quyết định cắt giảm kênh tiếp thị nào đang hoạt động kém hiệu quả. Đây là quyết định có rủi ro cao, ảnh hưởng đến mối quan hệ với nhà cung cấp và đòi hỏi sự đánh giá dựa trên bối cảnh mà agent không thể nắm bắt được. → Con người trực tiếp thực hiện; agent chỉ hỗ trợ tập hợp dữ liệu.

Cùng một đội ngũ, cùng một năng lực của agent - nhưng áp dụng ba cấp độ giám sát khác nhau, dựa hoàn toàn vào các tiêu chí: khả năng đảo ngược, mức độ rủi ro và khả năng kiểm tra.

Thử ngay: Phân loại các nhiệm vụ trong nhóm của bạn

Hãy đóng vai trò là cố vấn ủy quyền cho AI agent của tôi. Tôi là một nhà quản lý không chuyên về kỹ thuật, đang cần quyết định xem nhiệm vụ nào trong nhóm nên giao cho AI agent, nhiệm vụ nào nên theo quy trình "AI soạn thảo / con người phê duyệt", và nhiệm vụ nào cần do con người trực tiếp đảm nhận. 

Nhóm của tôi và công việc của nhóm:
- Vai trò và nhóm của tôi: [ví dụ: "nhóm thành công khách hàng tại một công ty SaaS"]
- 5-8 nhiệm vụ định kỳ mà nhóm tôi thực hiện: [liệt kê rõ ràng]

Đối với MỖI nhiệm vụ, hãy thực hiện các bước sau:
1. Đánh giá dựa trên ba tiêu chí bằng ngôn ngữ thông thường: khả năng đảo ngược (dễ/khó hoàn tác), mức độ rủi ro (phạm vi ảnh hưởng nhỏ/lớn nếu xảy ra sai sót), và khả năng kiểm chứng (con người có dễ dàng xác minh kết quả hay không).
2. Phân loại vào MỘT trong ba nhóm: "agent tự thực hiện", "agent soạn thảo / con người phê duyệt", hoặc "Con người trực tiếp thực hiện".
3. Đưa ra lý do ngắn gọn (một dòng) mà một đồng nghiệp không chuyên về kỹ thuật cũng có thể hiểu được.

Sau đó:
- Đánh dấu bất kỳ nhiệm vụ nào mà tôi có thể muốn tự động hóa hoàn toàn nhưng thực tế không nên làm, kèm theo lý do giải thích tại sao.
- Đề xuất mức độ tự chủ khởi điểm (quan sát/soạn thảo; thực hiện kèm kiểm tra ngẫu nhiên; hoặc thực hiện kèm phê duyệt đối với các bước rủi ro) cho các nhiệm vụ nằm trong nhóm "agent tự thực hiện".

Không sử dụng code lập trình. Hãy giữ nội dung sát với thực tế công việc của nhóm tôi.

Hãy liệt kê các nhiệm vụ định kỳ thực tế của nhóm bạn - càng cụ thể, việc phân loại càng chính xác. Đừng vội đưa ra nhận định trước; hãy để ba câu hỏi trên quyết định vị trí của từng nhiệm vụ.

Mỗi nhiệm vụ sẽ được phân loại vào một trong ba nhóm kèm theo lý do cụ thể, cảnh báo về những nhiệm vụ rủi ro mà bạn có thể đang tự động hóa quá mức, cùng với mức độ tự chủ an toàn để bắt đầu áp dụng cho các nhiệm vụ do agent đảm nhận.

Tiếp theo, hãy so sánh với quy trình làm việc hiện tại của nhóm bạn. Nếu có bất kỳ nhiệm vụ nào đang được tự động hóa hoàn toàn nhưng lại rơi vào nhóm cần sự can thiệp của con người (nhóm màu cam hoặc đỏ), thì đó chính là ưu tiên hàng đầu để bạn bổ sung thêm bước kiểm tra - đây cũng chính là nội dung được đề cập trong Bài 4.

Nếu kết quả đánh giá quá thận trọng (nghĩa là "mọi thứ đều cần con người thực hiện"), hãy phản hồi lại rằng: "Tôi muốn sử dụng agent ở những nơi an toàn - chỉ đưa các nhiệm vụ vào nhóm 'con người trực tiếp thực hiện' nếu chúng thực sự có rủi ro cao VÀ khó hoàn tác". Nếu agent hành động quá quyết liệt, hãy nêu rõ nhiệm vụ khiến bạn lo ngại và yêu cầu nó xem xét lại phạm vi ảnh hưởng (mức độ rủi ro).

Những điểm chính cần ghi nhớ

• Việc ủy ​​quyền được quyết định bởi ba câu hỏi: Khả năng đảo ngược, mức độ rủi ro (phạm vi ảnh hưởng) và khả năng kiểm tra. Ba tiêu chí này có thể áp dụng cho hầu hết mọi nhiệm vụ.
• Nếu nhiệm vụ có thể đảo ngược, rủi ro thấp và dễ kiểm tra → đây là phạm vi phù hợp cho agent. Nếu nhiệm vụ có rủi ro cao và khó đảo ngược → con người cần trực tiếp đảm nhận.
• Nếu nhiệm vụ có rủi ro cao nhưng dễ kiểm tra → hãy áp dụng quy trình "agent soạn thảo, con người phê duyệt". Bạn không cần phải chọn giữa việc sử dụng agent hay đảm bảo an toàn.
• Hãy quyết định dựa trên rủi ro của nhiệm vụ, thay vì độ tinh nhạy hay năng lực của agent. Một agent có năng lực cao thực hiện một nhiệm vụ đầy rủi ro chính là sự kết hợp nguy hiểm.
• Hãy tiến dần trên thang mức độ tự chủ. Các agent bắt đầu từ vai trò quan sát và soạn thảo, sau đó dần dần đạt được sự độc lập qua từng giai đoạn. Việc bỏ qua các bước trung gian có thể dẫn đến những hậu quả tai hại.