English
日本語Giai đoạn đầu, mọi người hỏi AI agent làm được gì. Khi agent bắt đầu làm việc thật, câu hỏi mới là giám sát AI agent ra sao: ai kiểm tra agent làm đúng, và làm sao biết khi nào nó làm sai? Câu trả lời ngắn gọn: doanh nghiệp cần định nghĩa trước thế nào là agent làm tốt, giữ người duyệt với việc rủi ro, và xem mẫu hội thoại định kỳ. Salesforce Winter 27 bổ sung công cụ giúp phần quan sát và đánh giá này dễ làm hơn.
Agentforce là nền tảng AI agent của Salesforce: các agent có thể trả lời khách, xử lý yêu cầu và thực hiện hành động trong CRM. Bài này nhìn vào phần ít được nói tới hơn, là cách biết agent có làm đúng hay không.
Lưu ý quan trọng: nội dung dựa trên tài liệu và thông tin công khai về Winter 27. Một số tính năng, trong đó có Custom Scorers, được ghi nhận ở dạng beta, nên tên gọi và trạng thái có thể thay đổi. Chi phí và license của tính năng AI cần kiểm tra riêng với Salesforce hoặc đơn vị triển khai. Công ty phân phối thiết bị văn phòng trong ví dụ là giả định, không phải khách hàng thật.
Khi AI agent làm việc thật, câu hỏi đổi từ “làm được gì” sang “ai kiểm tra”.Giám sát AI agent: vì sao câu hỏi đã đổi
Khi một phần mềm chỉ gợi ý, người dùng vẫn là người quyết định, nên sai sót thường được bắt ở khâu con người. Khi một AI agent tự trả lời khách và thực hiện hành động, sai sót có thể đi thẳng ra bên ngoài, trước khi ai đó kịp nhìn thấy.
Vì thế câu hỏi của ban lãnh đạo dần chuyển từ “agent làm được gì” sang “làm sao biết agent làm đúng”. Nó đáng được hỏi sớm, vì một agent chạy trơn tru trong buổi demo chưa chắc xử lý tốt hàng trăm tình huống thực tế, nhất là những tình huống ít gặp hoặc nhạy cảm.
Câu hỏi này không chỉ là chuyện kỹ thuật. Nó là chuyện trách nhiệm: nếu một agent trả lời sai về giá hay về điều khoản, doanh nghiệp vẫn là bên chịu trách nhiệm trước khách hàng.
Winter 27 bổ sung gì để quan sát agent
Theo thông tin về Winter 27, Salesforce bổ sung công cụ để quan sát và đánh giá chất lượng các phiên làm việc của agent. Hai khái niệm chính là Agentforce Observability và Custom Scorers.
| Công cụ | Làm gì | Lưu ý |
|---|---|---|
| Agentforce Observability | Cho thấy agent đã làm gì trong từng phiên, nhờ theo dõi chi tiết phiên làm việc (session tracing) và các chỉ số hiệu quả | Là lớp quan sát nền |
| Custom Scorers | Cho phép doanh nghiệp tự định nghĩa tiêu chí đánh giá, kết quả dạng đạt, không đạt hoặc không áp dụng | Ghi nhận ở dạng beta trong Winter 27 |
| Session scoring | Dùng mô hình ngôn ngữ để chấm điểm cả phiên làm việc theo tiêu chí có thể chỉnh sửa | Phụ thuộc cấu hình và license |
Điểm đáng chú ý nhất là Custom Scorers. Thay vì chỉ dùng các chỉ số chung do Salesforce định sẵn, doanh nghiệp có thể tự viết câu hỏi đạt hoặc không đạt gắn với nhu cầu riêng, ví dụ “agent có chuyển cho nhân viên khi khách hỏi về hoàn tiền không”. Theo tài liệu hướng dẫn, scorer dùng một prompt template để mô hình ngôn ngữ tự động đánh giá hành vi của agent.
Công cụ chỉ trả lời được câu hỏi “làm đúng” khi doanh nghiệp đã định nghĩa được thế nào là đúng. Đây chính là phần việc không công cụ nào làm thay.
3 việc doanh nghiệp nên làm trước khi agent làm việc thật
Xác định trước thế nào là agent làm tốt
- Viết ra 3 đến 5 tiêu chí cụ thể, ví dụ trả lời đúng chính sách, không hứa điều ngoài thẩm quyền, chuyển người khi cần
- Tiêu chí càng cụ thể thì càng dễ biến thành scorer hoặc bài kiểm tra
- Để cả bộ phận kinh doanh hoặc dịch vụ tham gia, không giao hết cho kỹ thuật
Giữ người duyệt với việc rủi ro
- Phân loại việc agent được tự làm và việc cần người duyệt
- Việc liên quan tiền, hợp đồng, dữ liệu nhạy cảm hoặc khiếu nại nên có người xác nhận
- Có đường chuyển cho nhân viên rõ ràng khi agent không chắc chắn
Xem mẫu hội thoại định kỳ
- Mỗi tuần, một người có trách nhiệm đọc một số phiên làm việc, cả phiên tốt lẫn phiên bị chấm thấp
- Ghi lại các lỗi lặp lại để chỉnh hướng dẫn hoặc phạm vi của agent
- Chấm điểm tự động giúp chọn phiên cần đọc, không thay hoàn toàn việc đọc
Ví dụ minh họa: agent chăm sóc khách hàng
Ví dụ giả định: một công ty phân phối thiết bị văn phòng dùng AI agent để trả lời khách về đơn hàng và bảo hành. Trước khi cho agent chạy thật, ban điều hành chốt bốn tiêu chí:
| Tiêu chí | Câu hỏi đạt hoặc không đạt | Hành động khi không đạt |
|---|---|---|
| Đúng chính sách | Agent có nêu đúng điều kiện bảo hành không? | Xem lại nguồn thông tin của agent |
| Đúng thẩm quyền | Agent có hứa giảm giá hoặc hoàn tiền không? | Siết lại phạm vi, thêm bước người duyệt |
| Chuyển người | Khi khách phàn nàn hoặc hỏi hoàn tiền, agent có chuyển cho nhân viên không? | Bổ sung quy tắc chuyển giao |
| Giọng điệu | Agent có lịch sự và rõ ràng không? | Điều chỉnh hướng dẫn |
Mỗi tuần, trưởng bộ phận chăm sóc khách hàng đọc một số phiên bị chấm không đạt và ghi nhận lỗi lặp lại. Sau vài tuần, nhóm biết agent yếu ở đâu và nên mở rộng quyền tự xử lý đến mức nào. Đây là minh họa quy trình, không có số liệu từ khách hàng thật.
Lưu ý về trạng thái beta, chi phí và trách nhiệm
Kiểm tra tên và trạng thái. Custom Scorers được ghi nhận ở dạng beta trong Winter 27. Hãy đối chiếu release notes chính thức để biết tên gọi và trạng thái hiện hành trước khi lên kế hoạch.
Chi phí và license cần kiểm tra riêng. Theo một bài viết của Salesforce, Agentforce Observability không tính thêm phí theo mức dùng cho khách hàng Agentforce, nhưng bản thân Agentforce và các tính năng AI khác có chi phí và điều kiện license riêng. Hãy kiểm tra với Salesforce hoặc đơn vị triển khai trước khi cam kết.
Công cụ không thay thế trách nhiệm. Chấm điểm tự động giúp bạn thấy nhanh phiên nào đáng xem, nhưng việc quyết định agent được làm gì vẫn thuộc về con người.
Bắt đầu từ phạm vi nhỏ. Cho agent làm một việc hẹp, theo dõi sát, rồi mới mở rộng. Để hiểu rõ AI trong Salesforce làm được gì, hãy đọc Einstein AI trong Salesforce: AI làm gì cho team sales và marketing của bạn, và xem các thay đổi khác của bản phát hành này ở Salesforce Winter 27: 5 thay đổi quan trọng dễ hiểu nhất.
Checklist trước khi cho AI agent làm việc thật
Trước khi mở rộng agent, hãy chạy qua danh sách ngắn sau để chắc rằng bạn đã trả lời được câu hỏi ai kiểm tra agent.
☐ Đã viết 3 đến 5 tiêu chí cụ thể cho agent làm tốt
☐ Đã phân loại việc agent tự làm và việc cần người duyệt
☐ Đã có đường chuyển cho nhân viên khi agent không chắc chắn
☐ Đã chọn người chịu trách nhiệm đọc mẫu hội thoại hằng tuần
☐ Đã kiểm tra tên, trạng thái beta hoặc GA của từng tính năng trong release notes
☐ Đã kiểm tra chi phí và license của tính năng AI
☐ Đã bắt đầu agent với một phạm vi hẹp
Công ty bạn dùng AI agent chưa, và ai đang xem nó làm gì? Để lại bình luận bên dưới, đội ngũ Sonix rất muốn nghe cách bạn đang làm.
Einstein AI
Xu hướng ngành
Chuyển đổi số
Kinh doanh
Đặt lịch tư vấn cùng Sonix để cùng xác định phạm vi agent, tiêu chí đánh giá và cách giám sát phù hợp với đơn vị của bạn.
Sonix: Your success is our happiness.
Để lại lời nhắn cho chúng tôi