1. 17:06 12/08/2026
Khi một mô hình AI được dùng để phân loại yêu cầu, trích xuất thông tin hoặc đề xuất hành động, câu hỏi quan trọng không chỉ là mô hình đúng bao nhiêu phần trăm. Vấn đề lớn hơn là: khi mô hình không chắc chắn hoặc gặp tình huống bất thường, hệ thống sẽ làm gì?
Human-in-the-loop là cách thiết kế trong đó con người tham gia ở những bước có rủi ro cao, thay vì để mô hình tự động xử lý mọi trường hợp. Đây không phải dấu hiệu của một hệ thống kém tự động hóa. Ngược lại, đây là cơ chế giúp tự động hóa có kiểm soát và dễ mở rộng hơn.
1. Xác định trường hợp cần con người can thiệp
Không nên đưa toàn bộ kết quả của mô hình vào hàng chờ kiểm duyệt. Hãy xây dựng các quy tắc rõ ràng, chẳng hạn:
- Điểm tin cậy thấp hoặc nhiều mô hình cho kết quả mâu thuẫn.
- Văn bản chứa thông tin nhạy cảm, yêu cầu pháp lý hoặc khiếu nại nghiêm trọng.
- Giá trị trích xuất không đúng định dạng, thiếu trường bắt buộc hoặc vượt giới hạn hợp lý.
- Tác vụ có thể gây hậu quả lớn nếu thực hiện nhầm, như hoàn tiền, khóa tài khoản hoặc gửi thông báo chính thức.
Điểm tin cậy chỉ nên là một tín hiệu, không phải tiêu chuẩn duy nhất. Một mô hình có thể tự tin nhưng vẫn sai khi gặp dữ liệu ngoài phân phối.
2. Thiết kế hàng chờ kiểm duyệt có ngữ cảnh
Người kiểm duyệt cần thấy đầu vào gốc, kết quả mô hình, lý do hệ thống chuyển ca và những dữ liệu liên quan. Nếu chỉ hiển thị một nhãn như cần xem lại, họ sẽ phải tự tìm hiểu từ đầu, làm tăng thời gian xử lý và khả năng đánh giá không nhất quán.
Giao diện nên hỗ trợ các lựa chọn như chấp nhận, sửa kết quả, từ chối, chuyển cấp cao hơn và đánh dấu lý do. Mỗi lựa chọn cần được lưu thành dữ liệu có cấu trúc để dùng cho đánh giá và cải thiện mô hình sau này.
3. Phân loại theo mức độ rủi ro
Một hàng chờ duy nhất thường không phù hợp. Có thể chia thành các luồng: xử lý nhanh cho lỗi định dạng đơn giản, kiểm duyệt chuyên môn cho nội dung nghiệp vụ và chuyển cấp cho trường hợp nhạy cảm. Quy tắc phân luồng nên được viết rõ, có người chịu trách nhiệm và có thời hạn xử lý.
Ví dụ, trong hệ thống đọc hóa đơn, mô hình có thể tự động xử lý hóa đơn có đầy đủ trường và tổng tiền hợp lệ. Nếu mã số thuế thiếu, tổng tiền không khớp hoặc nhà cung cấp chưa từng xuất hiện, hồ sơ sẽ được chuyển cho nhân viên kiểm tra.
4. Biến phản hồi của con người thành dữ liệu có chất lượng
Không phải mọi chỉnh sửa đều nên đưa thẳng vào tập huấn luyện. Cần kiểm tra nhãn, loại bỏ dữ liệu trùng lặp, ghi nhận người duyệt và theo dõi các trường hợp có nhiều người đưa ra kết quả khác nhau. Những bất đồng này thường cho thấy hướng dẫn nghiệp vụ chưa rõ hoặc bài toán cần được tách nhỏ hơn.
Nên đánh giá riêng tỷ lệ chuyển sang người, thời gian xử lý, tỷ lệ người sửa kết quả và nhóm lỗi thường gặp. Mục tiêu không phải luôn giảm số ca kiểm duyệt, mà là đưa đúng ca khó đến đúng người và giảm rủi ro ở các quyết định quan trọng.
5. Triển khai từng bước
Hãy bắt đầu bằng chế độ mô hình chỉ đề xuất, để con người vẫn quyết định cuối cùng. Sau khi có đủ dữ liệu về lỗi và quy trình, mới tự động hóa các nhóm trường hợp ổn định. Luôn duy trì khả năng tắt tự động hóa, quay về quy trình thủ công và kiểm tra lại các thay đổi trước khi mở rộng.
Một hệ thống AI đáng tin cậy không nhất thiết phải loại bỏ con người. Nó cần phân công đúng việc: mô hình xử lý phần lặp lại và nhanh, còn con người tập trung vào ngoại lệ, bối cảnh và những quyết định cần phán đoán.