Trong học máy, nhiều dự án chạy rất tốt trong notebook nhưng lại gặp vấn đề khi đưa vào môi trường thật: phản hồi chậm, kết quả không ổn định, khó theo dõi lỗi hoặc tốn chi phí ngoài dự kiến. Bài viết này chia sẻ một số kinh nghiệm thực tế để biến mô hình Machine Learning hoặc ứng dụng dùng mô hình ngôn ngữ lớn thành một hệ thống có thể vận hành được. 1. Đừng chỉ lưu mô hình, hãy lưu cả quy trình xử lý dữ liệu Một lỗi phổ biến là chỉ lưu file model, trong khi các bước tiền xử lý dữ liệu nằm rải rác trong notebook. Ví dụ: khi huấn luyện mô hình phân loại phản hồi khách hàng, bạn có thể đã chuẩn hóa chữ thường, loại bỏ ký tự đặc biệt, ánh xạ nhãn và tạo đặc trưng theo một cách nhất định. Nếu lúc triển khai API không làm đúng các bước đó, kết quả dự đoán sẽ lệch dù model không đổi. Lời khuyên thực tế: - Đóng gói preprocessing và model trong cùng một pipeline nếu có thể. - Version hóa cả mã xử lý dữ liệu, không chỉ version hóa trọng số mô hình. - Viết test nhỏ: cùng một input mẫu phải cho cùng output ở notebook và ở API. 2. Thiết kế đầu vào và đầu ra rõ ràng Một mô hình tốt vẫn có thể khó dùng nếu API trả về kết quả mơ hồ. Thay vì chỉ trả về “positive” hoặc “negative”, hãy cân nhắc trả thêm xác suất, mã lỗi, thời gian xử lý và phiên bản mô hình. Ví dụ response hữu ích hơn: - label: “complaint” - confidence: 0.82 - model_version: “ticket-classifier-v3” - warning: “input_too_short” nếu nội dung quá ít Điều này giúp đội backend, sản phẩm và vận hành dễ hiểu chuyện gì đang xảy ra khi có lỗi. 3. Theo dõi dữ liệu đầu vào sau khi triển khai Mô hình thường suy giảm chất lượng không phải vì code bị hỏng, mà vì dữ liệu thực tế thay đổi. Chẳng hạn, mô hình phân loại ticket được huấn luyện trên dữ liệu tiếng Việt có dấu, nhưng người dùng thực tế lại nhập không dấu, viết tắt hoặc trộn tiếng Anh. Khi đó độ chính xác có thể giảm đáng kể. Bạn nên theo dõi: - Tỷ lệ input rỗng, quá ngắn hoặc quá dài. - Phân bố nhãn dự đoán theo thời gian. - Các trường hợp confidence thấp. - Những mẫu người dùng khiếu nại hoặc nhân sự phải sửa thủ công. Không nhất thiết phải xây hệ thống phức tạp ngay từ đầu. Một bảng log có cấu trúc tốt cũng đã giúp phát hiện nhiều vấn đề. 4. Với LLM, cần kiểm soát prompt và chi phí Khi dùng mô hình ngôn ngữ lớn, nhiều nhóm chỉ thử prompt thủ công rồi đưa thẳng vào sản phẩm. Cách này rủi ro vì chỉ cần thay đổi nhỏ trong prompt, dữ liệu đầu vào hoặc phiên bản mô hình là kết quả có thể khác. Một số thực hành nên áp dụng: - Lưu prompt theo phiên bản, giống như lưu code. - Tạo bộ câu hỏi kiểm thử gồm các trường hợp bình thường, khó, nhập sai định dạng và có nội dung gây nhiễu. - Giới hạn độ dài đầu vào và đầu ra để tránh phát sinh chi phí không kiểm soát. - Nếu yêu cầu định dạng JSON, hãy kiểm tra JSON sau khi mô hình trả lời, không nên tin tuyệt đối. 5. Luôn có phương án fallback Không phải lúc nào mô hình cũng nên là nguồn quyết định cuối cùng. Với các tác vụ nhạy cảm như duyệt nội dung, tư vấn tài chính, y tế hoặc xử lý khiếu nại quan trọng, cần có cơ chế chuyển sang con người hoặc luật nghiệp vụ rõ ràng. Ví dụ: - Nếu confidence dưới 0.6, chuyển ticket cho nhân viên kiểm tra. - Nếu LLM trả về sai định dạng, thử gọi lại một lần với prompt sửa lỗi; nếu vẫn sai thì dùng câu trả lời mặc định. - Nếu dịch vụ mô hình bị lỗi, hệ thống vẫn nên trả thông báo thân thiện thay vì treo toàn bộ luồng người dùng. 6. Đánh giá bằng dữ liệu gần với thực tế Một bộ test đẹp trong giai đoạn phát triển chưa chắc phản ánh môi trường thật. Hãy dành thời gian thu thập các mẫu đại diện: câu ngắn, câu sai chính tả, dữ liệu thiếu trường, nội dung mơ hồ, yêu cầu ngoài phạm vi. Đặc biệt với tiếng Việt, nên kiểm thử cả có dấu, không dấu, viết tắt, teencode và câu trộn ngôn ngữ nếu sản phẩm của bạn thường gặp các dạng này. Kết luận Triển khai AI không chỉ là chọn mô hình có chỉ số tốt nhất. Một sản phẩm AI đáng tin cậy cần pipeline nhất quán, API rõ ràng, logging đầy đủ, kiểm thử định kỳ và cơ chế fallback. Nếu mới bắt đầu, hãy ưu tiên làm tốt ba việc: đóng gói preprocessing cùng model, lưu log dự đoán có cấu trúc, và xây một bộ test nhỏ nhưng sát thực tế. Những bước này đơn giản nhưng giúp giảm rất nhiều rủi ro khi đưa Machine Learning hoặc LLM vào ứng dụng thật.