Bối cảnh Một công ty SaaS quy mô vừa có team Operations 5 người chịu trách nhiệm theo dõi chi phí hạ tầng cloud,license phần mềm và chi phí vận hành hàng ngày. Trước đây, việc thu thập dữ liệu từ AWS Cost Explorer, Google Cloud Billing, các hợp đồng SaaS và bảng tính Excel mất 8‑10 giờ mỗi tuần. Thách thức - Dữ liệu phân mảnh trên nhiều nền tảng. - Phân tích xu hướng chi phí thủ công dễ bỏ sót mục nhỏ nhưng tích lũy lớn. - Khó khăn trong việc đưa ra khuyến nghị cắt giảm kịp thời cho leadership. Giải pháp AI Team triển khai một pipeline tự động hóa gồm 3 bước: 1. Kết nối API: Sử dụng Python script kết nối AWS Cost Explorer, GCP Billing API, và các endpoint SaaS (Slack, Notion, Jira) để kéo dữ liệu chi phí hàng ngày. 2. Mô hình dự báo & phát hiện bất thường: Fine‑tune một mô hình time‑series (Prophet) trên dữ liệu 12 tháng gần nhất. Mô hình dự báo chi phí 4 tuần tới và gắn cờ các mục tăng >15% so với trung bình 4 tuần trước. 3. Tạo báo cáo tự động: LLM (GPT‑4o) nhận đầu vào là kết quả dự báo + danh sách bất thường, xuất ra báo cáo tiếng Việt có cấu trúc: tóm tắt, top 5 mục cần review, gợi ý hành động (right‑sizing, reserved instance, hủy license không dùng). Báo cáo được đẩy vào Notion và gửi Slack mỗi thứ Hai sáng. Quy trình triển khai (2 tuần) - Tuần 1: Xây dựng connector, kiểm tra độ chính xác dữ liệu (so sánh với báo cáo thủ công). - Tuần 2: Huấn luyện mô hình, prompt‑engineering cho LLM, thiết lập CI/CD GitHub Actions chạy hàng ngày. Kết quả thực tế (sau 1 tháng) - Thời gian thu thập & phân tích giảm từ 9h/tuần xuống 1h/tuần (giảm 89%). - Phát hiện 3 mục chi phí ẩn: 2 instance EC2 over‑provisioned, 1 subscription SaaS không dùng, tiết kiệm ~12% chi phí cloud hàng tháng. - Leadership nhận báo cáo định kỳ, quyết định nhanh hơn, giảm thời gian chờ duyệt tối ưu từ 2 tuần xuống 3 ngày. Lời khuyên áp dụng - Bắt đầu từ một nguồn dữ liệu duy nhất (ví dụ AWS) để kiểm chứng pipeline trước khi mở rộng. - Dùng prompt template cố định cho LLM để đảm bảo định dạng báo cáo ổn định. - Thiết lập alert Slack khi mô hình gắn cờ bất thường, tránh bỏ sót. - Đánh giá mô hình hàng quý, retrain khi có thay đổi lớn về kiến trúc hạ tầng. - Giữ nhân viên Operations trong vòng lặp: họ review gợi ý AI trước khi triển khai, tránh rủi ro tự động hóa sai lệch.