Hai năm sau cú nổ của ChatGPT, câu hỏi của các CIO Việt Nam đã thay đổi căn bản. Năm 2024, họ hỏi "GenAI là gì và liệu có phải bong bóng?". Năm 2025, họ hỏi "chúng ta có nên thử PoC không?". Đến 2026, câu hỏi là "làm sao để GenAI tạo ra giá trị đo đếm được trên P&L?".
Trong quý I/2026, Nocalab thực hiện khảo sát chuyên sâu với 120 doanh nghiệp thuộc 8 ngành — tài chính ngân hàng, bảo hiểm, bán lẻ, sản xuất, logistics, y tế, giáo dục và dịch vụ công. Kết quả cho thấy 63% đã có ít nhất một use-case GenAI vận hành chính thức (in production), tăng gấp 3 lần so với cùng kỳ 2025. Nhưng quan trọng hơn con số đó là chất lượng của các triển khai: lần đầu tiên, đa số dự án có chỉ số ROI rõ ràng và được đo lường liên tục.
Bức tranh tổng quan: Ai đang dẫn đầu?
Ba ngành đi nhanh nhất là ngân hàng (87% có use-case production), bảo hiểm (74%) và bán lẻ (69%). Điểm chung của họ: dữ liệu giao dịch nhiều, tương tác khách hàng cao, và áp lực cạnh tranh khốc liệt. Đáng chú ý, sản xuất từ vị trí cuối bảng năm 2024 đã vươn lên top 4 nhờ làn sóng "AI cho vận hành nhà máy" — đặc biệt ở các FDI Hàn Quốc và Nhật Bản.
Ngược lại, y tế và giáo dục công vẫn chậm do vướng mắc về hành lang pháp lý liên quan đến dữ liệu cá nhân và quyết định tự động. Các bệnh viện tư nhân lớn đã bắt đầu triển khai trợ lý bác sĩ nội bộ, nhưng phần lớn vẫn dừng ở khâu hỗ trợ — không có quyết định lâm sàng nào được tự động hoá hoàn toàn.
Năm nhóm use-case có ROI cao nhất
Khảo sát của chúng tôi xếp hạng các use-case theo hai trục: thời gian go-live và ROI 12 tháng. Năm nhóm nổi bật ở góc phần tư "nhanh và lời":
- Trợ lý nội bộ (internal copilot): tra cứu chính sách, hợp đồng, quy trình. Time-to-value 6–10 tuần, ROI trung bình 4.2x.
- Tự động hoá CSKH đa kênh: kết hợp chatbot với agent AI để xử lý 60–80% tickets cấp 1. Tiết kiệm 35–45% chi phí trung tâm CSKH.
- Sinh nội dung marketing và sản phẩm: mô tả sản phẩm e-commerce, email cá nhân hoá, social content. ROI khó đo nhưng rút ngắn time-to-market 3–5 lần.
- Phân tích hợp đồng và tài liệu pháp lý: trích xuất điều khoản, so sánh phiên bản, đánh giá rủi ro. Đặc biệt mạnh ở ngân hàng và bất động sản.
- Hỗ trợ lập trình (code copilot): triển khai cho dev team từ 30 người trở lên cho thấy tăng 18–26% năng suất, nhưng đi kèm rủi ro về chất lượng code nếu thiếu code review.
Vì sao 37% còn lại vẫn chưa go-live?
Khi phỏng vấn sâu nhóm chưa triển khai, chúng tôi nhận thấy ba rào cản lặp đi lặp lại — và không cái nào liên quan đến công nghệ.
Ba rào cản lớn nhất
- Dữ liệu chưa sẵn sàng: tài liệu nội bộ phân mảnh trên SharePoint, email, file PDF scan. Không có metadata, không có versioning. RAG chỉ tốt khi corpus tốt.
- Thiếu khung quản trị (AI governance): ai duyệt prompt? Ai chịu trách nhiệm khi AI trả lời sai? Làm sao audit được quyết định của agent? Không có câu trả lời rõ ràng đồng nghĩa Legal sẽ chặn dự án.
- Thiếu chỉ số đánh giá: 41% doanh nghiệp được hỏi không thể trả lời "chatbot của bạn chính xác bao nhiêu phần trăm". Không đo được thì không cải tiến được, và lãnh đạo cũng không phê duyệt mở rộng.
"Mô hình lớn nhất không thắng. Đội ngũ có hệ thống đánh giá tự động, có chu trình human-in-the-loop kỷ luật, và có dữ liệu sạch — đó là đội ngũ thắng."
Kiến trúc tham chiếu cho 2026
Các triển khai thành công trong khảo sát có chung một kiến trúc 4 lớp. Đây không phải kiến trúc duy nhất, nhưng là mô hình mà Nocalab khuyến nghị cho doanh nghiệp Việt khi bắt đầu hành trình GenAI nghiêm túc.
Lớp 1 — Dữ liệu và tri thức: data lake/lakehouse chứa raw data, kết hợp với knowledge base có cấu trúc (vector DB + metadata store). Đây là nơi quyết định 70% chất lượng đầu ra.
Lớp 2 — Mô hình và inference: kết hợp mô hình thương mại (GPT, Claude, Gemini) với mô hình open-source self-host (Llama, Qwen) cho các tác vụ nhạy cảm. Routing layer chọn mô hình phù hợp theo chi phí và độ phức tạp.
Lớp 3 — Orchestration và agent: framework điều phối (LangGraph, CrewAI hoặc tự xây) quản lý workflow nhiều bước, gọi tool, và truy cập hệ thống nội bộ qua MCP server.
Lớp 4 — Observability và governance: logging mọi prompt/response, evaluation tự động (LLM-as-judge + human review), policy engine kiểm soát truy cập và nội dung đầu ra.
Bài học triển khai từ ba dự án thực tế
Nocalab tham gia sâu vào ba dự án trong năm 2025–2026 mà chúng tôi tin là đại diện cho ba cấp độ trưởng thành khác nhau.
Dự án A — Ngân hàng tier 1, trợ lý tra cứu sản phẩm cho 8.000 nhân viên chi nhánh: Đi từ PoC tới production trong 14 tuần. Bí quyết là không cố gắng làm "ChatGPT cho ngân hàng" — chỉ tập trung vào 200 câu hỏi thường gặp nhất, đảm bảo độ chính xác >95% trên tập đó. Tỷ lệ chấp nhận của nhân viên đạt 78% sau 3 tháng.
Dự án B — Công ty bảo hiểm, agent xử lý hồ sơ bồi thường: Tham vọng hơn — agent đọc hồ sơ, đối chiếu hợp đồng, đề xuất quyết định. Mất 9 tháng vì phải xây dựng evaluation pipeline với 5.000 case lịch sử có annotation. Hiện tại agent xử lý 40% hồ sơ end-to-end, phần còn lại human-in-the-loop. Tiết kiệm 12 FTE.
Dự án C — Chuỗi bán lẻ, sinh nội dung sản phẩm cho 50.000 SKU: Tưởng đơn giản nhưng vướng ở khâu kiểm soát chất lượng. Giải pháp cuối cùng là pipeline 3 bước: sinh draft → LLM khác review → human spot-check 5%. Giảm thời gian onboard sản phẩm mới từ 3 ngày xuống 4 giờ.
Dự báo 12 tháng tới
Ba xu hướng mà chúng tôi tin sẽ định hình thị trường GenAI doanh nghiệp Việt Nam trong giai đoạn 2026–2027:
- Agentic AI vượt khỏi PoC: từ "chatbot trả lời" sang "agent thực thi" — đặt vé, gọi API, cập nhật CRM. Yêu cầu hạ tầng và governance hoàn toàn khác.
- Mô hình nhỏ chuyên biệt (SLM) sẽ chia thị phần: fine-tune Qwen 7B hoặc Llama 8B cho tác vụ hẹp thường rẻ và nhanh hơn gọi GPT-4 class.
- Chuẩn hoá AI governance: Bộ Thông tin & Truyền thông và Ngân hàng Nhà nước được kỳ vọng ban hành khung pháp lý chính thức trong 2026, kéo theo nhu cầu lớn về tooling tuân thủ.
Kết luận
GenAI không còn là câu chuyện công nghệ — nó đã trở thành bài toán vận hành. Doanh nghiệp Việt Nam đang ở giai đoạn đẹp nhất để bứt phá: công nghệ đã đủ chín, chi phí inference giảm mạnh, và đội ngũ trong nước đã đủ kinh nghiệm. Cánh cửa cơ hội này sẽ không mở mãi mãi — những doanh nghiệp đầu tư bài bản vào nền tảng dữ liệu và governance trong 12 tháng tới sẽ tạo ra khoảng cách rất khó san bằng.
Tại Nocalab, chúng tôi tin rằng câu hỏi không phải "có nên dùng GenAI không", mà là "chúng ta sẵn sàng đi sâu đến đâu". Và câu trả lời cho câu hỏi đó nên đến từ Hội đồng quản trị, không phải từ đội IT.
