Chấp bút bởi tác giả Lợi Đoàn (Luke) - Deputy CEO, SpeedUP Technologies Việt Nam.
Khi nói về AI, chúng ta thường nghĩ đến ChatGPT, chatbot hay trợ lý ảo. Nhưng ứng dụng chỉ là phần dễ thấy nhất. Một câu trả lời xuất hiện trong vài giây cần điện, chip, mạng, lưu trữ và phần mềm vận hành phối hợp phía sau.
Tại Davos tháng 1/2026, Jensen Huang, nhà sáng lập kiêm CEO NVIDIA, mô tả AI như một “chiếc bánh năm tầng”: năng lượng, chip, hạ tầng trung tâm dữ liệu và đám mây, mô hình, ứng dụng.
Từ góc nhìn vận hành, khung này gợi ra một câu hỏi cho lãnh đạo: bên cạnh việc chọn ứng dụng AI, doanh nghiệp đã biết điều gì bảo đảm nó chạy ổn định, an toàn và có hiệu quả kinh tế chưa?
Năm tầng phía sau một câu trả lời
Tầng đầu tiên: là năng lượng. Theo báo cáo Energy and AI của Cơ quan Năng lượng Quốc tế (IEA) năm 2025, các trung tâm dữ liệu toàn cầu tiêu thụ khoảng 415 tỷ kWh điện năm 2024 và được dự báo tăng lên khoảng 945 tỷ kWh năm 2030. Đây là điện của toàn bộ trung tâm dữ liệu, với AI là động lực tăng trưởng quan trọng nhất.
Điện đi cùng bài toán nhiệt. Với cụm máy chủ AI mật độ cao, làm mát ảnh hưởng trực tiếp đến khả năng duy trì hiệu năng. Các phương án dùng chất lỏng cần được cân nhắc theo cấu hình và điều kiện triển khai; không có một ngưỡng công suất duy nhất cho mọi phòng máy.
Tầng thứ hai: là chip. GPU, bộ xử lý có khả năng thực hiện nhiều phép tính song song, giữ vai trò quan trọng trong nhiều hệ thống AI. Nhưng chip mạnh chưa đủ: bộ nhớ phải chứa được mô hình, còn dữ liệu phải được đưa đến kịp để chip làm việc.
Tầng thứ ba: là hạ tầng trung tâm dữ liệu và đám mây. Mạng, lưu trữ và phần mềm điều phối kết nối những bộ xử lý thành một hệ thống có thể vận hành. Đây là nơi năng lực tính toán trên thông số trở thành hiệu năng thực tế, hoặc bị hao hụt vì điểm nghẽn.
Tầng thứ tư: là mô hình, nơi dữ liệu được xử lý để tạo ra dự đoán, nội dung hoặc suy luận. Chọn mô hình cần xét đúng nhiệm vụ, chất lượng dữ liệu và yêu cầu phản hồi. Mô hình lớn hơn không mặc nhiên phù hợp hơn với mọi công việc.
Tầng thứ năm: là ứng dụng, nơi người dùng nhận được giá trị: tìm tài liệu nhanh hơn, xử lý yêu cầu khách hàng hay hỗ trợ kiểm tra sản phẩm. Giá trị ấy chỉ duy trì được khi toàn bộ hệ thống phía dưới đáp ứng nhu cầu sử dụng.
Nơi báo lỗi có thể khác nơi gây lỗi
Một nguyên tắc đáng nhớ trong vận hành là: nơi báo lỗi và nơi gây lỗi có thể là hai chỗ khác nhau.
Hãy hình dung một hệ thống AI phản hồi chậm. Người dùng dễ nghi ngờ ứng dụng hoặc mô hình. Nhưng nếu GPU đang chờ dữ liệu từ lưu trữ, mua thêm GPU có thể chỉ tạo thêm những bộ xử lý cùng chờ đợi. Nếu máy chủ giảm tốc vì quá nhiệt, cần kiểm tra hệ thống làm mát.
Điều đó không có nghĩa mọi lỗi AI đều do phần cứng. Câu trả lời sai còn có thể bắt nguồn từ dữ liệu, mô hình hoặc cách thiết kế ứng dụng. Điều cần tránh là kết luận trước khi đo.
Đưa AI đến gần nơi dữ liệu được tạo ra
Dữ liệu của doanh nghiệp nằm trong nhà máy, hệ thống giao dịch và kho tài liệu nội bộ. Khi AI tham gia công việc hằng ngày, câu hỏi về nơi xử lý dữ liệu trở nên thiết thực hơn.
Hãy hình dung camera kiểm tra sản phẩm trên dây chuyền. Nếu hình ảnh được xử lý ngay tại nhà máy, hệ thống có thể giảm lượng dữ liệu phải truyền đi và bớt phụ thuộc vào kết nối Internet. Với trợ lý tra cứu tài liệu, chạy trong hạ tầng riêng có thể giúp doanh nghiệp chủ động hơn về quyền truy cập và nhật ký sử dụng.
Đó là động lực của hướng triển khai AI gần dữ liệu: giảm độ trễ, hạn chế việc di chuyển dữ liệu và tăng khả năng kiểm soát. Những lợi ích này phụ thuộc vào kiến trúc thực tế, chứ không tự xuất hiện chỉ vì đặt máy tại doanh nghiệp.
Xu hướng phân tán năng lực xử lý cũng đang được các nhà cung cấp phát triển. NVIDIA và các đối tác viễn thông đã giới thiệu AI Grid, đưa hoạt động suy luận, tức dùng mô hình để tạo kết quả, đến gần nơi dữ liệu được sinh ra.
Small AI và giải pháp "Nhà máy AI thu nhỏ" (AI Box)
Nhắc đến hạ tầng AI, người ta dễ hình dung hàng nghìn GPU và trung tâm dữ liệu khổng lồ. Nhưng trợ lý nội bộ, phân tích hợp đồng hay kiểm tra hình ảnh sản phẩm không nhất thiết cần quy mô ấy.
Có thể gọi cách tiếp cận vừa với những nhu cầu này là Small AI: bắt đầu từ một công việc cụ thể, chọn mô hình phù hợp rồi xác định tài nguyên cần thiết. “Nhỏ” ở đây nói đến phạm vi triển khai và quy mô hạ tầng, không mặc nhiên đồng nghĩa với ít giá trị.
Một hình thức triển khai là AI Box, như một “nhà máy AI thu nhỏ” tại doanh nghiệp, đó là một hệ thống tích hợp máy chủ và GPU, mạng, lưu trữ, nền tảng quản lý tài nguyên cùng mô hình và ứng dụng.
Doanh nghiệp có thể bắt đầu với một hoặc vài máy chủ, phục vụ một nhóm người dùng hay quy trình, rồi mở rộng sau khi đo được nhu cầu.
Chuỗi quyết định nên đi từ công việc đến mô hình, từ mô hình đến GPU và hạ tầng phù hợp. Mua GPU lớn nhất rồi tìm việc cho nó làm rất dễ dẫn đến lãng phí. Thước đo hữu ích hơn là chi phí để hoàn thành công việc với chất lượng và thời gian phản hồi yêu cầu.
Đóng gói nhỏ vẫn cần nền móng vững
AI Box đưa câu chuyện hạ tầng đến gần doanh nghiệp hơn, nhưng vẫn cần điện ổn định, làm mát, bảo trì và người chịu trách nhiệm vận hành.
Với cấu hình mật độ cao, làm mát ngâm, tức đặt thiết bị tương thích trong chất lỏng điện môi, có thể giúp xử lý nhiệt trong không gian gọn hơn. Đây là một lựa chọn kiến trúc, cần đánh giá cùng phương án làm mát bằng không khí hoặc chất lỏng dẫn đến chip.
Ngay cả khi tích hợp làm mát ngâm vào AI Box, doanh nghiệp vẫn phải thiết kế nguồn điện, đường thải nhiệt, an toàn và khả năng bảo trì. Đóng gói thiết bị không xóa đi các yêu cầu vật lý đó.
AI Box cũng có thể vận hành cùng đám mây công cộng. Công việc ổn định, cần xử lý gần dữ liệu có thể chạy tại chỗ; thử nghiệm hoặc nhu cầu đột biến có thể dùng tài nguyên thuê ngoài.
Phân tích chi phí của Lenovo năm 2025 gợi ý hạ tầng sở hữu có thể có lợi thế khi được sử dụng đều đặn, còn đám mây phù hợp với tải ngắn hạn hoặc biến động. Đây là phân tích của nhà cung cấp với phạm vi chi phí giới hạn. Doanh nghiệp vẫn cần tính đầy đủ điện, làm mát, nhân sự, phần mềm và bảo trì cho trường hợp của mình.
Bảo mật phải đi xuyên suốt
Bảo mật cần hiện diện ở từng tầng, từ thiết bị, mạng và dữ liệu đến mô hình và quyền mà ứng dụng được phép thực hiện.
Ở tầng ứng dụng, OWASP nêu rủi ro “tiêm lệnh”: nội dung độc hại trong tài liệu hoặc nguồn bên ngoài có thể khiến AI làm theo chỉ dẫn ngoài ý muốn. Rủi ro tăng khi trợ lý được quyền gửi email, truy cập dữ liệu hoặc thực hiện thao tác trên hệ thống.
Vì vậy, doanh nghiệp cần giới hạn quyền truy cập, kiểm soát đầu vào và đầu ra, lưu nhật ký, đồng thời yêu cầu con người phê duyệt các hành động có rủi ro cao. Không nên coi một lớp bảo vệ là đủ.
Từ mua công nghệ đến xây năng lực
Trước khi mở rộng, lãnh đạo cần biết AI đang cải thiện công việc nào, dữ liệu nằm ở đâu và kết quả được đo ra sao. Quyết định đầu tư phải đi cùng đánh giá điểm nghẽn, chi phí vận hành và trách nhiệm bảo vệ dữ liệu.
Small AI mở ra một cách bắt đầu vừa sức: đưa năng lực xử lý đến gần dữ liệu, kiểm chứng giá trị trong phạm vi nhỏ rồi mở rộng. AI Box chỉ có ý nghĩa khi phục vụ được công việc thực tế bằng một hệ thống ổn định, an toàn và có thể quản trị.
Ứng dụng là nơi doanh nghiệp nhìn thấy giá trị. Hạ tầng giúp giá trị ấy được tạo ra bền vững. Trong kỷ nguyên AI, hạ tầng không còn là phần hậu trường của chiến lược công nghệ; nó trở thành một phần của chính chiến lược kinh doanh.
Về tác giả Lợi Đoàn (Luke)Với hơn 25 năm nghiên cứu, vận hành và triển khai các giải pháp hạ tầng CNTT, điện toán đám mây và hạ tầng AI (trong đó có hơn 15 năm gắn bó với Tập đoàn FPT), ông là một trong những người đặt nền móng cho nền tảng FPT HI GIO Cloud và là chuyên gia tiên phong nghiên cứu, phát triển giải pháp làm mát ngâm (Immersion Cooling) tại Việt Nam. Ông hiện đảm nhiệm vị trí Deputy CEO tại SpeedUP Technologies Việt Nam.Về SpeedUP Technologies Việt NamLà doanh nghiệp công nghệ hàng đầu chuyên cung cấp các giải pháp tự động hóa, hệ sinh thái AI Tank, hạ tầng AI Box, làm mát ngâm tiên tiến và các nền tảng ứng dụng trí tuệ nhân tạo cho doanh nghiệp.