Viettel xây dựng, phát triển và vận hành hệ sinh thái AI Việt Nam trên hạ tầng Nvidia AI và nền tảng Nvidia DGX.
Với hệ sinh thái AI Việt Nam, chiến lược của Viettel tập trung vào 2 trụ cột chính: hạ tầng tính toán hiệu năng cao và các mô hình AI nền tảng. Ông Nguyễn Mạnh Quý, giám đốc trung tâm dịch vụ dữ liệu và trí tuệ nhân tạo Viettel (Viettel AI) cho biết: “Nvidia giúp chúng tôi tiếp cận những nền tảng công nghệ tiên tiến nhất. Còn đội ngũ kỹ sư Việt Nam trực tiếp xây dựng, huấn luyện và làm chủ mô hình AI để phục vụ nhu cầu đặc thù của người Việt. Đây là bước đi quan trọng trong hành trình thực hiện mục tiêu xây dựng AI chủ quyền của Viettel”. Nhờ hạ tầng AI từ Nvidia và thấu hiểu người dùng Việt, Viettel đã tạo ra các ứng dụng AI như trợ lý pháp luật, trợ lý cán bộ công chức…
Về hạ tầng, Viettel là một trong những đơn vị đầu tiên tại Việt Nam đầu tư và vận hành hệ thống Nvidia DGX B200. Với khả năng xử lý lên tới 1,5 ExaFLOPs (tương đương 1.500 triệu tỷ phép tính mỗi giây), cụm 22 hệ thống Nvidia DGX B200 của Viettel không chỉ xử lý lượng dữ liệu khổng lồ mà còn rút ngắn tối đa thời gian huấn luyện.
Trên nền tảng hạ tầng tính toán hiệu năng của Nvidia, theo ông Quý, Viettel tập trung nghiên cứu và phát triển các mô hình ngôn ngữ lớn (LLM) tiếng Việt về ngôn ngữ, văn hóa và quy định pháp lý Việt Nam thông qua việc làm chủ và tùy biến chuyên sâu kiến trúc mô hình mở Nvidia Nemotron. Điểm khác biệt nằm ở nguồn tri thức số khổng lồ đã được đội ngũ chuyên gia của Viettel trực tiếp chọn lọc và chuẩn hóa các tập dữ liệu đặc thù mang tính bản địa giúp mô hình không chỉ phản hồi chính xác về mặt thông tin, mà còn nắm bắt được những sắc thái riêng trong tư duy và bối cảnh thực thi thực tế của người Việt.
Mô hình NVIDIA Nemotron 3 sở hữu hơn 30 tỷ tham số cùng khả năng xử lý ngữ cảnh lên đến một triệu token, giúp hệ thống AI ghi nhớ và liên kết thông tin tốt, đưa ra phản hồi sát thực tế và nâng cao năng lực suy luận phức tạp bằng tiếng Việt.
Song song với việc triển khai hạ tầng và mô hình, nhóm Nvidia Nemotron phối hợp cùng Viettel tổ chức các workshop chuyên sâu về hệ sinh thái AI chủ quyền. Qua đó, đội ngũ kỹ sư Viettel trực tiếp trao đổi và tối ưu hoá các phương pháp huấn luyện, tinh chỉnh và tối ưu mô hình, rút ngắn thời gian nghiên cứu và nâng cao năng lực triển khai AI hiệu quả.
chữ: Lâm Vạn – hình: ViAI
