Viettel công bố mô hình AI tiếng Việt 120 tỷ tham số, thuộc nhóm dẫn đầu thế giới

Trung tâm Dịch vụ dữ liệu và Trí tuệ nhân tạo Viettel (Viettel AI) vừa công bố phát triển thành công mô hình ngôn ngữ lớn tiếng Việt VT-Super-120B-A12B với quy mô 120 tỷ tham số, đánh dấu một bước tiến mới của Việt Nam trong lĩnh vực trí tuệ nhân tạo tạo sinh. Theo Viettel, mô hình được xây dựng dựa trên kiến trúc mở NVIDIA Nemotron 3 Super và được đánh giá nằm trong nhóm dẫn đầu thế giới về độ chính xác khi so sánh với các mô hình AI cùng quy mô.

Một trong những điểm đáng chú ý nhất của VT-Super-120B-A12B là khả năng xử lý tiếng Việt ở mức độ chuyên sâu nhưng vẫn duy trì được năng lực tiếng Anh của mô hình gốc. Đây là thách thức kỹ thuật lớn đối với các mô hình đa ngôn ngữ, thường được gọi là hiện tượng "catastrophic forgetting" (quên kiến thức cũ), khi mô hình sau quá trình tinh chỉnh cho một ngôn ngữ cụ thể có thể làm suy giảm khả năng xử lý các ngôn ngữ khác.

Theo dữ liệu thử nghiệm, đội ngũ kỹ sư Viettel đã giải quyết được bài toán này, giúp mô hình tăng cường đáng kể khả năng hiểu và xử lý tiếng Việt mà không làm giảm hiệu năng tiếng Anh. VT-Super-120B-A12B cũng được thiết kế với khả năng xử lý ngữ cảnh dài, cho phép theo dõi và duy trì mạch thông tin trong các tác vụ phức tạp như phân tích nhiều tài liệu cùng lúc, xử lý quy trình nghiệp vụ nhiều bước hoặc các cuộc hội thoại kéo dài.

Từ nền tảng mô hình ngôn ngữ lớn này, Viettel đang phát triển hệ sinh thái AI Agent dành cho người dùng Việt Nam. Đây là thế hệ trợ lý AI có khả năng tự động thực hiện chuỗi tác vụ liên hoàn thay vì chỉ trả lời câu hỏi đơn lẻ như chatbot truyền thống. Ứng dụng đầu tiên đã được triển khai là Trợ lý AI Pháp luật, hướng tới khả năng phân tích hồ sơ, đối chiếu quy định pháp lý và hỗ trợ đề xuất phương án xử lý dữ liệu trong các nghiệp vụ chuyên môn.

Đằng sau mô hình 120 tỷ tham số là hạ tầng tính toán quy mô lớn mà Viettel đã đầu tư trong thời gian qua. Doanh nghiệp hiện vận hành cụm 22 hệ thống siêu máy tính NVIDIA DGX B200, cung cấp năng lực tính toán khoảng 1,5 ExaFLOPs, tương đương 1.500 triệu tỷ phép tính mỗi giây. Đây được xem là một trong những hạ tầng AI có quy mô lớn nhất tại Việt Nam và khu vực Đông Nam Á, cho phép rút ngắn đáng kể thời gian huấn luyện các mô hình ngôn ngữ lớn.

Song song với việc đầu tư phần cứng, đội ngũ kỹ sư Viettel cũng phối hợp trực tiếp với nhóm phát triển NVIDIA Nemotron để tối ưu quy trình huấn luyện và tinh chỉnh mô hình. Về dữ liệu, VT-Super-120B-A12B được xây dựng dựa trên nguồn dữ liệu mang tính bản địa cao, bao gồm dữ liệu hành chính, nghiệp vụ doanh nghiệp, văn bản chuyên ngành và các tập hội thoại tiếng Việt thực tế.

Quá trình phát triển trải qua nhiều giai đoạn từ tiếp tục tiền huấn luyện trên kho dữ liệu lớn, tinh chỉnh có giám sát nhằm tăng khả năng suy luận, đến học tăng cường để tối ưu chất lượng phản hồi và hiệu quả xử lý các bài toán nghiệp vụ thực tế.

Sự xuất hiện của VT-Super-120B-A12B cho thấy các doanh nghiệp công nghệ Việt Nam đang từng bước tham gia sâu hơn vào cuộc đua AI toàn cầu. Thay vì chỉ ứng dụng các mô hình quốc tế, xu hướng hiện nay là phát triển các mô hình ngôn ngữ lớn được tối ưu riêng cho tiếng Việt và nhu cầu của người dùng trong nước.

Trong bối cảnh AI đang trở thành một trong những hạ tầng công nghệ quan trọng nhất của nền kinh tế số, việc sở hữu các mô hình ngôn ngữ lớn mang tính bản địa được kỳ vọng sẽ mở ra thêm nhiều cơ hội phát triển các sản phẩm và dịch vụ AI phục vụ doanh nghiệp, cơ quan quản lý và người dùng Việt Nam.