Sở hữu trí tuệ ngày càng đóng vai trò quan trọng trong cuộc cạnh tranh hạ tầng AI

Tại Hội nghị thượng đỉnh toàn cầu Open Compute Project (OCP) 2026 ở San Jose, California (Mỹ), Samsung Electronics công bố định hướng nâng cao hiệu suất trung tâm dữ liệu trí tuệ nhân tạo (AI) thông qua tăng tốc độ bộ nhớ, mở rộng dung lượng và cải thiện hiệu quả lưu trữ. Theo thông tin công ty công bố hôm thứ Ba, hãng giới thiệu nhiều giải pháp bộ nhớ tiên tiến, đồng thời nhấn mạnh các công nghệ phục vụ xử lý những mô hình AI ngày càng lớn và phức tạp.

Trong số các công nghệ được giới thiệu có bộ nhớ băng thông cao HBM5 thế hệ thứ tám, các giải pháp HBM tùy chỉnh và công nghệ xử lý dữ liệu ngay trong bộ nhớ (processing-in-memory). Samsung cũng trình diễn công nghệ mở rộng bộ nhớ Compute Express Link (CXL) và các ổ lưu trữ thể rắn (SSD) tiên tiến.

Khi các mô hình AI phát triển, dung lượng bộ nhớ và hiệu quả lưu trữ ngày càng quan trọng, không kém tốc độ xử lý. Một thành phần đáng chú ý là bộ nhớ đệm khóa, giá trị (KV cache), có nhiệm vụ lưu giữ dữ liệu đã được tính toán để hạn chế việc xử lý lặp lại trong quá trình tạo câu trả lời.

Shim Ho-jun, Phó Chủ tịch Samsung Electronics phụ trách nhóm kỹ thuật ứng dụng, cho biết công ty tập trung vào ba ưu tiên: tốc độ, mở rộng bộ nhớ và duy trì dữ liệu. Samsung cho biết các mô-đun CMM-D dựa trên CXL có thể mở rộng dung lượng bộ nhớ máy chủ, đồng thời cho phép nhiều hệ thống sử dụng chung nguồn tài nguyên bộ nhớ được phân vùng. Hãng cũng đang phát triển bộ nhớ flash dung lượng cao sử dụng công nghệ ô nhớ bốn mức (QLC) và các giải pháp bố trí dữ liệu linh hoạt nhằm nâng cao hiệu quả lưu trữ.

Trong màn trình diễn phối hợp với Advanced Micro Devices (AMD), Samsung giới thiệu giải pháp chia sẻ bộ nhớ dựa trên CXL, hướng tới hỗ trợ hệ thống AI đáp ứng nhu cầu bộ nhớ ngày càng tăng, đặc biệt khi các tác nhân AI được triển khai rộng rãi hơn.

Các nội dung trưng bày khác gồm HBM4E và HBM5, các ý tưởng HBM tùy chỉnh, công nghệ xử lý trong bộ nhớ LPDDR5X, tấm wafer sản xuất trên tiến trình 2 nm sử dụng cấu trúc gate-all-around và wafer của bộ xử lý ngôn ngữ Groq. Samsung còn giới thiệu SSD doanh nghiệp, giải pháp tối ưu KV cache, cơ sở dữ liệu vector và công nghệ làm mát bằng chất lỏng.

Sáng chế hướng tới giảm độ trễ khi chatbot phục vụ nhiều người dùng

Bên cạnh phát triển phần cứng, một hồ sơ sáng chế của Samsung được đề cập trong nội dung do Patentlyze đăng tải mô tả phương pháp điều phối bộ nhớ dành cho máy chủ AI, nhằm duy trì tốc độ phản hồi khi có nhiều yêu cầu được xử lý đồng thời.

Trong quá trình vận hành chatbot, máy chủ phải lưu trữ trạng thái xử lý của từng cuộc hội thoại trong KV cache, thường được phân bổ theo các khối bộ nhớ GPU. Do dung lượng bộ nhớ GPU có giới hạn, hệ thống có thể phải tạm dừng một số yêu cầu đang xử lý, chuyển dữ liệu của chúng sang bộ nhớ CPU có dung lượng lớn hơn nhưng tốc độ truy cập thấp hơn, sau đó đưa dữ liệu trở lại GPU khi tiếp tục xử lý.

Hồ sơ sáng chế mô tả cơ chế lựa chọn yêu cầu cần tạm dừng và yêu cầu được tiếp tục xử lý dựa trên nhiều yếu tố, gồm thời gian chuyển dữ liệu, thời gian chờ, thời gian xử lý còn lại và mục tiêu độ trễ phản hồi. Nếu bộ nhớ còn trống không đủ để tiếp nhận một yêu cầu đang chờ, hệ thống sẽ đánh giá chi phí chuyển các yêu cầu đang chạy sang bộ nhớ CPU, tính đến độ trễ truyền dữ liệu, ảnh hưởng đến thông lượng chung và nhu cầu bộ nhớ dự kiến trong thời gian tiếp theo.

Theo phương pháp được mô tả, hệ thống có thể ưu tiên chuyển ra khỏi GPU yêu cầu có chi phí thấp hơn, giải phóng dung lượng để tiếp tục xử lý yêu cầu khác. Các trọng số dùng để đánh giá chi phí có thể thay đổi theo mức tải của máy chủ và tình trạng sử dụng bộ nhớ.

Hồ sơ còn đề cập khả năng thực hiện việc chuyển dữ liệu ở chế độ nền, xen kẽ với quá trình tạo token, nhằm hạn chế thời gian chờ. Hệ thống cũng có thể chỉ chuyển một phần dữ liệu của yêu cầu hoặc bắt đầu xử lý sơ bộ một phần yêu cầu mới khi dung lượng bộ nhớ trống hạn chế. Đây là các kỹ thuật được mô tả trong hồ sơ, chưa đồng nghĩa với việc chúng đã được triển khai trong một sản phẩm thương mại cụ thể.

Nếu được ứng dụng hiệu quả, phương pháp này có thể giúp giảm tình trạng gián đoạn khi chatbot phải phục vụ nhiều người dùng, đồng thời cải thiện khả năng khai thác tài nguyên phần cứng. Với đơn vị vận hành trung tâm dữ liệu, việc sử dụng bộ nhớ GPU hiệu quả hơn còn có thể giúp tăng số lượng yêu cầu được xử lý trên cùng một cấu hình máy chủ.

Sở hữu trí tuệ trong cuộc cạnh tranh hạ tầng AI

Hai hướng phát triển được đề cập cho thấy Samsung đang chú trọng cả công nghệ phần cứng lẫn giải pháp tối ưu vận hành hệ thống AI. Tại OCP 2026, công ty cho biết đang tăng cường hợp tác với khách hàng và đối tác công nghệ để tham gia sâu hơn vào quá trình thiết kế hệ thống AI. Phòng thí nghiệm MAX Lab cho phép khách hàng thử nghiệm các sản phẩm bộ nhớ và lưu trữ chưa thương mại hóa trong những điều kiện tải AI thực tế, qua đó đưa yêu cầu của hệ thống vào quá trình phát triển từ sớm.

Xét từ góc độ sở hữu trí tuệ, hồ sơ sáng chế về điều phối bộ nhớ GPU phản ánh một hướng đổi mới không chỉ nằm ở cấu trúc chip hay vật liệu bán dẫn, mà còn ở thuật toán và phương pháp điều khiển tài nguyên tính toán. Các giải pháp phần mềm gắn với hạ tầng AI có thể trở thành đối tượng cần được đánh giá về khả năng bảo hộ sáng chế, tùy thuộc vào nội dung yêu cầu bảo hộ và quy định pháp luật tại từng quốc gia.

Tuy nhiên, thông tin được cung cấp chưa nêu số hiệu, ngày nộp đơn, cơ quan tiếp nhận hoặc tình trạng thẩm định của hồ sơ nói trên. Vì vậy, chưa có đủ căn cứ để xác định phạm vi bảo hộ, tình trạng pháp lý hay kết luận rằng Samsung đã được cấp bằng sáng chế cho phương pháp này.

Trong bối cảnh nhu cầu tính toán AI tăng nhanh, việc bảo hộ và khai thác các giải pháp công nghệ về bộ nhớ, lưu trữ và điều phối dữ liệu có thể góp phần tạo lợi thế cạnh tranh cho doanh nghiệp. Cùng với việc phát triển sản phẩm, quản trị danh mục sáng chế và hợp tác với khách hàng, đối tác công nghệ đang trở thành những yếu tố quan trọng trong chiến lược tham gia thị trường hạ tầng AI của các nhà sản xuất bán dẫn.