Nghiên cứu AI bằng NVIDIA DGX A100 trong ngành viễn thông

NVIDIA vừa phát đi thông báo Tập đoàn Công nghiệp – Viễn thông Quân đội Viettel là đơn vị viễn thông đầu tiên tại Việt Nam triển khai hệ thống NVIDIA DGX A100 nhằm hỗ trợ các nỗ lực phát triển AI trong nội bộ.

Theo đó, Trung tâm Không gian mạng Viettel (VTCC) sử dụng hệ thống để nghiên cứu phát triển các công nghệ, sản phẩm sử dụng AI và phân tích dữ liệu. Các dự án nghiên cứu này bao gồm xử lý giọng nói, xử lý ngôn ngữ tự nhiên, nhận dạng ký tự quang học và cơ sở dữ liệu hồ sơ người dùng.

Một trong những dự án đầy tham vọng là Viettel AI Open Platform nhằm thực hiện các nghiên cứu tiên tiến và ứng dụng Al vào các sản phẩm, dịch vụ nhằm tạo ra giải pháp toàn diện để đảm bảo rằng mọi người, mọi doanh nghiệp tại Việt Nam đều có thể tiếp cận Al.

“Sứ mệnh của chúng tôi là tạo ra những cỗ máy mang đặc điểm của trí tuệ và cái nhìn sâu sắc của con người nhằm thúc đẩy phát triển kinh tế số và thúc đẩy xã hội tiến bộ hơn”. Ông Nguyễn Mạnh Quý, Giám đốc Trung tâm Không gian mạng Viettel thông tin. “Chúng tôi đang sử dụng NVIDIA DGX A100 để xây dựng các mô hình phức tạp với thời gian dạy AI nhanh hơn để giải quyết các vấn đề khó khăn”.

NVIDIA DGX A100 được thiết kế để xử lý tất cả khối lượng công việc về AI và Khoa học dữ liệu như phân tích đến đào tạo cho đến suy luận, đồng thời giúp xây dựng các dịch vụ trong lĩnh vực sản xuất, chăm sóc khách hàng, chăm sóc sức khỏe, giáo dục và nhiều ngành nghề khác. Hệ thống này đặt ra một tiêu chuẩn mới cho mật độ tính toán. gói gọn 5 petaflops xử lý AI trong một kiến trúc 6U, thay thế dần các kiến trúc lỗi thời với một hệ thống độc lập thống nhất

Ngoài ra, DGX A100 sẽ tăng khả năng tính toán của VTCC, cho phép kiểm tra các mô hình lớn hơn với độ chính xác cao hơn đáng kể. Đây là lựa chọn lý tưởng để đào tạo các mô hình thị giác máy tính và AI đàm thoại, cũng như các dự án khác đòi hỏi sức mạnh tính toán được tăng tốc và kết nối tốc độ cao.

Thị giác máy tính và xử lý ngôn ngữ tự nhiên sẽ nhanh hơn trước đây khoảng 20 - 60%. Ngoài ra, VTCC có thể đào tạo hệ thống nhận dạng giọng nói với nhiều model hơn cho các mô hình AI lớn, thúc đẩy quá trình đào tạo mô hình. Hệ thống cũng cung cấp dung lượng bộ nhớ GPU nhiều hơn và tính toán nhanh hơn.

NVIDIA DGX A100 được triển khai đầu tiên tại đơn vị viễn thông ở Việt Nam sử dụng kiến trúc mạng NVIDIA InfiniBand với các engine tính toán nội bộ ng tiên tiến cho phép kết nối I/O hiệu quả, cung cấp hiệu suất cao cho cơ sở hạ tầng mạng tại đây.

Ngoài ra, VTCC cũng đang áp dụng các nền tảng NVIDIA và bộ công cụ phát triển phần mềm như NVIDIA Metropolis cho thành phố thông minh, NVIDIA Jarvis cho các dịch vụ AI đàm thoại đa phương thức, NVIDIA Nemo để phát triển các mô hình AI đàm thoại hiện đại và NVIDIA Clara để tăng tốc thế hệ tiếp theo của thiết bị y tế và nghiên cứu y học.