NVIDIA đang mở rộng chiến lược phát triển hạ tầng AI theo hướng mở. Sáng kiến kết nối quang mới hợp tác cùng Cisco, kết hợp với các thiết kế rack linh hoạt hơn, đang mở ra cơ hội cho các nhà cung ứng linh kiện quang, máy chủ và linh kiện điện tử tại Đài Loan.

Theo Economic Daily News, NVIDIA đã công bố kế hoạch phát triển thông số kỹ thuật mô-đun quang hỗ trợ tốc độ 400 Gb/s trên mỗi lane tại sự kiện Open Compute Project (OCP) Global Summit ở San Jose, California. Đồng thời, hãng cũng mở thiết kế rack Vera Rubin và khay tính toán (compute tray) cho hệ sinh thái đối tác.

Trong lĩnh vực kết nối quang, NVIDIA hợp tác với Cisco phát triển thông số kỹ thuật Ultra-Dense Small Form Factor Pluggable (USFP), được thiết kế để hỗ trợ tốc độ 400 Gb/s trên mỗi lane, theo Economic Daily News.

NVIDIA và Cisco cho biết thiết kế mới dự kiến đạt mật độ băng thông cao gấp 4 lần và hiệu quả sử dụng năng lượng cao gấp 1,3 lần so với các giải pháp quang học hiện tại sử dụng tốc độ 200 Gb/s trên mỗi lane, đồng thời hướng tới tổng dung lượng lên tới 12,8 Tb/s.

Hai công ty dự kiến xây dựng một thông số kỹ thuật mở cho toàn ngành. Nếu được các nhà cung cấp dịch vụ đám mây lớn áp dụng, sáng kiến này có thể tạo thêm cơ hội cho thị trường mô-đun thu phát quang.

Đối với các nhà cung ứng linh kiện truyền thông quang tại Đài Loan, thông số kỹ thuật mở có thể giúp giảm sự phụ thuộc vào các công nghệ độc quyền do một số ít nhà cung cấp kiểm soát, qua đó mở rộng cơ hội tham gia thị trường mô-đun quang cắm nóng. Economic Daily News nêu Luxnet và PCL Technologies là những doanh nghiệp có khả năng hưởng lợi.

Chiến lược phát triển mạng của NVIDIA cũng mở rộng sang các bộ chuyển mạch Ethernet. Theo thông báo của NVIDIA tại OCP, Meta đang sử dụng chip chuyển mạch Spectrum-6 cho nền tảng IceCube trong các rack mạng IcePack thế hệ mới, được thiết kế với hệ thống làm mát bằng chất lỏng.

CPU Vera và thiết kế rack mở mở rộng cơ hội cho chuỗi cung ứng máy chủ Đài Loan

Bên cạnh hạ tầng mạng, NVIDIA cũng đang mở rộng nền tảng tính toán AI thông qua các rack MGX sử dụng CPU Vera độc lập. Theo Economic Daily News, các rack này đã bước vào giai đoạn sản xuất hàng loạt và bắt đầu được giao hàng.

Được thiết kế chủ yếu cho các tác vụ suy luận AI (AI inference), rack Vera mang lại cho các nhà cung cấp dịch vụ đám mây (CSP) sự linh hoạt lớn hơn trong việc tích hợp CPU NVIDIA với GPU của các hãng khác, ASIC và những kiến trúc mạng khác nhau. Cách tiếp cận này giúp khách hàng có thêm lựa chọn thay vì chỉ phụ thuộc vào các hệ thống DGX có tính khép kín cao hơn hoặc nền tảng HGX bán mở của NVIDIA.

Theo bài viết, CPU Vera được sản xuất trên tiến trình 3 nm của TSMC, với hiệu năng cao hơn 50% và hiệu năng trên mỗi watt cao gấp 2 lần so với các CPU x86 truyền thống.

Tính linh hoạt trong thiết kế cũng có thể mang lại lợi ích cho các nhà sản xuất máy chủ tại Đài Loan. Commercial Times xác định 12 doanh nghiệp Đài Loan nằm trong nhóm đối tác rack MGX sử dụng CPU Vera của NVIDIA, gồm Foxconn, QCT (công ty con của Quanta), Wistron, Wiwynn, Inventec, Compal, Pegatron, MiTAC, ASUS, GIGABYTE, MSI và ASRock Rack (công ty con của ASRock).

Việc mở rộng các lựa chọn triển khai được kỳ vọng sẽ thúc đẩy nhu cầu đối với những hệ thống máy chủ tùy chỉnh, tạo thêm cơ hội kinh doanh cho các nhà cung ứng Đài Loan.

Commercial Times cũng cho biết NVIDIA đang mở thiết kế rack Vera Rubin và khay tính toán theo thông số kỹ thuật MGX 1.2 thế hệ thứ ba.

So với thế hệ GB300 trước đó, kiến trúc mới nâng cấp hệ thống cấp nguồn, làm mát và bố trí cơ khí. Thiết kế làm mát bằng chất lỏng theo mô-đun loại bỏ cáp, ống dẫn và quạt bên trong khay tính toán, qua đó rút ngắn thời gian lắp ráp và bảo trì từ hàng giờ xuống còn vài phút, đồng thời hỗ trợ dòng điện lên tới 5.000 ampere nhằm tăng mật độ công suất.

Để đơn giản hóa việc bảo trì hơn nữa, thông số kỹ thuật mới giới thiệu MGX Quick Disconnect (MQD) cùng các đầu nối làm mát bằng chất lỏng dạng blind-mate, cho phép thay thế linh kiện thuận tiện hơn và giảm nguy cơ rò rỉ.

Theo Commercial Times, NVIDIA cho biết các thiết kế mở sẽ giúp nhà cung ứng bắt đầu sản xuất linh kiện sớm hơn và rút ngắn thời gian giao hàng cho các hệ thống tùy chỉnh. Điều này có thể tạo thêm cơ hội cho các doanh nghiệp Đài Loan trong lĩnh vực máy chủ, cấp nguồn và làm mát bằng chất lỏng.