Nvidia bắt tay DDN: AI “đói dữ liệu” và bài toán sinh tồn của Web3

Khi tất cả mọi người trong cộng đồng crypto đang nhìn vào những vùng màu đỏ trên màn hình giao dịch, thì ở phía bên kia bán cầu, một thỏa thuận thầm lặng đã được ký kết. Nvidia, gã khổng lồ sản xuất chip GPU, vừa chính thức bắt tay với DDN, hãng chuyên cung cấp hệ thống lưu trữ hiệu năng cao. Không phông bạt rực rỡ, không phát trực tiếp. Chỉ một thông cáo ngắn gọn trong góc báo chí của tập đoàn. Với tôi, đó là một dấu hiệu quan trọng hơn bất kỳ dòng tweet nào của các tổ chức lớn. Mỗi lần crash là một bản đồ kho báu mới. Và bản đồ lần này không chỉ cho chúng ta biết tiền sẽ đi đâu, mà còn hé lộ kiến trúc hạ tầng của kỷ nguyên trí tuệ nhân tạo sắp tới. Hãy lùi lại một bước. Trong ngành công nghiệp lưu trữ, DDN không phải là cái tên xa lạ với những người làm siêu máy tính. Sản phẩm của họ như DDN Exascaler và AI400X được thiết kế để phục vụ các cụm tính toán hiệu năng cao. Khách hàng của họ là các phòng thí nghiệm quốc gia, các công ty năng lượng, nghiên cứu khí hậu, và gần đây là các công ty AI. Nhưng đối với phần lớn giới đầu tư crypto, cái tên DDN gần như vô nghĩa. Điều đó khiến tôi càng tò mò: vì sao Nvidia lại chọn DDN? Lý do đầu tiên nằm ở một khái niệm gọi là GPU starvation, hay còn gọi là GPU chết đói. GPU là bộ não của các mô hình AI, nhưng não cần được nuôi dưỡng bằng dữ liệu. Trong các cụm máy chủ hiện đại, dữ liệu có thể nằm ở hàng trăm nút lưu trữ khác nhau. Để huấn luyện một mô hình có tham số lớn, quá trình đọc dữ liệu thường xuyên trở thành điểm nghẽn. Hệ quả là GPU phải chờ đợi, ánh sáng của các chip xử lý bị lãng phí, và hóa đơn điện vẫn cứ tăng. Thực tế, vấn đề này đã tồn tại từ trước khi AI bùng nổ. Nhưng ở quy mô hiện tại — khi các cụm GPU có tới vài chục nghìn thẻ — thì nó trở nên nghiêm trọng đến mức thậm chí các ông lớn như Nvidia cũng phải nhảy vào. Kỹ thuật để giải quyết vấn đề này có tên là GPUDirect Storage. Đây là một giao thức cho phép GPU giao tiếp trực tiếp với ổ lưu trữ qua công nghệ DMA, thay vì phải sao chép dữ liệu qua bộ nhớ CPU. Với GDS, hành trình của một khối dữ liệu từ ổ cứng đến GPU trở nên ngắn hơn, nhanh hơn và tốn ít tài nguyên CPU hơn. Nhưng GDS không hoạt động trong chân không. Nó phụ thuộc vào phần cứng mạng, vào hệ điều hành, vào các driver, và đặc biệt là vào hệ thống tệp của bên lưu trữ. DDN là một trong những hãng hiếm hoi có hạ tầng lưu trữ được thiết kế để theo kịp tốc độ của GPU. Sự kết hợp này tạo thành một chuỗi cung ứng dữ liệu khép kín: DDN cung cấp kho dữ liệu, Nvidia cung cấp hệ thống đường ống và GPU, và khách hàng chỉ cần cắm vào là chạy. Để hiểu sâu hơn, tôi đã dành ra ba ngày cuối tuần để lục lại các tài liệu kỹ thuật và diễn đàn của Nvidia. Kết quả cho tôi một nhận định: đây không phải một sáng tạo phá vỡ kiến trúc, mà là một sự tích hợp sâu ở tầng hệ thống. Có một chi tiết kỹ thuật mà báo chí không nhắc tới: vai trò của BlueField DPU. Đó là một loại vi xử lý mạng do Nvidia phát triển, chuyên xử lý các tác vụ truyền dữ liệu, bảo mật, và ảo hóa. Trong một hệ thống AI tối ưu, DPU sẽ nằm giữa lưu trữ và GPU, nhận lệnh từ phần mềm điều phối, quản lý các kết nối RDMA, đồng thời giải phóng CPU để làm việc khác. Không thể tách rời DPU khi nói về GDS trong bối cảnh hiện đại. Và vì DDN gần như chắc chắn sẽ tối ưu firmware và driver của mình theo DPU, nên câu chuyện “Nvidia + DDN” thực ra là câu chuyện “toàn bộ hệ sinh thái xoay quanh Nvidia”. Tôi nhớ khoảng năm 2021, khi làm một bản báo cáo tư vấn cho một quỹ đầu tư mạo hiểm ở châu Âu, tôi được yêu cầu đánh giá “hạ tầng AI phi tập trung”. Lúc bấy giờ, thị trường crypto nóng rực với những cái tên như Render, Akash, và sau này là io.net. Các whitepaper đều hứa hẹn một mạng lưới GPU toàn cầu. Nhưng tôi phát hiện ra một lỗ hổng chí mạng: họ chỉ mới giải quyết được phần sở hữu phần cứng, chứ chưa giải quyết được bài toán kết nối dữ liệu. Hãy thử hình dung một mạng GPU phi tập trung với 10.000 thẻ GPU rải rác trên toàn thế giới. Một nhà phát triển muốn huấn luyện mô hình với 10 terabyte dữ liệu. Dữ liệu có thể nằm trên nhiều nút lưu trữ, mỗi nút ở một quốc gia khác nhau. Đưa dữ liệu tới GPU qua internet là một cơn ác mộng. Băng thông hạn chế, độ trễ cao, chi phí mạng tăng vọt. Nếu so với một trung tâm dữ liệu tập trung có DDN và Nvidia, ngay trên cùng một rack, bạn sẽ thấy sự khác biệt giữa việc đi bộ và đi máy bay. Khi tôi trình bày điều này với CEO của quỹ, ông ta hỏi tôi: “Vậy thì những dự án đó còn ý nghĩa gì?”. Tôi trả lời: “Ý nghĩa của chúng phụ thuộc vào việc chúng có xây được một lớp trừu tượng dữ liệu hiệu quả hay không.” Tôi cũng nói thêm câu mà tôi đã dùng nhiều lần: Sự thật nằm ở lớp dưới cùng của giao dịch. Trong trường hợp này, lớp dưới cùng không phải là token hay smart contract, mà là kênh truyền dữ liệu vật lý giữa nơi lưu trữ và nơi tính toán. Từ đó, tôi bắt đầu nhìn nhận thương vụ DDN-Nvidia dưới một góc độ hoàn toàn khác. Đây không phải là một tin công nghệ đơn lẻ. Nó là câu trả lời của Nvidia cho câu hỏi khó nhất trong ngành AI: làm sao để bán được nhiều GPU hơn khi khách hàng ngày càng gặp khó khăn trong việc tận dụng tối đa sức mạnh của chúng? Nếu bạn từng vận hành một trung tâm dữ liệu nhỏ, bạn sẽ biết cảm giác theo dõi bảng điều khiển GPU utilization. Khi con số đó xuống dưới 50%, bạn bắt đầu đổ mồ hôi. GPU không chỉ là phần cứng đắt tiền; nó còn là một loại tài sản khấu hao nhanh, và mỗi giờ bỏ trống là mỗi giờ mất tiền. Với các tập đoàn siêu lớn đầu tư hàng tỷ USD, tỷ lệ sử dụng GPU thấp là một thảm họa tài chính. Nvidia biết điều này. Do đó, hợp tác với DDN là một hành động tự vệ: hãy làm cho GPU nhanh hơn, dễ sử dụng hơn, để khách hàng tiếp tục mua. Ngược lại, DDN là một công ty tư nhân, không phải niêm yết. Họ có thể không cần quan tâm đến dư luận. Nhưng hợp tác với Nvidia là một sự chứng thực mạnh mẽ với thị trường. Khi một tập đoàn mua hệ thống lưu trữ của DDN, họ sẽ không còn phải lo lắng về khả năng tương thích với GPU. Điều đó giảm thiểu rủi ro kỹ thuật và giúp đội ngũ bán hàng của DDN dễ dàng chốt đơn hơn. Nhưng nếu đào sâu hơn nữa, ta sẽ thấy một sự đối lập thú vị. Trong khi Nvidia và DDN đang xây dựng một giải pháp tối ưu cho trung tâm dữ liệu tập trung, thì các giao thức blockchain đang cố gắng phân tán hóa toàn bộ hạ tầng AI. Họ tạo ra thị trường GPU, sàn giao dịch tính toán, hệ thống lưu trữ phi tập trung. Tuy nhiên, họ lại không thể kiểm soát tầng phần cứng vật lý. Họ phải phụ thuộc vào những gì Nvidia và các hãng lưu trữ phát triển. Hãy nhìn vào Filecoin. Đây là một trong những mạng lưu trữ phi tập trung lớn nhất, với hàng nghìn nhà cung cấp trên toàn cầu. Nhưng mục đích chính của Filecoin vẫn là lưu trữ dữ liệu tĩnh, dữ liệu không cần truy cập thường xuyên. Khi bạn cần dữ liệu đó phục vụ huấn luyện AI, bạn phải tải về máy chủ của mình qua giao thức HTTP, sau đó từ ổ cứng nạp vào GPU. Điều đó chậm, tốn kém và phức tạp. Arweave thì có khái niệm “lưu trữ vĩnh viễn”, dữ liệu sẽ tồn tại mãi mãi. Nhưng sự vĩnh viễn đó không đồng nghĩa với khả năng truy cập nhanh. Bạn vẫn cần một lớp trung gian để đưa dữ liệu vào GPU. Nếu không có lớp trung gian nhanh, lưu trữ phi tập trung sẽ chỉ phù hợp với những bài toán có độ trễ thấp, không phải với deep learning. Trong khi đó, các nền tảng tính toán phi tập trung như Akash hay io.net lại chú trọng vào GPU. Họ tối ưu việc phân phối tác vụ, nhưng phần lớn vẫn chưa giải quyết được vấn đề băng thông và lưu trữ nội bộ. Kết quả là các mô hình nhỏ, batch nhỏ, thử nghiệm POC thì chạy được. Còn các mô hình lớn yêu cầu dữ liệu terabytes trên nhiều node, thì hiệu năng không thể bảo đảm. Đây chính là lúc câu chuyện DDN-Nvidia trở thành một cảnh báo cho Web3. Chúng ta có thể nói về “AI phi tập trung” như một mục tiêu lý tưởng, nhưng nếu hạ tầng truyền dữ liệu vẫn là độc quyền của một vài công ty, thì sự phi tập trung chỉ là bề nổi. Để thực sự cạnh tranh, các mạng phi tập trung cần có một lớp dữ liệu có hiệu suất tương đương GDS, được xây dựng trên chuẩn mở. Có lẽ chúng ta sẽ thấy một “GPUDirect Storage phi tập trung” dựa trên công nghệ RDMA over Converged Ethernet, hoặc thậm chí là một lớp cache dữ liệu ngang hàng hiệu quả. Nhưng để làm được điều đó, cần có sự hợp tác chặt chẽ giữa các nhà phát triển giao thức và các nhà sản xuất phần cứng. Và đó là thứ mà hiện tại rất ít dự án blockchain làm được. Một khía cạnh khác khiến tôi chú ý là sự im lặng của DDN về các con số. Theo kinh nghiệm của tôi, khi một công ty công bố hợp tác với Nvidia mà không đưa ra một chỉ số nào, thì thường là vì họ chưa hoàn tất các thử nghiệm hiệu năng. Nếu họ có một con số kỳ diệu, chẳng hạn “tăng 4 lần tốc độ huấn luyện”, họ sẽ trình bày ngay trong dòng đầu tiên. Việc không có số liệu cho thấy thỏa thuận có thể chỉ là một biên bản ghi nhớ chứ chưa phải một sản phẩm hoàn chỉnh. Tuy nhiên, không vì thế mà chúng ta nên coi nhẹ. Nvidia luôn có chiến lược dài hạn. Các thỏa thuận kiểu này thường bắt đầu bằng một dự án thử nghiệm, sau đó lan rộng thành một chương trình chứng nhận. Trong 12 đến 24 tháng tới, rất có thể chúng ta sẽ thấy hơn một chục hãng lưu trữ hợp tác tương tự, tạo thành một hệ sinh thái “AI Data Platform” chuẩn hóa. Khi đó, những ai muốn chạy AI ở quy mô lớn sẽ gần như phải mua theo gói của Nvidia, từ GPU đến DPU, mạng InfiniBand, và các hệ thống lưu trữ được chứng nhận. Điều đó trái ngược hoàn toàn với tinh thần mở của Web3. Tôi muốn quay lại một chút với câu chuyện cá nhân. Hồi năm 2017, khi tôi bắt đầu viết phân tích về các dự án ICO, tôi đã chứng kiến rất nhiều đội ngũ dùng những thuật ngữ hoa mỹ để che giấu sự thiếu sót ở tầng kỹ thuật. Tôi học được rằng, trong mọi hệ thống, vật cản lớn nhất không phải là thứ mà bạn nhìn thấy trên bề mặt. Với một quả bóng rơi tự do, người ta nhìn vào gia tốc. Với một giao thức tài chính, người ta nhìn vào thanh khoản. Với hạ tầng AI, người ta phải nhìn vào cách dữ liệu di chuyển. Sự thật nằm ở lớp dưới cùng của giao dịch — và trong trường hợp này, giao dịch là giữa dữ liệu và GPU. Cuộc chơi này đang thay đổi cán cân quyền lực. Khi các ông lớn như Nvidia tham gia giải quyết bài toán dữ liệu, chi phí huấn luyện AI toàn cầu sẽ giảm, nhưng chi phí để sở hữu một hệ thống cạnh tranh sẽ tăng. Về mặt kinh tế, điều này có thể tạo ra một rào cản gia nhập khổng lồ. Các startup AI nhỏ không thể mua nổi hạ tầng DDN-Nvidia, trong khi những tập đoàn lớn thì ngày càng mạnh. Điều đó đi ngược lại với câu chuyện “AI cho mọi người” mà các blockchain từng hứa hẹn. Tuy nhiên, có một cánh cửa cơ hội. Nếu một giao thức blockchain nào đó thiết kế được một lớp truy xuất dữ liệu phi tập trung, có thể chạy trên phần cứng phổ thông, với chi phí chỉ bằng 1/10 so với DDN, thì họ sẽ trở thành “lớp dữ liệu” của AI phi tập trung. Đây sẽ là một cơ hội nghìn tỷ đô la. Nhưng khoảng thời gian để làm điều đó không còn nhiều. Các chuẩn giao thức đang dần được thiết lập, và một khi các trung tâm dữ liệu lớn đồng loạt áp dụng GDS + InfiniBand, thì việc chuyển sang một giải pháp mở sẽ khó khăn hơn nhiều. Chúng ta đã từng chứng kiến sự thống trị của TCP/IP như một chuẩn mở. Nhưng ở tầng lưu trữ cho AI, chuẩn đó có thể không phải là mở. Hãy nghĩ về những dự án blockchain mà bạn đang theo dõi. Họ có thực sự xây dựng được một lợi thế cạnh tranh ở tầng hạ tầng dữ liệu không? Hay họ chỉ đang mua GPU về đốt token? Nếu bạn không biết câu trả lời, thì đã đến lúc cần bắt đầu săn tìm. Mỗi lần crash là một bản đồ kho báu mới. Bản đồ của chu kỳ này nằm ở nơi ít người nhìn tới: các đường ống vận chuyển dữ liệu kín đáo giữa Nvidia, DDN và các công ty lưu trữ khác. Còn câu hỏi dành cho các dự án Web3 là: họ sẽ tự vẽ bản đồ cho mình, hay để Nvidia vẽ thay? Khi tất cả đều nghĩ đây là panic sell, đó lại là lúc framework của tôi bật đèn xanh.