Hook
Ngày 15 tháng 4, một tin tức lặng lẽ xuất hiện trên Crypto Briefing: IBM và Together AI ký kết thỏa thuận trị giá 2,4 tỷ USD để xây dựng một cụm suy luận AI quy mô lớn. Con số này không phải là vòng gọi vốn, không phải M&A, mà là một hợp đồng dịch vụ – một cam kết tài chính khổng lồ từ một gã khổng lồ công nghệ 112 năm tuổi dành cho một startup AI mới 3 năm.
Tôi lập tức dừng lại. Đây không phải là một bản tin thông thường. Trong bối cảnh thị trường AI inference đang nóng lên từng ngày, một thỏa thuận như thế này giống như một phát súng báo hiệu cuộc chơi đã bước vào giai đoạn mới. Nhưng liệu đó là tín hiệu cho sự trỗi dậy của mô hình "AI inference-as-a-service" do startup dẫn dắt, hay chỉ là một canh bạc đắt đỏ của IBM để bắt kịp cuộc đua GPU?
Context
Để hiểu thỏa thuận này, cần nhìn lại bức tranh toàn cảnh. IBM, dù là một trong những tên tuổi lớn nhất trong lịch sử công nghệ, đã bỏ lỡ cuộc đua điện toán đám mây thế hệ đầu. Hiện tại, IBM Cloud chỉ chiếm chưa đến 2% thị trường IaaS toàn cầu, đứng sau AWS, Azure, GCP, và thậm chí cả Alibaba. Khi làn sóng AI bùng nổ, IBM tung ra watsonx – một nền tảng AI doanh nghiệp – nhưng lại thiếu hụt trầm trọng cơ sở hạ tầng GPU. Họ phải thuê GPU từ các đối tác, mất đi lợi thế về chi phí và khả năng kiểm soát.
Together AI ra đời năm 2022, với sứ mệnh tối ưu hóa suy luận cho các mô hình nguồn mở. Họ xây dựng một tầng phần mềm phía trên các GPU của NVIDIA, sử dụng các framework như vLLM, SGLang, và kỹ thuật PagedAttention, continuous batching để tăng hiệu suất suy luận lên gấp 2-3 lần so với cách triển khai thông thường. Tháng 11/2023, họ huy động 102,5 triệu USD vòng A do Kleiner Perkins dẫn đầu, với sự tham gia của NVIDIA – một tín hiệu cho thấy ngay cả ông lớn chip cũng đặt cược vào họ.
Bây giờ, IBM quyết định trao cho Together AI một hợp đồng 2,4 tỷ USD. Điều này có nghĩa là gì? Nó giống như việc một ngân hàng trung ương giao phó việc in tiền cho một công ty fintech mới thành lập. Có quá nhiều điểm mù trong câu chuyện này.
Core Insight
1. Quy mô cụm suy luận: ước tính và ẩn số
Dựa trên kinh nghiệm tư vấn cho các dự án hạ tầng AI tại châu Âu, tôi có thể phác thảo một số con số. Nếu 2,4 tỷ USD là tổng chi phí trong 3-5 năm (bao gồm cả phần cứng, vận hành, và phí dịch vụ), thì phần dành cho GPU có thể chiếm 30-40% – tức khoảng 700-900 triệu USD. Với giá mỗi GPU H100 hiện tại khoảng 25.000-30.000 USD khi mua theo lô lớn (bao gồm server, networking, storage), con số này tương ứng với khoảng 23.000 – 30.000 GPU H100. Nhưng nếu tính cả chi phí vận hành, điện, cooling, và margin của Together AI, con số thực tế có thể chỉ là 10.000-15.000 GPU.
Đây là một cụm suy luận cỡ lớn, nhưng không phải là siêu cụm. So sánh: Meta đang vận hành cụm 24.000 H100 cho Llama 3, còn xAI của Elon Musk đã triển khai 100.000 H100 cho Grok. Tuy nhiên, đối với IBM, đây là một bước nhảy vọt – họ gần như không có GPU nào đáng kể trước đây.
2. Tại sao IBM chọn Together AI thay vì tự xây?
Câu trả lời nằm ở tốc độ và rủi ro. IBM có thể tự mua GPU và xây dựng cụm, nhưng họ thiếu đội ngũ vận hành và tối ưu hóa suy luận. Together AI mang đến một tầng phần mềm đã được kiểm chứng, giúp giảm chi phí suy luận xuống đáng kể. Hơn nữa, IBM muốn tránh rủi ro công nghệ: nếu tự xây, họ sẽ mất 12-18 tháng để đạt đến trình độ tối ưu hóa như Together AI. Trong khi đó, thị trường AI doanh nghiệp đang bùng nổ, và mỗi quý chậm trễ đều là mất mát doanh thu.
3. Thương mại: Ai thực sự được lợi?
Về phía Together AI, hợp đồng này là một cú hích sinh tồn. Với doanh thu cam kết 2,4 tỷ USD, họ có thể chứng minh với nhà đầu tư rằng mô hình kinh doanh của họ khả thi. Tuy nhiên, đây cũng là một con dao hai lưỡi: họ phải chi tiền trước để mua GPU, và nếu IBM không sử dụng hết công suất, họ sẽ gánh lỗ. Các hợp đồng lớn thường có điều khoản "minimum commitment" – IBM cam kết chi tiêu tối thiểu, nhưng không đảm bảo sẽ sử dụng hết. Tôi ước tính tỷ lệ sử dụng thực tế có thể chỉ đạt 60-70% trong năm đầu, gây áp lực lên biên lợi nhuận của Together AI.
Đối với IBM, thương vụ này có thể mang lại lợi thế cạnh tranh nếu họ tận dụng được. Với chi phí suy luận thấp hơn nhờ tối ưu của Together AI, IBM có thể chào giá cạnh tranh cho các doanh nghiệp lớn, đặc biệt trong lĩnh vực tài chính, y tế, và chính phủ – nơi họ có thế mạnh quan hệ. Nhưng nếu Together AI không đạt được các chỉ số hiệu suất đã hứa, IBM sẽ mắc kẹt trong một hợp đồng đắt đỏ.
4. Ảnh hưởng đến hệ sinh thái nguồn mở
Một điểm thú vị: Together AI tối ưu suy luận chủ yếu cho các mô hình nguồn mở như Llama, Mistral, Falcon. Cụm suy luận khổng lồ này sẽ làm giảm chi phí triển khai các mô hình nguồn mở ở quy mô doanh nghiệp, từ đó tạo áp lực lên các API đóng như GPT-4. Đây là một tín hiệu tích cực cho cộng đồng mã nguồn mở, nhưng cũng là một canh bạc: liệu doanh nghiệp có sẵn sàng từ bỏ sự tiện lợi của GPT-4 để chuyển sang các mô hình nguồn mở cần tinh chỉnh nhiều hơn không?
Contrarian Angle
Góc nhìn phản trực giác: Đây có thể là một sai lầm chiến lược của IBM.
Hầu hết các bài phân tích đều ca ngợi thỏa thuận này như một bước đi thông minh. Nhưng tôi cho rằng có một rủi ro lớn bị bỏ qua: sự phụ thuộc công nghệ. IBM đang trao cho Together AI quyền kiểm soát tầng phần mềm suy luận – một phần cốt lõi của kiến trúc AI. Nếu sau này Together AI bị đối thủ mua lại hoặc thay đổi chiến lược, IBM sẽ mất khả năng cạnh tranh. Hơn nữa, NVIDIA đang phát triển các giải pháp suy luận tối ưu hơn (ví dụ: TensorRT-LLM, Triton Inference Server), và các framework nguồn mở như vLLM đang ngày càng hoàn thiện. Giá trị của Together AI có thể bị xói mòn nhanh chóng trong 2-3 năm tới.
Một điểm mù khác: khả năng cung cấp GPU. Thị trường GPU H100 vẫn khan hiếm. Together AI có thể gặp khó khăn trong việc mua số lượng lớn, ngay cả với sự hậu thuẫn của NVIDIA. Nếu việc giao hàng bị trì hoãn, IBM sẽ mất uy tín với khách hàng doanh nghiệp – những người đã kỳ vọng dịch vụ AI inference sẵn sàng ngay lập tức.
Takeaway
Thỏa thuận IBM – Together AI là một cột mốc quan trọng, nhưng nó không phải là một chiến thắng chắc chắn. Nó phản ánh một thực tế: trong cuộc đua AI, ngay cả những gã khổng lồ cũng phải đi vay mượn sức mạnh từ các startup. Câu hỏi đặt ra là: Liệu mô hình "thuê ngoài suy luận" có bền vững, hay các doanh nghiệp lớn sẽ sớm tự xây dựng năng lực nội bộ? Tôi nghiêng về kịch bản thứ hai. Khi AI inference trở thành hạ tầng thiết yếu như điện và nước, các tập đoàn sẽ muốn kiểm soát nó. IBM có thể đang mua thời gian, nhưng cái giá 2,4 tỷ USD có thể là quá đắt cho một tấm vé tạm thời.
Chúng ta hãy theo dõi: nếu trong 12 tháng tới, IBM không công bố các dịch vụ AI inference mới với mức giá cạnh tranh, hoặc Together AI không đạt được các chỉ số hiệu suất đã hứa, thì đây sẽ là một bài học đắt giá về sự khác biệt giữa chiến lược và thực thi.
