
100.000 tỷ tham số: Canh bạc AI đưa ByteDance lên đỉnh hay xuống hố?
Hoàng Tâm
Hồi năm 2017, tôi bỏ 40 ETH vào EOS vì tin vào câu chuyện 'Ethereum killer'. Kết cục: token mất 75% sau mainnet. Thất bại ICO dạy tôi cách đọc vị một thứ vô hình nhưng mạnh hơn cả công nghệ: narrative. Và bản tin mới nhất từ Financial Times kể về ByteDance chính là một narrative đang thành hình ngay trước mắt chúng ta. Công ty mẹ của TikTok đang đặt cược vào một mô hình AI lên tới 100.000 tỷ tham số — con số mà nếu đúng, sẽ vượt qua mọi thứ Anthropic hay OpenAI từng hé lộ.
Bối cảnh cần nói rõ: đây không phải một sản phẩm đã chạy, mà là một canh bạc ở giai đoạn 'khả thi hóa'. FT dẫn nguồn tin nội bộ cho biết mô hình — tạm gọi là 'dự án 100T' — đang trong giai đoạn tiền huấn luyện, tức còn cách xa ngày ra mắt. Điều quan trọng không nằm ở con số 100.000 tỷ. Nó nằm ở việc ByteDance sẵn sàng đốt tiền vào một thứ mà ngay cả những tay chơi giàu nhất Thung lũng Silicon cũng phải cân não. Họ đang gửi đi tín hiệu rằng mình không còn muốn làm kẻ đi sau trong cuộc đua AGI.
Câu chuyện kỹ thuật ở đây mới là thứ khiến tôi tỉnh cả ngủ. 100.000 tỷ tham số là con số đến mức phi lý nếu dùng kiến trúc transformer thuần túy. Kiểu gì ByteDance cũng phải dùng sparse MoE — tức là thay vì kích hoạt toàn bộ mạng lưới mỗi lần suy luận, chỉ một phần nhỏ 'chuyên gia' được bật lên. Nhưng FT không nói rõ điều quan trọng nhất: 100.000 tỷ là tổng tham số hay tham số kích hoạt? Với kinh nghiệm phân tích hàng trăm dự án của tôi, sự khác biệt này quyết định mọi thứ. Nếu là tổng tham số, chi phí huấn luyện có thể nuốt chửng cả một quỹ đầu tư cỡ vừa. Thử làm một phép tính nhẩm từng học được khi còn làm fund manager: 100.000 tỷ tham số ở định dạng BF16 cần khoảng 200 terabyte bộ nhớ chỉ để chứa trọng số. Cộng thêm gradient và trạng thái tối ưu hóa, anh em đang nói chuyện hàng nghìn GPU 80GB nối mạng với tốc độ ánh sáng. Với ngân sách vài chục nghìn card H100, con số đó vẫn là một thách thức logistics đau đầu. Đây chính là lý do tôi luôn nói: quy mô tham số không phải là lợi thế, mà là một khoản nợ kỹ thuật khổng lồ cần trả trước khi thấy được trí tuệ.
Giờ đến phần phản trực giác. Anh em cứ tưởng ByteDance đang đặt cược vào sức mạnh tuyệt đối của quy mô. Không. Tôi nghĩ họ thông minh hơn thế. Bằng chứng là việc Trương Nhất Minh — người sáng lập — phản đối việc dùng kỹ thuật distillation từ model của đối thủ. Điều đó nói lên rằng: họ không chạy theo điểm số benchmark, họ muốn sở hữu công nghệ gốc. Nhìn từ góc độ đầu tư, đây là tín hiệu tốt hơn bất kỳ thông cáo báo chí nào. Nhưng cái bẫy nằm ở chỗ khác. Cả thị trường AI đang bị ám ảnh bởi 'cuộc đua vũ trang tham số'. Nếu ByteDance thành công, họ sẽ kéo cả ngành vào một vòng xoáy chi phí mà không mấy công ty chịu nổi. Còn nếu thất bại — tức là mô hình không hội tụ, hoặc chi phí suy luận đắt đến mức không thể thương mại hóa — thì cái giá phải trả không chỉ là một dự án chết, mà là cả một niềm tin bị tổn hại.
Điểm mù lớn nhất, theo cách tôi nhìn, lại là hạ tầng. FT chỉ bóng gió về '3-6 tháng tiền huấn luyện'. Nghe lạc quan đấy, nhưng với quy mô 100.000 tỷ, đừng quên các vấn đề về checkpoint, phục hồi lỗi, độ ổn định của mạng kết nối. Việc một cụm hàng chục nghìn GPU chạy liên tục nhiều tháng mà không gặp sự cố là một kỳ tích kỹ thuật, không phải chuyện mặc định. Đó là lý do tôi đánh giá rủi ro số một của dự án này không nằm ở thuật toán, mà nằm ở việc họ có đủ điện và đủ chip để chạy trước khi câu chuyện trở thành xu hướng. Nếu ByteDance không giải quyết được bài toán năng lượng và bán dẫn, thì '100.000 tỷ tham số' chỉ là một mỹ từ đẹp đẽ trên slide.
Vậy câu hỏi thật sự không phải 'ByteDance có làm được không?'. Với nguồn tiền và nhân tài, họ có cơ hội. Câu hỏi đáng đặt ra là: khi mọi ông lớn đều chạy theo quy mô, ai sẽ là người dạy cả thị trường bài học rằng tham số không tự sinh ra trí tuệ? Tôi đã chứng kiến những chu kỳ này lặp lại: ICO, DeFi, NFT. Kẻ chiến thắng không phải người đốt nhiều tiền nhất, mà người biết rằng mọi câu chuyện đều có điểm rơi. Điểm rơi của câu chuyện 100.000 tỷ tham số có thể đến vào ngày họ công bố benchmark, hoặc ngày họ buộc phải hạ mục tiêu xuống còn 30.000 tỷ vì lý do hạ tầng. Chính những khoảnh khắc đó mới định nghĩa thực lực của một quỹ, hay một tập đoàn. Còn tôi, tôi sẽ ngồi đó, nhìn vào dòng tiền và nhớ về bài học EOS năm nào: sự hào nhoáng của quy mô có thể bán được vé vào cửa, nhưng chỉ sự vận hành tốt mới giữ anh em ở lại rạp.