Tôi đã từng dành ba tuần liền để đọc từng dòng mã nguồn của EOS Dawn 2.0, chỉ vì tò mò về cơ chế delegated proof-of-stake. Tôi tìm được một lỗi signature malleability trong thư viện secp256k1, submit lên GitHub, và nhóm EOS không phản hồi. Bài học đó dạy tôi rằng: trong thế giới blockchain, những con số ấn tượng thường che giấu những lỗ hổng chết người.
Khi tôi đọc về Moonshot AI và Kimi K3 — một mô hình được quảng cáo với 2,8 nghìn tỷ tham số, tôi lập tức nhận ra một sự tương đồng đáng ngại. Nó giống như một ICO lớn: bạn bị choáng ngợp bởi con số, nhưng khi nhìn vào mã nguồn, bạn thấy một cấu trúc rỗng tuếch. Kimi K3 không phải là một dự án blockchain, nhưng cách nó được tiếp thị và những rủi ro kỹ thuật tiềm ẩn lại mang đậm dấu ấn của một 'cơn sốt' đầu cơ công nghệ.
Hãy để tôi phân tích điều này dưới góc nhìn của một người đã từng audit hàng chục dự án blockchain. Khi bạn thấy một con số như 2,8 nghìn tỷ tham số, câu hỏi đầu tiên của một Tech Diver không phải là 'Nó mạnh cỡ nào?' mà là: 'Cấu trúc thực sự của nó là gì?'. Một mô hình tham số thuần (Dense model) với kích thước này là bất khả thi về mặt chi phí tính toán. Nó gần như chắc chắn là một Mixture-of-Experts (MoE), nơi mỗi lần suy luận chỉ kích hoạt một phần nhỏ tham số. Vậy con số '2,8 nghìn tỷ' là tổng tham số, không phải tham số hoạt động. Đây là một sự khác biệt mang tính bước ngoặt, giống như việc bạn tuyên bố một ngân hàng có '100 triệuUSD tài sản' nhưng thực tế chỉ có 10 triệuUSD thanh khoản ngay lập tức.
Điểm mù bảo mật đầu tiên nằm ở chính cấu trúc này. Các mô hình MoE, đặc biệt là những mô hình được huấn luyện vội vàng để đạt kích thước khổng lồ, thường mắc các lỗi về 'cân bằng tải' (load balancing). Trong một audit, tôi sẽ kiểm tra xem liệu tất cả các 'expert' (chuyên gia) trong mô hình có được sử dụng đồng đều hay không. Nếu không, điều này tạo ra một bề mặt tấn công mới: kẻ tấn công có thể thiết kế các đầu vào để chỉ kích hoạt một vài expert yếu, từ đó khai thác các lỗ hổng cục bộ. Giao thức blockchain cũng vậy: khi bạn có một cơ chế đồng thuận phức tạp (như DPOS của EOS), điểm yếu thường nằm ở sự phân phối quyền lực không đồng đều giữa các block producer.
Bối cảnh thị trường hiện tại là một cơn sốt tăng giá. FOMO đang chi phối, và mọi người chỉ muốn nghe về những con số lớn. Họ muốn tin rằng Kimi K3 sẽ 'challenge US AI dominance' như tuyên bố. Nhưng với tư cách là một nhà phân tích kỹ thuật, tôi nhìn thấy một vấn đề cốt lõi: toàn bộ câu chuyện thiếu đi bằng chứng kỹ thuật. Họ không công bố kiến trúc, không có benchmark độc lập, không có báo cáo audit bảo mật. Họ chỉ có một con số và một lời hứa. Điều này giống hệt như một dự án ICO chỉ có whitepaper mà không có code.
Cốt lõi của vấn đề nằm ở sự mâu thuẫn giữa 'chi phí' và 'giá cả'. Huấn luyện một mô hình 2,8 nghìn tỷ tham số, dù là MoE, cũng cần một cụm GPU trị giá hàng trăm triệu USD. Chi phí suy luận cho một mô hình như vậy là rất lớn. Vậy mà Moonshot AI lại tuyên bố 'giá cả cạnh tranh'. Điều này chỉ có thể xảy ra nếu: 1. Họ đang bán phá giá (dưới giá thành) để chiếm thị phần. 2. Hoặc, con số tham số hoạt động thực tế rất thấp, khiến chi phí suy luận thấp hơn nhiều so với tưởng tượng. Trong cả hai trường hợp, đây là một dấu hiệu cho thấy tính bền vững của mô hình kinh doanh là cực kỳ yếu, và đó là một rủi ro lớn cho bất kỳ ai muốn xây dựng ứng dụng dựa trên nó. Trong thế giới DeFi, điều này tương đương với một giao thức cho vay hứa hẹn lãi suất không tưởng: nó quá tốt để có thể là sự thật.
Góc nhìn phản trực giác: Phần lớn các bài phân tích tập trung vào việc so sánh con số tham số với GPT-4, hay thảo luận về tác động địa chính trị. Họ bỏ lỡ một điểm mù quan trọng: bảo mật của mô hình AI không nằm ở kiến trúc hay tham số, mà nằm ở quy trình huấn luyện và dữ liệu. Một mô hình AI mạnh mẽ nhưng được huấn luyện trên dữ liệu có chứa các backdoor có thể bị khai thác để tạo ra các cuộc tấn công tinh vi. Hãy tưởng tượng: kẻ tấn công có thể chèn một mẫu văn bản cụ thể, và mô hình sẽ thực thi một hành động độc hại. Đây không phải là khoa học viễn tưởng. Các nghiên cứu về 'data poisoning' đã chỉ ra điều đó. Và khi một mô hình có kích thước khổng lồ như vậy, việc audit toàn bộ dữ liệu huấn luyện là gần như bất khả thi. Điều này tạo ra một bề mặt tấn công rộng lớn mà không ai để ý đến.
Không chỉ có vậy. Việc một mô hình AI khổng lồ được tích hợp vào các ứng dụng blockchain thông qua các oracle hay agent sẽ tạo ra một lớp rủi ro mới. Một lỗi trong mô hình có thể kích hoạt một loạt các giao dịch tự động, dẫn đến tổn thất hàng triệu USD chỉ trong vài giây. Trong thế giới audit, chúng tôi gọi đây là 'lỗ hổng hợp chất' (compositional vulnerability) — một lỗi nhỏ trong một thành phần có thể gây ra tác động dây chuyền trong toàn bộ hệ thống. Chúng ta đã thấy điều này trong vụ sập của hệ sinh thái Terra/Luna, nơi một lỗ hổng trong stablecoin đã kéo theo toàn bộ thị trường. Kimi K3, nếu được tích hợp vào DeFi, có thể là một Terra mới.
Kết luận của tôi rất đơn giản: Kimi K3 là một câu chuyện kỹ thuật đầy hứa hẹn, nhưng nó đang được kể bởi những người bán hàng, không phải những kỹ sư. Các nhà đầu tư và nhà phát triển đang FOMO nên đã quên mất nguyên tắc cơ bản của bảo mật: 'Trust, but verify'. Hãy nhìn vào code. Hãy nghi ngờ những con số lớn. Hãy đặt câu hỏi: 'Điều này sẽ đổ vỡ như thế nào?'.
Câu trả lời, dựa trên kinh nghiệm audit ICO EOS của tôi, thường nằm ở những nơi bạn ít ngờ tới nhất. Audit ICO EOS: bài học rằng một hệ thống có vẻ mạnh mẽ nhất cũng chỉ an toàn khi bạn hiểu rõ từng dòng code. Và với Kimi K3, chúng ta thậm chí chưa có code để xem xét.