Moonshot AI vừa tuyên bố mô hình Kimi K3 sở hữu 2.8 nghìn tỷ tham số, khớp hiệu suất với GPT-4o và Claude 3.5. Con số này đủ để gây sốc bất kỳ ai trong giới AI – nhưng tôi không bị ấn tượng, mà chỉ thấy quen thuộc.
Hãy nhìn lại lịch sử: Năm 2020, GPT-3 ra mắt với 175 tỷ tham số, gây chấn động. Sau đó, mọi startup lao vào cuộc đua tham số. Năm 2023, một dự án Trung Quốc tuyên bố 1.6 nghìn tỷ, nhưng hóa ra là MoE với 16 tỷ tham số kích hoạt. Năm 2024, DeepSeek-V2 công bố 236 tỷ tham số tổng, 21 tỷ kích hoạt. Chu kỳ này lặp đi lặp lại: tuyên bố ồ ạt, sau đó làm rõ cấu trúc hé lộ sự thật.
Mã nguồn sạch, logic bẩn. 2.8 nghìn tỷ không có ý nghĩa nếu không biết là Dense hay MoE. Nếu là Dense, chi phí huấn luyện sẽ vượt 10 tỷ USD, điều không tưởng với một startup. Nếu là MoE – khả năng cao – thì tham số kích hoạt có thể chỉ 200-300 tỷ, ngang bằng với Claude 3.5 Sonnet. Tuyên bố 'khớp hiệu suất' càng mờ hồ: khớp trên benchmark nào? So với phiên bản nào? Không có chi tiết.
Đọc code trước khi ký. – nhưng ở đây, không có code nào để đọc. Chỉ có một thông cáo báo chí từ Crypto Briefing, một trang chuyên về tiền số, không phải AI. Điều này đặt ra câu hỏi về động cơ: gây tiếng vang trước vòng gọi vốn? Hay đánh lạc hướng khỏi điểm yếu? Tôi đã kiểm toán hàng trăm dự án Web3, và tôi biết mùi vị của sự thổi phồng: nó luôn đi kèm với thiếu minh bạch.
Fork không phải là innovation. Tăng tham số cũng vậy. Nếu không có đột phá về kiến trúc, dữ liệu hoặc hiệu quả huấn luyện, 2.8 nghìn tỷ chỉ là một con số vô nghĩa. Ngành AI đã vượt qua cuộc đua tham số từ năm 2022. Các mô hình nhỏ hơn nhưng được tối ưu tốt (như phi-3, Gemma-2) đạt hiệu suất ấn tượng với 7-27 tỷ tham số. Sự tập trung vào tham số tổng cho thấy đội ngũ này vẫn mắc kẹt trong tư duy cũ.
Điểm mù phe bò sẽ nói: Moonshot AI có sản phẩm thực (Kimi Chat), được người dùng Trung Quốc yêu thích, và có thể họ đang giấu bài. Nếu K3 thực sự là MoE với 200 tỷ kích hoạt, đó vẫn là một thành tựu đáng nể. Nhưng lịch sử dạy tôi: khi một công ty chỉ đưa ra con số tham số mà không có benchmark, hãy coi đó là nhiễu trước khi có bằng chứng.
Kết luận? Đừng đầu tư danh tiếng hay tiền bạc dựa trên tuyên bố này. Hãy chờ arXiv paper, LMSYS Chatbot Arena ranking, hoặc ít nhất là so sánh trực tiếp trên MMLU. Nếu Moonshot AI thực sự đột phá, họ sẽ vui vẻ công bố chi tiết. Cho đến lúc đó, tôi gọi đây là 'parameter inflation' – một chiêu PR cũ.