Bỗng 1 ngày vào X tui thấy bài viết về KAT Coder và cuộc thi của họ thì tui thấy nó khá thú vị vì đây là một mô hình mới, khi thử thì bùm! Nó hiểu prompt bằng tiếng Việt, vì thế mà tui ngay lập tức tham gia vào cuộc thi lẫn tìm hiểu về KAT Coder là gì cũng như cách sử dụng.
Bài này nó sẽ gồm 2 phần chính là tìm hiểu sở bộ về KAT Coder và phần 2 là phần tui thực chiến tự tay code bằng mồm :))) còn lại để coi KAT Coder nó ngon tới cỡ nào, thôi vô luôn!
Tổng quan về KAT Coder
KAT Coder là gì? Ai đứng sau nó?
KAT Coder là mô hình AI lập trình cao cấp giống Claude code hay CodeX, nó nằm trong dòng KAT (Kwaipilot-AutoThink) do nhóm AI4SE của Kuaishou phát triển. Điểm khác biệt lớn nhất: nó nhắm tới agentic coding — không chỉ đoán tiếp vài token, mà hiểu bài toán, lập kế hoạch, điều phối công cụ (debugger, hệ thống build, git, shell…) và tự hoàn thành nhiệm vụ như một kỹ sư phần mềm. Trong các bài benchmark thực chiến, KAT Coder đạt 73,4% trên SWE-Bench Verified, tức là đứng chung mâm với những model top-tier gần đây, và vượt khá xa các model code mở phổ biến. Con số thì khô, nhưng ý nghĩa rất “ướt”: nó đỡ việc thật, nhất là các đầu việc nhiều bước và chạm vào nhiều file.
Ở tầng máy móc, KAT Coder dùng kiến trúc MoE (Mixture-of-Experts): tầm ~72 tỷ tham số hoạt động (và tổng tham số huấn luyện vượt nghìn tỷ). Hình dung thế này: thay vì một “bộ não” làm tất, nó có nhiều chuyên gia cùng ngồi trong đầu, mỗi ông giỏi một mảng (phân tích mã, sửa lỗi, viết test, v.v.), và khi bạn nêu bài toán, đúng chuyên gia sẽ bật dậy xử lý. Kết quả là tốc độ tốt hơn, độ chính xác cao hơn, và đặc biệt hiệu quả khi đụng các nhiệm vụ “đa bước-đa tệp”.
“Vũ khí bí mật” nữa là cửa sổ ngữ cảnh cực lớn: lên tới 262k token (cỡ 200k từ). Nghĩa là thay vì bắt AI “đoán mù” từ vài file lẻ, bạn cho nó nuốt cả codebase — kiến trúc, phụ thuộc, config, test, tất tần tật — rồi để nó làm việc xuyên tệp: sửa bug chéo module, refactor nhiều lớp, viết test trùm cuối. So với các model có ngữ cảnh 65k hoặc 128k token, lợi thế này như từ màn hình 13″ nhảy lên siêu ultrawide: thấy hết, hiểu sâu, bớt đoán mò.
Ờ nếu bạn nghe Kuaishou thấy quen quen thì họ là đơn vị phát triển Kling AI – AI làm video luôn á. Tui cực kỳ thích Kling turbo 2.5 giá rẻ làm mấy cảnh epic ngon mỗi tội hơi bị dìm khi những AI khác thì có âm thanh còn nó thì không.
Các mô hình trong bộ KAT
Về “đời sống” sản phẩm, hệ gia đình KAT có nhiều “anh em”:
- KAT-Dev-32B (mở nguồn) để nghiên cứu/thử nghiệm, chạy được local (nếu bạn có GPU lực lưỡng).
- KAT-Dev-72B-Exp (mở) – biến thể RL mạnh tay hơn.
- KAT Coder (flagship) – bản đóng đi kèm API (StreamLake, Novita AI), dành cho đội ngũ sản xuất.
- KAT Coder-Pro/Air – nhắm tới tích hợp IDE (Claude Code, và mấy extension trong VScode như Cline, Kilo Code, Roo Code…) hoặc như tui thì xài Cline trong Cursor.
Nếu bạn cần gợi ý nhanh: thích vọc, học, hoặc tự host → dùng KAT-Dev trên HuggingFace. Cần hiệu quả thực chiến, tích hợp quy trình doanh nghiệp → KAT Coder qua API. Và dù bạn ở nhóm nào, nguyên tắc vàng vẫn là: đừng giao “mệnh lệnh trời” trong một prompt duy nhất. Chia nhỏ nhiệm vụ, đưa ngữ cảnh đúng chỗ, phản hồi theo vòng — bạn sẽ thấy “đồng nghiệp AI” này biết làm… mà còn biết lắng nghe.
Nên chọn bản nào?
| Phiên bản | Tham số | Mở/Đóng | Hiệu suất SWE-Bench | Cửa sổ ngữ cảnh | Dành cho ai |
| KAT-Dev-32B | ~32B | Mở nguồn (Apache-2.0) | 62.4% | 65k | Học & thử nghiệm |
| KAT-Dev-72B-Exp | ~72.7B | Mở | 74.6% | 128k | Mạnh nhất trong model mở |
| KAT Coder (flagship) | ~72B | Đóng (API) | 73.4% | 128k–262k | Dành cho doanh nghiệp |
| KAT Coder-Pro / Air | ~72B | Đóng | 73.4% | 128k–262k | Tích hợp IDE hoặc bản dùng thử |
Nếu bạn thích vọc vạch, hãy chọn bản mở trên HuggingFace. Còn nếu cần sức mạnh thật sự, hãy chơi lớn với KAT Coder qua API.
Cách dùng KAT Coder
Dùng KAT-Dev (mở nguồn)
Cài đặt đơn giản bằng Python:
pip install transformers torch –upgrade
from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = “Kwaipilot/KAT-Dev” # hoặc “Kwaipilot/KAT-Dev-72B-Exp”
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
model_name,
device_map=”auto”,
trust_remote_code=True
)
messages = [
{“role”: “system”, “content”: “You are a helpful coding assistant.”},
{“role”: “user”, “content”: “Viết hàm Python sắp xếp danh sách tăng dần.”}
]
text = tokenizer.apply_chat_template(messages, tokenize=False)
inputs = tokenizer(text, return_tensors=”pt”).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
Bản 32B cần khoảng 65GB VRAM, bản 72B cần ~145GB — nên nếu không có A100 ở nhà, hãy thuê cloud. Cái này thì nó sẽ phù hợp với việc vọc vạch hơn hoặc bạn làm doanh nghiệp và muốn bảo toàn dữ liệu của mình cứ làm local cho an tâm thì triển. Còn không thì sử dụng API sẽ là phương pháp tốt hơn rất nhiều nếu bạn không muốn cài đặt và đầu tư vật chất nhiều.
Dùng bản “xịn” qua Novita AI hoặc StreamLake
Chỉ cần tạo API key và endpoint inference, sau đó gọi như sau:
curl -X POST https://api.novita.ai/v1/chat/completions \
-H “Authorization: Bearer <YOUR_API_KEY>” \
-H “Content-Type: application/json” \
-d ‘{
“model”: “KAT Coder”,
“messages”: [
{“role”: “system”, “content”: “Bạn là trợ lý lập trình.”},
{“role”: “user”, “content”: “Hãy viết chương trình C++ in ra dãy Fibonacci.”}
],
“max_tokens”: 512,
“temperature”: 0.2
}’
Chi tiết hơn thì lên streamlake.ai/document/DOC/mg6k6nlp8j6qxicx4c9 đọc nha. Tiếp theo là vài bí kiếp để làm việc với nó.
Cách Prompt tối ưu cho KAT Coder
AI cũng như bạn bè – muốn nó giúp tốt thì phải nói cho rõ. Dưới đây là vài mẹo prompt hiệu quả để bạn có thể thử luôn, nó cũng đơn giản như cách bạn làm việc với các con AI khác thôi:
- Viết prompt có ngữ cảnh rõ: Mô tả mục tiêu, công nghệ, ràng buộc, đầu ra mong muốn.
- Chia nhỏ nhiệm vụ: Đừng ném cả repo vào một lần, hãy tách theo bước (phân tích → sửa → tạo PR).
- Phản hồi và test: KAT Coder biết chạy test, nên cứ phản hồi “bug chưa hết” là nó sửa tiếp.
- Chỉnh tham số: temperature=0.2 để chính xác, 0.7 nếu muốn ý tưởng bay bổng.
- Kết hợp công cụ khác: Dùng KAT Coder tạo patch, rồi nhờ GPT hoặc Claude kiểm thử lại — siêu hiệu quả.
Nói không thì ai cũng nói được, do đó tui gọi API để làm luôn cái project nhỏ nhỏ để kiểm thử khả năng của nó
Dự án ví dụ: Landing Page Generator
Phần này là trải nghiệm thật của tui – một hành trình “prompt tới đâu, ra web tới đó”.
Ý tưởng ban đầu
Ý tưởng ban đầu của tôi là để những người bạn khác của mình không hiểu lắm về cách sử dụng API có thể sử dụng API của KAT để tạo landingpage của mình với giao diện trực quan. Vốn dĩ họ quá quen với giao diện chat bot vì thế khi sử dụng API họ chật vật không biết nên phải làm gì.
Tui cài KAT trong Cline trên Cunsor, rồi thử prompt dài miêu tả toàn bộ website. Nhưng kết quả là… hỗn loạn 🤣.
Tới phiên bản số 6 thì tui mới rút ra được cách viết prompt, cách làm việc với Kat ra sao, dưới đây là nó luôn để bạn có thể tham khảo nhanh tránh bị tốn thời gian giống tui đã bị.
Trước khi đọc bước 1, bạn hãy kéo xuống dưới cùng và đọc bước 0 trước, đừng bắt đầu từ bước 1 như tui! Tui cam đoan với bạn là bạn sẽ rất nên làm thế
Bước 1 – Giản lược prompt
Tui đổi hướng, viết prompt ngắn gọn hơn:
“Hãy giúp tôi thiết kế giao diện một website với chức năng chính là cho phép người dùng thêm api key KAT Coder-Pro-V1 để tạo landingpae, code cơ bản đã có, cần bạn preview trong đó giao diện đơn giản gồm 2 phần thanh bên và màn hình chính.
– Thanh bên sẽ cho phép người dùng thêm api key vào, ô viết prompt mô tả website, drop down chọn phong cách
– nút tạo landingpae
– phần gọi api như sau…”
Kết quả: KAT Coder sinh giao diện cơ bản hoạt động tốt, tui tiếp tục tinh chỉnh. Ghi chú xíu, đây là đến bước 3 luôn hoàn thành rồi, còn ảnh bước 1 2 phiên bản đầu tiên tui xoá mất rồi.
Bước 2 – Chia nhỏ task để điều hướng từng phần
Sau khi có giao diện cơ bản thì tôi tiếp tục sử dụng các prompt để điều hướng từng phần nhỏ (chia nhỏ task) điều này giúp tôi dễ dàng kiểm soát các nội dung AI tạo ra và tránh việc nó trở nên bùng nổ thảm hoạ:
“cho phép người dùng có thể lưu lại api trên trang và phần landingpage đã tạo phải là giao diện xem trước, không phải phần code”
Rồi lại thêm:
“cho phép người dùng có thể lưu lại api trên trang và phần landingpage đã tạo phải là giao diện xem trước, không phải phần code”
Thêm danh sách style thiết kế khác…. (tất cả đang hiển thị trên web, liệt kê ra đây sẽ rất dài) không bao gồm số thứ tự.”
Sau đó là tạo thêm phần preview các phong cách thiết kế trên ngay trên giao diện của sidebar để giúp người dùng có thể nhìn thấy được style mình chọn là gì để đưa ra cách prompt hợp lý hơn:
“Hãy tạo thêm phần preview để khi người dùng chọn ở dropdown thì hình ảnh khối tương tự để review theo phong cách đó sẽ xuất hiện”
Nhờ chia nhỏ, KAT làm việc rất mượt và dễ kiểm soát.
Bước 3 – Bổ sung hướng dẫn, sửa giao diện
Khi bạn tui bảo “sao không có hướng dẫn lấy API key?”, tui lại prompt:
“tiếp theo, hãy giúp tôi thay thế phần Hướng dẫn: Export VC_API_KEY=”your_api_key” thành hướng dẫn lấy API key và dẫn đường link tới https://www.streamlake.ai/document/DOC/mg6k6nlp8j6qxicx4c9”
Sau đó sửa lỗi giao diện:
“Hiện tại, sau khi chọn phong cách thì giao diện của website cũng bị đổi theo, tôi muốn nó chỉ ảnh hưởng bên trong landinpgae người dùng muốn tạo.
tiếp theo thì hãy thiết kế lại giao diện website với phong cách Neumorphism kết hợp với The Google playbook”
Bước 4 – Thêm tính năng vui vẻ
Tui lười viết prompt nên nhờ KAT tự làm:
“hãy giúp tôi thêm 1 nút nhỏ hình ngôi sao ở phần “mô tả website” nút này có chức năng tự động tạo prompt ngẫu nhiên”
Rồi cải thiện loading screen:
“hãy thêm chức năng mới cho phần load “Đang tạo landing page… Vui lòng chờ trong giây lát” hiện tại trở thành giao diện các dòng code đang chạy trực tiếp nhằm giảm thiểu sự buồn chán khi thời gian chờ lâu”
Bước 0 – Chia module và làm đẹp
Đến đây tui mới phát hiện ra rằng Tôi không rõ lắm về việc liệu tui đã làm chính xác hay chưa. Tuy nhiên, trong quá trình sử dụng việc chia nhỏ task ra để thực hiện nó sẽ tốt hơn là một lần yêu cầu nhiều chức năng.
Ví dụ, sau khi yêu cầu tạo nền tảng, bạn sẽ phải yêu cầu thêm chức năng list danh sách style sau.
Ngoài ra, bạn nên viết ngay ở prompt đầu tiên yêu cầu KAT phải tách code ra thành nhiều thư mục module khác nhau để tránh việc KAT tự động dồn toàn bộ code vào “hãy giúp tôi phân chia lại các chức năng một cách riêng biệt hơn thành từng file, tất cả đang bị dồn lại và rất khó để theo dõi, xử lý từng module, nó sẽ khiến mọi thử dồn thằng vào mục “scipt” hoặc các file khác.
Đây là lỗi cá nhân khá buồn cười vì tôi quen với việc claude sẽ tự động tạo nhiều thư mục khác nhau để chứa các module.
Vì vậy đừng như tui, hãy tạo cấu trúc thư mục trước nha 🤣🤣🤣.
Lúc làm gần xong thì trời đã tối và tuii khá đau mắt với màn hình sáng, vì thế tui tiếp tục thêm prompt yêu cầu:
“hãy giúp tôi thiết kế lại giao diện sử dụng màu #d1fe17 làm màu tương tác header và các nút, sử dụng màu trắng và đen cho hầu hết những các yếu tố khác và nền tối trong giao diện website”
Và ta-da 🎉 — hơn 800 dòng code trong mục script vẫn chạy mượt mà, kết quả là novel.maitruclam.com.
À, tui còn bảo nó dịch toàn bộ text sang tiếng Anh để global hơn — và nó làm ngon lành.
Ngoài ra, bạn có thể tải project này về từ trên Github hoặc nâng cấp nó lên tầm cao mới.
Ngoài cái trên ra thì tôi còn tạo 1 plugin WordPress với chức năng khi cần trưng bày một loạt tài liệu PDF đã phân loại từ trên máy tính dựa theo thư mục mà không cần phải tải lên từng file, đặt tag, đặt category, đổi lại tên,… Thì tôi có 1 giải pháp đó là MTL PDF View Gallery – 1 plugin hoàn toàn miễn phí và dễ sử dụng.
- Bạn chỉ cần zip thư mục chứa pdf lại sau đó tải lên server vào thư mục uploads
- Trong phần cài đặt của plugin, gõ tên của thư mục đó ví dụ pdf
- Copy short code [pdf_view] và dán vào trang bạn muốn trưng bày
- Bùm! Giao diện tự động nhận diện PDF và ảnh bìa (nếu bạn có đặt thì nó phải cùng tên với pdf)
Tóm lại
KAT Coder rất mạnh, nhưng bí quyết là đừng “ném bom prompt” – hãy chia nhỏ, kiểm tra dần, và luôn nói rõ ý định. Cách đó giúp bạn vừa học vừa tạo ra sản phẩm thực tế. Với tui, đây đúng là kiểu “code bằng ngôn ngữ tự nhiên” theo nghĩa đen.
Nguồn tham khảo tổng hợp từ:
- Báo cáo kỹ thuật của nhóm Kwaipilot / Kuaishou AI4SE (2025)
- Blog chính thức Novita AI, KAT Coder.org
- Repo HuggingFace: Kwaipilot/KAT-Dev-32B, Kwaipilot/KAT-Dev-72B-Exp
- Bảng xếp hạng SWE-Bench Verified (2025)
- Bài blog & báo cáo cộng đồng AI Trung Quốc (Zhihu, Medium, Twitter)
FAQs
Mô hình KAT có hỗ trợ ngôn ngữ lập trình nào?
Theo tài liệu, KAT‑Coder được huấn luyện trên hơn 20 ngôn ngữ và tám lĩnh vực, bao gồm Python, JavaScript, Java, C/C++, Go, Rust, TypeScript, SQL, R, MATLAB, Scala…, đồng thời hỗ trợ dựng test, refactor và phân tích mã nhiều file.
Có thể tự chạy KAT‑Coder không?
KAT‑Coder (flagship) là mô hình đóng, chỉ dùng qua API. Tuy nhiên, bạn có thể tự chạy KAT‑Dev‑32B và KAT‑Dev‑72B‑Exp do Kwaipilot phát hành trên HuggingFace. Phiên bản 32B cần ~65 GB VRAM, phiên bản 72B cần ~145 GB. Có bản quantized (INT4, FP8) giảm yêu cầu bộ nhớ.
Có cần lo lắng về bảo mật?
Mô hình được huấn luyện trên dữ liệu ẩn danh và cam kết tuân thủ bảo mật doanh nghiệp. Tuy nhiên, khi gửi mã hoặc dữ liệu lên API, bạn nên tránh đẩy thông tin nhạy cảm (như khóa API khác, mật khẩu, dữ liệu cá nhân). Hãy mã hóa hoặc che thông tin trước khi gửi để đảm bảo an toàn.
Có phiên bản miễn phí không?
Kuaishou từng giới thiệu KAT‑Coder‑Air với truy cập miễn phí giới hạn, phù hợp cho người dùng cá nhân. Bạn có thể đăng ký trên StreamLake để nhận key dùng thử. Ngoài ra, Novita AI cho phép dùng thử vài nghìn token trước khi thu phí.
