Chat AI trọng số mở · NVIDIA

NVIDIA Nemotron Labs Dory1.0: AI bỏ túi biết nghĩ hai lần

Hỏi AI ▾

Phần lớn mô hình AI nhỏ trả lời nhanh rồi dừng suy nghĩ. NVIDIA Nemotron Labs Dory1.0 thì khác: trước khi trả lời, nó có thể chạy lại “bộ não” cốt lõi nhiều lần, giống người viết đọc lại bản nháp và trau chuốt thêm một lượt. Bạn tự chọn số lượt. Một lượt thì nhanh và hợp tán gẫu, hai lượt là mức cân bằng nhất, còn bốn lượt cho ra câu trả lời tốt nhất với code khó hay báo cáo dài. Cả mô hình chỉ nặng cỡ một bộ phim, nên vừa vặn trên laptop, Mac, thậm chí điện thoại.

  • Mô hình vòng lặp 4B
  • Ngữ cảnh 256K
  • Trọng số mở
Bắt đầu chat AI không kiểm duyệt →
Ảnh minh họa NVIDIA Nemotron Labs Dory1.0: con chip AI nhỏ phát sáng phía trên laptop, bao quanh bởi những vòng sáng lặp lại

Trình tạo chat AI thay thế không kiểm duyệt

Muốn nhập vai dài, không bộ lọc và viết truyện người lớn mà không phải cài mô hình cục bộ? Mở chat không kiểm duyệt và bắt đầu chỉ trong vài giây.

Mở chat không kiểm duyệt →

Mô hình 4B biết đọc lại suy nghĩ của chính mình

NVIDIA phát hành mô hình này ngày 16/10/2026, thuộc dòng thử nghiệm Nemotron Labs. Nó chỉ có 4 tỷ tham số và chỉ đọc, viết văn bản, nhưng có thể ghi nhớ tới 256K token, tương đương cả một cuốn tiểu thuyết hoặc một dự án code cỡ vừa trong một lần chat. Bí quyết nằm ở khối 20 lớp dùng chung ở giữa mạng, được tái sử dụng ở mỗi vòng lặp, nên suy nghĩ thêm chỉ tốn thời gian chứ không làm file nặng hơn. NVIDIA cho biết mô hình được tạo ra để suy luận đa dụng trong một gói nhỏ gọn, chính thức hỗ trợ tiếng Anh và được học từ 43 ngôn ngữ lập trình. Trọng số được công khai trên Hugging Face với nhiều kích cỡ, từ độ chính xác đầy đủ cho đến bản gọn 3,67 GB.

Một núm vặn, bốn tốc độ: chọn 1, 2 hay 4 vòng lặp

Hãy coi thiết lập vòng lặp như hộp số. Mỗi vòng thêm giúp câu trả lời thông minh hơn một chút và chậm hơn một chút, còn file trên ổ đĩa vẫn giữ nguyên. NVIDIA khuyên dùng hai vòng làm mặc định, và bảng thử nghiệm của họ cho thấy lý do: nhảy từ một lên hai vòng tạo khác biệt lớn, còn từ hai lên bốn chỉ là lớp đánh bóng cuối cùng.

Trên thực tế, mọi người dùng một vòng để lên ý tưởng, đặt tiêu đề và tán gẫu, khi tốc độ quan trọng hơn chiều sâu. Hai vòng là mức dùng hằng ngày cho viết lách, tóm tắt và nhập vai. Bốn vòng đáng để chờ khi sửa lỗi, chạy tác vụ agent nhiều bước hay đọc kỹ tài liệu rất dài. Các câu hỏi kiểu đố vui khoa học không cải thiện thêm sau hai vòng, nên không cần vặn hết cỡ cho câu hỏi kiến thức.

Bài thử của NVIDIA1 vòng2 vòng4 vòng
SWE-bench Verified (sửa lỗi code thực tế)50.359.561.8
IFBench (làm theo hướng dẫn)74.2977.9479
AA-LCR (suy luận tài liệu dài)637173
GDPval-AA Elo (tác vụ công việc hữu ích)815946967

Điểm số do NVIDIA công bố trên model card, không phải từ phòng thử nghiệm độc lập.

Vì sao một mô hình biết suy nghĩ siêu nhỏ lại đáng chú ý

Mô hình nhỏ thường đồng nghĩa với bộ não nhỏ. Mô hình này đảo ngược điều đó: bạn có bản tải gọn nhẹ mà vẫn biết lập kế hoạch, làm theo hướng dẫn chi tiết và dùng công cụ. Nhờ vậy người dùng bình thường, không chỉ kỹ sư, cũng được hưởng lợi thật sự.

  • Riêng tư từ đầu: chạy trên máy của bạn, ghi chú, bản nháp và cuộc chat không bao giờ rời khỏi thiết bị.
  • Dùng được khi offline: viết trên máy bay, ở nhà gỗ trên núi hay bất cứ đâu Wi-Fi chập chờn.
  • Trí nhớ khủng so với kích thước: dán cả bản thảo, biên bản họp hay bộ hợp đồng rồi hỏi xuyên suốt toàn bộ.
  • Bám sát yêu cầu: làm theo hướng dẫn tốt nên ít phải viết lại khi bạn yêu cầu định dạng, giọng văn hay số chữ cụ thể.
  • Nhanh khi bạn cần: giảm xuống một vòng để trao đổi nhanh, tăng lên khi việc khó hơn.
Điện thoại, máy tính mini và laptop đặt cạnh nhau, cho thấy mô hình chat AI nhỏ chạy riêng tư trên thiết bị hằng ngày

Tình huống thực tế: từ trợ lý code đến biên kịch phim ngắn

Nhờ kết hợp trí nhớ dài với suy luận từng bước, mô hình này hợp với những việc trước đây cần trợ lý lớn hơn nhiều. Đây là các tình huống người dùng đầu tiên nhắc đến nhiều nhất:

  • Trợ thủ lập trình: đọc tóm tắt repo, chỉ ra file cần sửa và soạn bản vá. Code là mảng NVIDIA ghi nhận tiến bộ lớn nhất.
  • Trợ lý tài liệu dài: biến bản báo cáo 100 trang hay hàng giờ ghi chú họp thành quyết định, câu hỏi còn mở và việc cần làm.
  • Lên kế hoạch tiểu thuyết và series: giữ trọn dàn ý, hồ sơ nhân vật và các chương trước trong ngữ cảnh khi viết cảnh tiếp theo.
  • Kịch bản phim ngắn và video: phác thảo tập phim dọc, viết đoạn mở hút khách và tình tiết treo, rồi tạo prompt từng cảnh quay cho mô hình ảnh hoặc video.
  • Trợ lý dùng công cụ: kiểm tra dữ liệu qua công cụ rồi soạn phản hồi, tiện cho bộ phận hỗ trợ và tự động hóa cá nhân.
  • Truyện người lớn và nhập vai: giọng nhân vật dài, nhất quán cho các nhân vật hư cấu đã trưởng thành, ngữ cảnh dài giúp câu chuyện không bị lạc hướng.
Nhà sáng tạo trưởng thành lên kịch bản phim ngắn và storyboard cùng mô hình chat AI nhỏ chạy cục bộ trên laptop

Mẫu prompt giúp các vòng lặp phát huy tác dụng

Vai trò rõ ràng và khuôn đầu ra cố định giúp tận dụng tối đa phần suy nghĩ thêm. Thay phần trong ngoặc vuông và chọn số vòng phù hợp với công việc. NVIDIA gợi ý temperature 1.0 và top_p 0.95 làm điểm khởi đầu.

  • Sửa code (4 vòng): Bạn là kỹ sư cấp cao. Đọc phần tóm tắt repo dưới đây, liệt kê 3 file cần sửa, rồi xuất unified diff. Suy nghĩ từng bước. [tóm tắt]
  • Tài liệu dài (2 vòng): Tóm tắt tài liệu sau thành các quyết định chính, câu hỏi còn mở và việc cần làm kèm người phụ trách. Trích dẫn số trang. [tài liệu]
  • Phim ngắn (2 vòng): Phác thảo phim ngắn dọc 10 tập về [ý tưởng]. Mỗi tập gồm một đoạn mở 3 giây, một tình tiết treo và 3 prompt cảnh quay cho mô hình video.
  • Nhập vai (2 vòng, chỉ nhân vật hư cấu đã trưởng thành): Bạn là [nhân vật, trưởng thành, hư cấu]. Luôn giữ vai, miêu tả cảnh thật sống động và không bao giờ phá vỡ bức tường thứ tư.
  • Gọi công cụ (2 vòng): Dùng công cụ để kiểm tra số dư tài khoản, rồi soạn phản hồi. Trả về JSON {action, args}.
  • Lên ý tưởng (1 vòng): Cho tôi 15 tiêu đề thật cuốn về [chủ đề], mỗi tiêu đề dưới 8 chữ, theo ba sắc thái khác nhau.

Dory 4B so với Qwen3.5 và Gemma 4 thế nào

Theo bảng so sánh của NVIDIA, NVIDIA Nemotron Labs Dory1.0 mạnh nhất ở khả năng làm việc: làm theo hướng dẫn, hoàn thành tác vụ và viết code. Nó yếu hơn ở kiến thức thuần túy, điều dễ hiểu với mô hình 4B ít chỗ để ghi nhớ dữ kiện. Bài học thực tế: kết hợp nó với tìm kiếm web hoặc tài liệu của bạn và để nó lo phần suy luận.

Bài thử của NVIDIADory 4B (4 vòng)Qwen3.5-4B
IFBench (hướng dẫn)7953.83
GDPval-AA Elo (tác vụ công việc)967424
GPQA (kiến thức khoa học)7277.71
AA-Omniscience (dữ kiện)khoảng 10khoảng 15

Bảng của NVIDIA còn liệt kê Qwen3.5-9B và Gemma 4 26B A4B; Dory cạnh tranh sòng phẳng ở tác vụ agent và làm theo hướng dẫn nhưng kém hơn ở câu hỏi kiến thức. Mọi con số đều do nhà phát triển công bố.

Chạy trên điện thoại, Mac hoặc một GPU

File GGUF chính thức ở mức Q5_K_M nặng khoảng 3,67 GB, đủ nhỏ cho hầu hết laptop hiện đại. Cộng đồng đã làm sẵn bản cho Mac chạy MLX ở 4, 6 và 8 bit, bản CoreML và bản LiteRT cho điện thoại. NVIDIA chỉ tự thử nghiệm trên phần cứng trung tâm dữ liệu và DGX Spark, nên hỗ trợ cho điện thoại và Mac đến từ cộng đồng.

  • Ollama và llama.cpp: model card có tag hf.co/nvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-GGUF:Q5_K_M, nhưng hỗ trợ llama.cpp cho kiến trúc mới này vẫn đang ở pull request, nên bản cũ có thể không tải được.
  • vLLM: hỗ trợ đang được xem xét trong một pull request; transformers dùng được ngay hôm nay.
  • Chế độ suy nghĩ bật sẵn trong vLLM; trong llama.cpp hãy bật bằng --reasoning on.
  • Trên các GPU mới nhất của NVIDIA, bản NVFP4 chạy nhanh hơn khoảng 2,2 đến 2,4 lần, theo số liệu DGX Spark của NVIDIA.

Các bản Dory abliterated và heretic

Bản phát hành NVIDIA Nemotron Labs Dory1.0 gốc đã được tinh chỉnh an toàn, và model card yêu cầu người dùng không vượt qua các rào chắn. Vì trọng số công khai, cộng đồng đã đăng các bản chỉnh sửa lên Hugging Face, như bản NVFP4 abliterated (kèm biến thể MLX) và một bản GGUF heretic với vài nghìn lượt tải. Các bản này không được NVIDIA kiểm duyệt và chúng tôi chưa xác minh hoạt động của chúng, vì vậy hãy đọc kỹ model card trước khi tải.

  • Tìm trên Hugging Face với từ khóa “Dory1.0 abliterated” hoặc “heretic GGUF”, rồi xem số lượt tải và ghi chú trên card.
  • Chỉ nhập vai và viết truyện người lớn với nhân vật hư cấu từ 18 tuổi trở lên, tuyệt đối không dùng người thật.
  • Nếu không muốn cài đặt gì, chat không kiểm duyệt trực tuyến mang lại trải nghiệm không bộ lọc tương tự ngay trên trình duyệt.

Dùng để sáng tác truyện và video gợi cảm trên Spicy AI

NVIDIA Nemotron Labs Dory1.0 hợp với một quy trình sáng tạo đơn giản: dùng một lượt nhanh, nhẹ để nghĩ ý tưởng và tên nhân vật, rồi một lượt sâu hơn để kiểm tra logic cốt truyện và viết danh sách cảnh quay. Đưa các prompt cảnh quay vào trình chỉnh sửa ảnh hoặc công cụ chuyển ảnh thành video để biến kịch bản thành hình ảnh, ví dụ một cảnh tán tỉnh bên hồ bơi hay cuộc gặp gỡ đầy tâm trạng ở quầy bar khách sạn giữa hai người trưởng thành. Để nhập vai không bộ lọc và viết cốt truyện người lớn mà không cần cài đặt, chat không kiểm duyệt là nơi bắt đầu nhanh nhất.

Soạn nhập vai người lớn, kịch bản truyện và prompt video trong một cuộc chat không bộ lọc.

Mở chat không kiểm duyệt →

Tự chạy Dory 4B hay chat trực tuyến trên Spicy AI

Triển khai cục bộ (trọng số gốc)Spicy AI trực tuyến
Bộ lọc nội dungMô hình gốc đã tinh chỉnh an toànKhông có bộ lọc nội dung
Trọng số mởCóKhông cần — chạy ngay trên trình duyệt
Mô hìnhTrọng số gốc (BF16, MXFP8, NVFP4 hoặc GGUF)Mô hình chat không kiểm duyệt tương tự, chạy trực tuyến
Chi phí ban đầuTải miễn phí, chạy trên thiết bị của bạnCó gói miễn phí

Câu hỏi thường gặp

NVIDIA Nemotron Labs Dory1.0 là gì?

Đây là mô hình văn bản 4B trọng số mở do NVIDIA phát hành ngày 16/10/2026. Nó tái sử dụng một khối lớp dùng chung theo vòng lặp, cho phép chọn từ 1 đến 4 vòng khi chạy và đọc được tới 256K token.

Nên dùng bao nhiêu vòng lặp?

NVIDIA khuyên dùng 2 vòng làm mặc định. Một vòng là nhanh nhất; bốn vòng đạt điểm cao nhất ở tác vụ code và agent trong thử nghiệm của NVIDIA, chẳng hạn 61.8 trên SWE-bench Verified.

Có chạy được trên điện thoại hoặc Mac không?

File GGUF Q5_K_M chính thức nặng khoảng 3,67 GB, và cộng đồng có sẵn các bản chuyển đổi MLX, CoreML và LiteRT. NVIDIA chỉ thử nghiệm trên GPU trung tâm dữ liệu và DGX Spark, nên các thiết bị khác dựa vào bản của cộng đồng.

Có dùng được với Ollama không?

Model card có lệnh cho Ollama và llama.cpp, nhưng hỗ trợ llama.cpp vẫn đang ở pull request. Bạn cần bản build có hỗ trợ kiến trúc này; các phiên bản cũ có thể không tải được.

Có mô hình Dory không kiểm duyệt không?

NVIDIA thì không có. Cộng đồng đã đăng các bản abliterated và heretic trên Hugging Face; chúng không chính thức và chất lượng chưa được xác minh.

Nó có hiểu tiếng Việt hay các ngôn ngữ khác không?

NVIDIA chỉ liệt kê tiếng Anh là ngôn ngữ được hỗ trợ. Các ngôn ngữ khác có thể dùng được phần nào, nhưng chất lượng chưa được xác nhận.

Nguồn tham khảo

Sign in

Welcome to Spicy AI

or