開放權重 AI 聊天 · NVIDIA
NVIDIA Nemotron Labs Dory1.0:會多想一次的口袋型 AI
大多數小型 AI 模型回得很快,但想完就停了。NVIDIA Nemotron Labs Dory1.0 不太一樣:回答之前,它可以把核心「大腦」反覆跑好幾輪,就像作家寫完草稿後再讀一遍、再修一次。要跑幾輪由你決定。一輪最快、適合閒聊;兩輪是最剛好的平衡點;四輪則能在棘手的程式碼或長篇報告上擠出最好的答案。整個模型大小跟一部電影檔案差不多,筆電、Mac 甚至手機都裝得下。
- 4B 迴圈模型
- 256K 上下文
- 開放權重

無審查替代 AI 聊天產生器
想要長篇、無過濾的角色扮演和成人故事,又不想自己架本地模型?打開無審查聊天,幾秒就能開始。
開啟無審查聊天 →一個會重讀自己想法的 4B 模型
NVIDIA 在 2026 年 10 月 16 日推出這款模型,屬於實驗性質的 Nemotron Labs 系列。它只有 40 億參數,只處理文字輸入與輸出,卻能一次記住多達 256K tokens,大約是一整本小說或一個中型程式專案的份量。關鍵在於網路中段有一組共用的 20 層結構,每一輪都重複使用,所以多想幾輪只會多花時間,不會讓檔案變大。NVIDIA 表示它的目標是在小體積裡做到通用推理,正式支援英文,訓練資料涵蓋 43 種程式語言。權重已在 Hugging Face 開放,有多種版本,從全精度到精簡的 3.67 GB 檔案都有。
一個旋鈕、四段速度:該選 1、2 還是 4 輪
把迴圈設定想成變速箱就對了。每多一輪,答案就更聰明一點、也慢一點,但硬碟上的檔案完全不變。NVIDIA 建議預設用兩輪,從它自己的測試表就看得出原因:從一輪到兩輪進步很大,從兩輪到四輪則是最後的小幅打磨。
實際使用上,大家會用一輪來發想點子、下標題和隨意聊天,這時速度比深度重要。兩輪是寫作、摘要和角色扮演的日常設定。四輪則值得用在修 bug、多步驟代理任務,以及仔細閱讀超長文件。科學問答類的題目過了兩輪就不再進步,玩知識問答不必把旋鈕轉到底。
| NVIDIA 測試 | 1 輪 | 2 輪 | 4 輪 |
|---|---|---|---|
| SWE-bench Verified(修復真實程式問題) | 50.3 | 59.5 | 61.8 |
| IFBench(遵循指令) | 74.29 | 77.94 | 79 |
| AA-LCR(長文件推理) | 63 | 71 | 73 |
| GDPval-AA Elo(實用工作任務) | 815 | 946 | 967 |
分數為 NVIDIA 在模型卡上公布的數據,並非獨立實驗室測得。
為什麼小小的思考模型這麼有份量
小模型通常代表腦袋也小。這款反過來:下載檔案精巧,卻依然能規劃、遵循細節指令和使用工具。這帶來幾個實在的好處,不只工程師受惠,一般使用者也用得到。
- 預設就很私密:在自己的電腦上跑,筆記、草稿和對話都不會離開裝置。
- 離線也能用:在飛機上、山上小屋或任何 Wi-Fi 很差的地方都能寫。
- 以體積來說記憶力超大:貼上整份書稿、會議逐字稿或一整包合約,就能跨全部內容發問。
- 照著需求走:遵循指令能力強,指定格式、語氣或字數時不用一直重寫。
- 要快就快:來回快問快答時降到一輪,任務變難再調高。

實際情境:從寫程式助手到短劇編劇
因為兼具長記憶和逐步推理,這款模型能勝任過去需要大得多的助手才做得到的工作。以下是早期使用者最常提到的情境:
- 寫程式好夥伴:讀完程式庫摘要,指出需要修改的檔案並草擬修補程式。程式設計正是 NVIDIA 回報進步最多的領域。
- 長文件小幫手:把 100 頁報告或好幾小時的會議紀錄整理成決議、待解問題和待辦事項。
- 小說與系列規劃:撰寫下一場戲時,完整大綱、角色設定集和前面章節都能留在上下文裡。
- 短劇與影片腳本:規劃直式短劇各集大綱,寫出開場鉤子和懸念結尾,再產出給圖片或影片模型用的分鏡提示詞。
- 會用工具的助理:先透過工具查資料再草擬回覆,很適合客服和個人自動化。
- 成人小說與角色扮演:為虛構成年角色維持長篇且一致的角色口吻,長上下文讓故事不會跑偏。

讓迴圈發揮價值的提示詞範本
清楚的角色設定加上固定的輸出格式,最能發揮多想幾輪的效果。把括號內的部分換掉,並依任務選擇迴圈數。NVIDIA 建議以 temperature 1.0、top_p 0.95 作為起點。
- 修程式(4 輪):你是一位資深工程師。閱讀下方的程式庫摘要,列出需要修改的 3 個檔案,然後輸出 unified diff。請逐步思考。[摘要]
- 長文件(2 輪):將以下文件整理成重要決議、待解問題,以及附負責人的待辦事項,並標註頁碼。[文件]
- 短劇(2 輪):以 [故事前提] 為題,規劃一部 10 集的直式短劇。每集提供一個 3 秒開場鉤子、一個懸念結尾,以及 3 個給影片模型的分鏡提示詞。
- 角色扮演(2 輪,僅限虛構成年角色):你是 [角色,成年,虛構]。保持角色設定,生動描寫場景,絕不打破第四面牆。
- 工具呼叫(2 輪):使用工具查詢帳戶餘額,然後草擬回覆。回傳 JSON {action, args}。
- 發想點子(1 輪):幫我想 15 個關於 [主題] 的吸睛標題,每個不超過 8 個字,分成三種不同氛圍。
Dory 4B 和 Qwen3.5、Gemma 4 比起來如何
在 NVIDIA 的比較表中,NVIDIA Nemotron Labs Dory1.0 最強的是「做事」:遵循指令、完成工作任務和寫程式。純知識問答則較弱,這對記憶事實空間有限的 4B 模型來說很合理。實用建議:搭配網路搜尋或你自己的文件,讓它負責推理。
| NVIDIA 測試 | Dory 4B(4 輪) | Qwen3.5-4B |
|---|---|---|
| IFBench(指令) | 79 | 53.83 |
| GDPval-AA Elo(工作任務) | 967 | 424 |
| GPQA(科學知識) | 72 | 77.71 |
| AA-Omniscience(事實) | 約 10 | 約 15 |
NVIDIA 的表格也列出 Qwen3.5-9B 和 Gemma 4 26B A4B;Dory 在代理與指令任務上能與它們一較高下,知識題則落後。所有數字皆為廠商自行公布。
在手機、Mac 或單張 GPU 上執行
官方 Q5_K_M 版 GGUF 檔約 3.67 GB,大多數新款筆電都跑得動。社群已經做出 4、6、8 位元的 Mac MLX 版本、CoreML 版本,以及給手機用的 LiteRT 版本。NVIDIA 自己只在資料中心和 DGX Spark 硬體上測試,所以手機與 Mac 的支援來自社群。
- Ollama 與 llama.cpp:模型卡上列出 hf.co/nvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-GGUF:Q5_K_M 標籤,但 llama.cpp 對這種新架構的支援仍在 pull request 階段,舊版可能無法載入。
- vLLM:支援還在 pull request 審查中;目前可直接用 transformers。
- vLLM 預設開啟思考模式;在 llama.cpp 中用 --reasoning on 開啟。
- 根據 NVIDIA 的 DGX Spark 數據,在 NVIDIA 最新 GPU 上,NVFP4 版本速度約快 2.2 到 2.4 倍。
Abliterated 與 heretic 版 Dory
NVIDIA Nemotron Labs Dory1.0 官方版本經過安全調校,模型卡也要求使用者不要繞過防護機制。由於權重是開放的,社群已在 Hugging Face 上傳了修改版,例如 abliterated 的 NVFP4 版本(含 MLX 變體),以及下載數達數千次的 heretic GGUF。這些版本未經 NVIDIA 審查,本站也沒有驗證過它們的表現,下載前請先看清楚各自的模型卡。
- 在 Hugging Face 搜尋「Dory1.0 abliterated」或「heretic GGUF」,並留意下載次數和模型卡說明。
- 角色扮演與成人小說只限 18 歲以上的虛構角色,絕不涉及真人。
- 如果不想自己架設,線上無審查聊天在瀏覽器裡就能帶來類似的無過濾體驗。
在 Spicy AI 上用它創作辣味故事與影片
NVIDIA Nemotron Labs Dory1.0 很適合簡單的創作流程:先用快速輕量的一輪發想故事前提和角色名字,再用更深入的幾輪檢查劇情邏輯、寫出分鏡清單。把這些分鏡提示詞丟進圖片編輯器或圖生影片工具,就能把腳本變成畫面,例如兩位成年人在泳池畔的調情戲,或在飯店酒吧氣氛曖昧的邂逅。想玩無過濾角色扮演和成人劇情又不想安裝任何東西,無審查聊天是最快的起點。
在無過濾聊天中撰寫成人角色扮演、故事腳本和影片提示詞。
開啟無審查聊天 →自架 Dory 4B vs 在 Spicy AI 線上聊天
| 本地部署(官方權重) | Spicy AI 線上版 | |
|---|---|---|
| 內容過濾 | 官方模型經安全調校 | 無內容過濾 |
| 開放權重 | 有 | 不需要,瀏覽器直接用 |
| 模型 | 官方權重(BF16、MXFP8、NVFP4 或 GGUF) | 類似的無審查聊天模型,線上託管 |
| 入門費用 | 免費下載,用自己的裝置 | 提供免費方案 |
常見問題
NVIDIA Nemotron Labs Dory1.0 是什麼?
這是 NVIDIA 在 2026 年 10 月 16 日推出的 4B 開放權重文字模型。它以迴圈方式重複使用一組共用層,執行時可選擇 1 到 4 輪,最多能讀取 256K tokens。
應該用幾輪?
NVIDIA 建議預設 2 輪。一輪最快;在 NVIDIA 的測試中,四輪在程式與代理任務上分數最高,例如 SWE-bench Verified 達 61.8。
可以在手機或 Mac 上跑嗎?
官方 Q5_K_M GGUF 約 3.67 GB,社群也提供 MLX、CoreML 和 LiteRT 轉換版本。NVIDIA 自己只用資料中心 GPU 和 DGX Spark 測試,其他裝置要靠社群版本。
能搭配 Ollama 使用嗎?
模型卡上有 Ollama 和 llama.cpp 的指令,但 llama.cpp 的支援仍在 pull request 階段。你需要包含這種架構支援的版本,舊版可能無法載入。
有無審查版的 Dory 模型嗎?
NVIDIA 沒有推出。Hugging Face 上有社群做的 abliterated 和 heretic 版本,屬於非官方版本,品質也未經驗證。
它看得懂中文或其他語言嗎?
NVIDIA 只列出支援英文。其他語言或許部分可用,但品質尚未確認。