오픈 웨이트 AI 채팅 · NVIDIA

NVIDIA Nemotron Labs Dory1.0: 한 번 더 생각하는 포켓 AI

AI에게 묻기 ▾

대부분의 소형 AI 모델은 빠르게 답하고 거기서 생각을 멈춥니다. NVIDIA Nemotron Labs Dory1.0은 다릅니다. 답하기 전에 핵심 “두뇌”를 몇 번이고 다시 돌릴 수 있어요. 초안을 다시 읽고 한 번 더 다듬는 작가처럼요. 몇 번 반복할지는 직접 고르면 됩니다. 1회는 빠르고 가벼운 대화용, 2회는 가장 균형 잡힌 설정, 4회는 까다로운 코드나 긴 보고서에서 최고의 답을 끌어냅니다. 모델 전체 용량은 영화 한 편 정도라 노트북, Mac, 심지어 휴대폰에도 들어갑니다.

  • 4B 루프형 모델
  • 256K 컨텍스트
  • 오픈 웨이트
무검열 AI 채팅 시작하기 →
NVIDIA Nemotron Labs Dory1.0 콘셉트 아트: 노트북 위에 떠 있는 작고 빛나는 AI 칩과 그 주위를 감싼 빛의 고리

무검열 대안 AI 채팅 생성기

로컬 모델 설치 없이 길고 자유로운 롤플레이와 성인 스토리를 즐기고 싶나요? 무검열 채팅을 열고 몇 초 만에 시작하세요.

무검열 채팅 열기 →

자기 생각을 다시 읽는 4B 모델

NVIDIA는 2026년 10월 16일, 실험적인 Nemotron Labs 라인의 하나로 이 모델을 공개했습니다. 파라미터는 40억 개에 불과하고 텍스트만 읽고 쓰지만, 최대 256K 토큰을 한 번에 기억할 수 있습니다. 장편 소설 한 권이나 중간 규모 코드 프로젝트를 채팅 하나에 담을 수 있는 분량이죠. 비결은 네트워크 중간에 있는 20개 레이어의 공유 블록으로, 루프마다 이 블록을 재사용하기 때문에 더 생각해도 파일 크기는 그대로이고 시간만 조금 더 듭니다. NVIDIA에 따르면 작은 크기로 범용 추론을 하도록 만들어졌고, 공식 지원 언어는 영어이며, 43개 프로그래밍 언어로 학습했습니다. 가중치는 Hugging Face에 여러 버전으로 공개되어 있으며, 풀 정밀도부터 3.67GB짜리 경량 파일까지 있습니다.

다이얼 하나, 네 가지 속도: 1, 2, 4 루프 고르기

루프 설정은 변속기라고 생각하면 됩니다. 루프를 하나 늘릴 때마다 답은 조금 더 똑똑해지고 조금 더 느려지지만, 디스크 속 파일은 변하지 않습니다. NVIDIA는 기본값으로 2 루프를 권장하는데, 자체 테스트 표를 보면 이유가 보입니다. 1에서 2로 갈 때 향상 폭이 크고, 2에서 4로 갈 때는 마지막 마무리 정도로 조금 더 좋아집니다.

실제로는 속도가 중요한 브레인스토밍, 제목 짓기, 가벼운 대화에 1 루프를 씁니다. 글쓰기, 요약, 롤플레이 같은 일상 작업에는 2 루프가 적당합니다. 버그 수정, 여러 단계의 에이전트 작업, 아주 긴 문서를 꼼꼼히 읽을 때는 4 루프를 기다릴 가치가 있습니다. 과학 퀴즈형 질문은 2 루프 이후로 더 나아지지 않으니, 상식 문제에 다이얼을 끝까지 올릴 필요는 없습니다.

NVIDIA 테스트1 루프2 루프4 루프
SWE-bench Verified (실제 코드 이슈 수정)50.359.561.8
IFBench (지시 따르기)74.2977.9479
AA-LCR (긴 문서 추론)637173
GDPval-AA Elo (실무 작업)815946967

점수는 독립 기관이 아니라 NVIDIA가 모델 카드에 발표한 수치입니다.

작은 생각하는 모델이 대단한 이유

보통 작은 모델은 머리도 작다는 뜻입니다. 이 모델은 그 공식을 뒤집습니다. 가볍게 내려받으면서도 계획을 세우고, 세세한 지시를 따르고, 도구까지 쓸 수 있죠. 엔지니어뿐 아니라 일반 사용자에게도 실질적인 장점이 있습니다.

  • 기본이 프라이버시: 내 기기에서 돌리면 메모, 초안, 대화가 기기 밖으로 나가지 않습니다.
  • 오프라인 작동: 비행기 안, 산속 오두막, 와이파이가 약한 어디서든 글을 쓸 수 있습니다.
  • 크기에 비해 엄청난 기억력: 원고 전체, 회의록, 계약서 묶음을 붙여 넣고 전체를 아우르는 질문을 할 수 있습니다.
  • 요청대로 정확하게: 지시 수행 능력이 좋아 형식, 톤, 글자 수를 정해 줘도 다시 고칠 일이 적습니다.
  • 필요할 땐 빠르게: 가벼운 주고받기엔 1 루프로, 어려운 작업엔 루프를 올리면 됩니다.
휴대폰, 미니 데스크톱, 노트북이 나란히 놓여 일상 기기에서 소형 AI 채팅 모델이 프라이빗하게 실행되는 모습

실전 시나리오: 코딩 도우미부터 숏드라마 작가까지

긴 기억력과 단계별 추론을 함께 갖춰서, 예전엔 훨씬 큰 어시스턴트가 필요했던 일도 해냅니다. 초기 사용자들이 가장 많이 이야기하는 활용법은 다음과 같습니다.

  • 코딩 파트너: 저장소 요약을 읽고 수정할 파일을 짚어 낸 뒤 패치 초안을 작성합니다. NVIDIA가 가장 큰 향상을 보고한 분야가 바로 코딩입니다.
  • 긴 문서 도우미: 100페이지 보고서나 몇 시간짜리 회의록을 결정 사항, 남은 질문, 할 일로 정리합니다.
  • 소설·시리즈 기획: 전체 개요, 캐릭터 설정집, 이전 챕터를 모두 기억한 채로 다음 장면을 씁니다.
  • 숏드라마·영상 대본: 세로형 에피소드 구성을 짜고, 훅과 클리프행어를 쓴 뒤, 이미지·영상 모델용 컷별 프롬프트를 만듭니다.
  • 도구 활용 어시스턴트: 도구로 데이터를 확인한 뒤 답장 초안을 작성해, 고객 지원이나 개인 자동화에 유용합니다.
  • 성인 소설·롤플레이: 가상의 성인 캐릭터 목소리를 길고 일관되게 유지하고, 긴 컨텍스트 덕분에 이야기가 산으로 가지 않습니다.
노트북의 소형 로컬 AI 채팅 모델과 함께 숏드라마 대본과 스토리보드를 기획하는 성인 크리에이터

루프의 효과를 끌어내는 프롬프트 템플릿

역할을 분명히 하고 출력 형태를 정해 주면 추가 사고의 효과를 가장 크게 볼 수 있습니다. 대괄호 부분을 바꾸고 작업에 맞게 루프 수를 고르세요. NVIDIA는 시작값으로 temperature 1.0, top_p 0.95를 권장합니다.

  • 코드 수정 (4 루프): 당신은 시니어 엔지니어입니다. 아래 저장소 요약을 읽고 수정할 파일 3개를 나열한 다음 unified diff를 출력하세요. 단계별로 생각하세요. [요약]
  • 긴 문서 (2 루프): 다음 문서를 핵심 결정 사항, 남은 질문, 담당자가 지정된 할 일로 요약하세요. 페이지 번호를 인용하세요. [문서]
  • 숏드라마 (2 루프): [설정]에 관한 10부작 세로형 숏드라마 개요를 짜 주세요. 에피소드마다 3초 훅, 클리프행어, 영상 모델용 컷 프롬프트 3개를 주세요.
  • 롤플레이 (2 루프, 가상의 성인만): 당신은 [캐릭터, 성인, 가상 인물]입니다. 캐릭터를 유지하고, 장면을 생생하게 묘사하며, 절대 제4의 벽을 깨지 마세요.
  • 도구 호출 (2 루프): 도구를 사용해 계좌 잔액을 확인한 뒤 답장 초안을 작성하세요. JSON {action, args}로 반환하세요.
  • 브레인스토밍 (1 루프): [주제]에 대해 임팩트 있는 제목 15개를 세 가지 분위기로, 각각 8단어 이내로 지어 주세요.

Dory 4B vs Qwen3.5, Gemma 4 비교

NVIDIA 비교표에서 NVIDIA Nemotron Labs Dory1.0이 가장 강한 분야는 ‘실행’입니다. 지시 따르기, 업무 완수, 코딩이죠. 순수 지식 문제는 약한 편인데, 사실을 외울 공간이 적은 4B 모델이라면 자연스러운 일입니다. 실용적인 결론은 웹 검색이나 내 문서와 함께 쓰고, 추론은 모델에게 맡기라는 것입니다.

NVIDIA 테스트Dory 4B (4 루프)Qwen3.5-4B
IFBench (지시 따르기)7953.83
GDPval-AA Elo (실무 작업)967424
GPQA (과학 지식)7277.71
AA-Omniscience (사실 지식)약 10약 15

NVIDIA 표에는 Qwen3.5-9B와 Gemma 4 26B A4B도 있으며, Dory는 에이전트·지시 수행 작업에서는 이들과 겨루지만 지식 문제에서는 뒤처집니다. 모든 수치는 제조사 발표 기준입니다.

휴대폰, Mac, 단일 GPU에서 실행하기

공식 GGUF 파일은 Q5_K_M 기준 약 3.67GB로, 요즘 노트북 대부분에서 돌릴 수 있습니다. 커뮤니티에서는 이미 MLX용 4·6·8비트 Mac 버전, CoreML 빌드, 휴대폰용 LiteRT 빌드를 만들어 두었습니다. NVIDIA 자체 테스트는 데이터센터와 DGX Spark 하드웨어에서 진행했으므로, 휴대폰과 Mac 지원은 커뮤니티 덕분입니다.

  • Ollama와 llama.cpp: 모델 카드에는 hf.co/nvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-GGUF:Q5_K_M 태그가 나와 있지만, 이 새 구조에 대한 llama.cpp 지원은 아직 풀 리퀘스트 단계라 이전 빌드에서는 불러오지 못할 수 있습니다.
  • vLLM: 지원이 풀 리퀘스트에서 검토 중이며, transformers는 지금 바로 사용할 수 있습니다.
  • vLLM에서는 사고 모드가 기본으로 켜져 있고, llama.cpp에서는 --reasoning on으로 켭니다.
  • NVIDIA의 DGX Spark 수치에 따르면 최신 NVIDIA GPU에서 NVFP4 빌드가 약 2.2~2.4배 빠르게 돌아갑니다.

Abliterated·heretic Dory 빌드

NVIDIA Nemotron Labs Dory1.0 공식 릴리스는 안전 튜닝이 되어 있고, 모델 카드에서도 가드레일을 우회하지 말라고 안내합니다. 하지만 가중치가 공개되어 있어 커뮤니티에서는 이미 수정 버전을 Hugging Face에 올렸습니다. abliterated NVFP4 빌드(MLX 버전 포함)와 다운로드 수천 회의 heretic GGUF 등이 있습니다. NVIDIA가 검토한 것이 아니고 여기서도 동작을 검증하지 않았으니, 내려받기 전에 각 모델 카드를 꼭 읽어 보세요.

  • Hugging Face에서 “Dory1.0 abliterated”나 “heretic GGUF”를 검색해 다운로드 수와 카드 설명을 확인하세요.
  • 롤플레이와 성인 소설은 18세 이상의 가상 캐릭터로만 하고, 실존 인물은 절대 다루지 마세요.
  • 설치가 번거롭다면 온라인 무검열 채팅으로 브라우저에서 비슷한 무필터 경험을 할 수 있습니다.

Spicy AI에서 스파이시한 이야기와 영상 만들기

NVIDIA Nemotron Labs Dory1.0은 간단한 창작 루프에 잘 맞습니다. 빠르고 가벼운 패스로 설정과 캐릭터 이름을 브레인스토밍하고, 깊은 패스로 플롯 논리를 점검하며 컷 리스트를 씁니다. 그 컷 프롬프트를 이미지 편집기나 이미지-투-비디오 도구에 넣으면 대본이 영상이 됩니다. 예를 들어 두 성인의 수영장가 설레는 장면이나 분위기 있는 호텔 바에서의 만남처럼요. 아무것도 설치하지 않고 무필터 롤플레이와 성인 스토리를 즐기고 싶다면 무검열 채팅이 가장 빠른 시작점입니다.

무필터 채팅에서 성인 롤플레이, 스토리 대본, 영상 프롬프트를 바로 작성해 보세요.

무검열 채팅 열기 →

Dory 4B 직접 설치 vs Spicy AI 온라인 채팅

로컬 배포 (공식 가중치)Spicy AI 온라인
콘텐츠 필터안전 튜닝된 공식 모델콘텐츠 필터 없음
오픈 웨이트예필요 없음 — 브라우저에서 실행
모델공식 가중치 (BF16, MXFP8, NVFP4 또는 GGUF)비슷한 무검열 채팅 모델, 온라인 호스팅
시작 비용무료 다운로드, 내 기기 사용무료 플랜 제공

자주 묻는 질문

NVIDIA Nemotron Labs Dory1.0은 무엇인가요?

NVIDIA가 2026년 10월 16일에 공개한 4B 오픈 웨이트 텍스트 모델입니다. 공유 레이어 블록을 루프로 재사용하며, 실행 시 1~4 루프를 고를 수 있고, 최대 256K 토큰을 읽습니다.

루프는 몇 번으로 설정해야 하나요?

NVIDIA는 기본값으로 2를 권장합니다. 1 루프가 가장 빠르고, NVIDIA 테스트에서 4 루프가 코딩과 에이전트 작업에서 최고 점수를 냈습니다. 예를 들어 SWE-bench Verified에서 61.8점입니다.

휴대폰이나 Mac에서도 돌아가나요?

공식 Q5_K_M GGUF는 약 3.67GB이고, 커뮤니티에서 MLX, CoreML, LiteRT 변환본을 제공합니다. NVIDIA 자체 테스트는 데이터센터 GPU와 DGX Spark에서 이뤄졌으므로, 다른 기기는 커뮤니티 빌드에 의존합니다.

Ollama에서 쓸 수 있나요?

모델 카드에 Ollama와 llama.cpp 명령어가 나와 있지만, llama.cpp 지원은 아직 풀 리퀘스트 단계입니다. 이 아키텍처를 지원하는 빌드가 필요하며, 이전 버전에서는 불러오지 못할 수 있습니다.

무검열 Dory 모델이 있나요?

NVIDIA에서 나온 것은 없습니다. Hugging Face에 커뮤니티의 abliterated, heretic 버전이 있지만 비공식이며 품질은 검증되지 않았습니다.

한국어나 다른 언어도 이해하나요?

NVIDIA가 지원 언어로 명시한 것은 영어뿐입니다. 다른 언어도 어느 정도 작동할 수 있지만 품질은 확인되지 않았습니다.

출처

Sign in

Welcome to Spicy AI

or