30B라는데 3B만 씁니다. 숫자만 보면 앞뒤가 안 맞는 이야기인데, 엔비디아가 내놓은 새 오픈 모델 네모트론 3 나노(Nemotron 3 Nano)가 딱 그렇게 동작합니다.
### 30B인데 3B만 켠다는 말
파라미터가 30B, 정확히는 31.6B입니다. 그런데 토큰 하나를 처리할 때 실제로 켜지는 파라미터는 약 3.6B뿐입니다. 모델 안에 전문가 128명이 들어 있는데, 그중 6명만 불러서 일을 시키는 구조입니다.
이게 혼합 전문가(MoE, Mixture-of-Experts) 방식입니다. 처음 들으면 어렵게 느껴지지만 발상은 단순합니다. 보통의 촘촘한(dense) 모델은 단어 하나를 볼 때마다 모든 뉴런을 다 돌립니다. 필요하든 안 하든 전부 켭니다. 반면 MoE는 전문가를 잔뜩 두고, 지금 이 일에 맞는 소수만 호출합니다. 큰 모델의 지식을 쓰면서 작은 모델의 비용으로 돌리는 셈입니다.
여기에 구조가 하나 더 얹힙니다. 맘바-2(Mamba-2) 계층과 트랜스포머 계층을 번갈아 섞은 하이브리드 설계입니다. 맘바는 문장이 길어질수록 비용이 완만하게 늘어나는 방식이라, 긴 맥락을 다룰 때 유리합니다. 네모트론 3 나노가 내세우는 100만 토큰 맥락 창이 여기서 나옵니다.
### 무엇을 위한 모델인가
100만 토큰이면 작은 책 한 권 분량이 넘습니다. 에이전트 입장에서는 작업 이력, 참고 문서 더미, 여러 단계 계획을 한 창 안에 통째로 담을 수 있다는 뜻입니다. 문서를 잘게 쪼개서 검색으로 다시 이어 붙이는 번거로움이 줄어듭니다.
엔비디아는 용도를 분명히 밝힙니다. 코드 디버깅, 요약, 도구 사용, 정보 검색, 그리고 스무 단계 전에 뭘 했는지 기억해야 하는 긴 호흡의 작업입니다. 에이전트가 한 가지 일을 끝내려고 모델을 수백 번 반복 호출하는 상황에서, 값싸게 여러 번 돌릴 수 있게 맞춰져 있습니다.
### 성능 수치는 어디서 나온 건가
엔비디아 자체 벤치마크로는, 나노가 Qwen3-30B와 GPT-OSS-20B를 정확도에서 앞서거나 대등하면서 처리량은 각각 3.3배, 2.2배 높다고 합니다. 이전 세대인 네모트론 2 나노 대비 처리량 4배, 답을 내는 데 드는 ‘추론 토큰’은 최대 60% 감소라고도 합니다. 토큰당 과금이라는 점을 생각하면 이건 실제 비용 지렛대입니다.
다만 이건 만든 회사가 낸 수치라 걸러 들어야 합니다. 그래서 외부 검증이 중요한데, 독립 벤치마크 기관 아티피셜 애널리시스도 나노를 같은 체급 오픈 모델 중 처리량 상위권으로, 개방성 지표에서도 높게 집계합니다. 회사 마케팅과 제3자 평가가 대체로 같은 방향을 가리키면, 그 주장은 한 번 진지하게 볼 만합니다.
### ‘오픈’이라는 말의 진짜 범위
‘오픈’은 워낙 남용되는 단어라 정확히 짚겠습니다. 네모트론 3 나노는 엔비디아 네모트론 오픈 모델 라이선스 아래 공개됐고, 이는 상업적 사용이 허용되는 관대한 라이선스입니다. 게다가 가중치만 던진 게 아니라 학습 데이터셋과 후처리 레시피(SFT·RLVR·RLHF 포함)까지 공개했습니다. 일부 데이터셋은 승인 절차를 거쳐야 합니다.
“가중치는 주지만 재현은 알아서 하라”는 흔한 공개보다는 훨씬 열려 있습니다. 다만 라이선스에 조건이 붙고 모든 데이터가 무제한은 아니니, 완전한 오픈소스라기보다 ‘오픈 라이선스와 레시피가 딸린 오픈웨이트’라는 표현이 정직합니다.
나노는 이 가족의 막내입니다. 같은 계열로 총 120B(활성 약 12.7B)의 슈퍼, 총 550B(활성 약 55B)의 울트라도 함께 발표됐습니다. 가중치는 허깅페이스와 엔비디아의 build.nvidia.com에서 내려받을 수 있습니다.
### 왜 GPU 파는 회사가 모델을 공짜로 뿌리나
한동안 한 가지 흐름을 계속 지켜보고 있는데, 네모트론 3 나노는 그 흐름의 가장 최근 사례입니다. ‘작고 열린 효율 경쟁’이라 부를 만합니다.
최근에 무엇이 나왔는지 보면 그림이 잡힙니다. 리퀴드 AI의 나노스는 에이전트의 미래를 스마트폰 안에서 돌아가는 초소형 모델에 걸었습니다. 메타의 뮤즈 글리머는 30B 에이전트 모델을 GPU 한 장에 올려 오픈웨이트 싸움을 다시 열었습니다. UNIST의 GMoE는 신경망 층들이 전문가를 공유하게 만들어 모델을 63% 가볍게 줄였습니다. 연구실도 나라도 모두 다르지만, 한 가지 확신은 같습니다. 프런티어는 모델을 키우는 것만이 아니라 똑똑한 모델을 싸게 돌리는 것에 있다는 확신입니다. 네모트론 3 나노는 여기에 엔비디아의 무게를 실은 버전입니다.
여기서 한 가지 짚을 것이 있습니다. GPU를 파는 회사가 왜 자꾸 효율 좋은 모델을 공짜로 내놓느냐는 물음입니다. 겉으로는 자사 하드웨어 수요를 스스로 줄이는 것처럼 보입니다. 효율적인 모델은 칩을 덜 쓰기 때문입니다.
그런데 이건 거꾸로 읽어야 합니다. 엔비디아는 추론 한 번을 팔아 돈을 버는 것이 아닙니다. AI가 사방에 깔려서, 루프를 돌며, 엣지 기기에서, 에이전트 안에서 끊임없이 모델을 호출할 때 돈을 법니다. 값싸고 열린 에이전트용 모델은 수요 발생기입니다. 에이전트 시스템을 만드는 문턱을 낮추고, 그렇게 만들어진 시스템은 결국 누군가의 실리콘 위에서 돌아갑니다. 이왕이면 엔비디아 칩 위에서 말입니다. 모델은 면도기이고, 컴퓨팅이 면도날입니다. 코스모스 3를 오픈으로 공개한 데 이어 네모트론 3를 오픈으로 낸 것도 자선이 아닙니다. 자기가 이익을 얻는 생태계에 씨를 뿌리는 일입니다.
구조 선택도 방향을 말해 줍니다. 맘바와 MoE의 조합이 계속 등장하는 이유는, 에이전트에서 중요한 두 비용을 동시에 때리기 때문입니다. 긴 맥락은 맘바가, 토큰당 연산은 MoE가 맡습니다. UNIST의 공유 전문가 연구를 다룰 때 이 효율 각도를 짚었는데, 엔비디아가 같은 원리로 100만 토큰짜리 양산 모델을 내놓는 것을 보면 그 연구의 방향이 산업 규모에서 결실을 맺고 있다는 것을 알 수 있습니다.
제 생각은 이렇습니다. 오픈웨이트 순위표가 핵심이 아닙니다. 벤치마크 1등은 일주일이면 바뀝니다. 진짜 이야기는 ‘큰 모델, 작은 활성 발자국, 어디서나 돌리고, 오픈으로 낸다’는 형태가 진지한 에이전트 모델의 기본값이 됐다는 것입니다. 그리고 그 기본값을 정하는 회사가 바로 그 아래 깔리는 컴퓨팅을 파는 회사라는 점도 주목할 만합니다.
지켜볼 것은 하나입니다. 판돈이 커질수록 ‘오픈 라이선스’가 정말로 계속 열려 있을지, 아니면 생태계가 묶인 뒤에 조건이 슬며시 조여질지를 지켜보겠습니다.
※ 정보 제공 목적이며 투자 권유가 아닙니다.
원문 출처 / Source: https://huggingface.co/blog/nvidia/nemotron-3-nano-efficient-open-intelligent-models
이미지: Igor Omilaev / Unsplash
댓글 남기기