조용히 내놓은 작은 모델, 잉클링 스몰
미라 무라티의 티모신 랩(Thinking Machines Lab)은 그동안 이름값에 비해 조용한 편이었습니다.
이 효율 논의의 하드웨어 짝이 바로 왜 연산이 아니라 메모리가 AI의 천장인지입니다.
리더보드가 아니라 실제 난제 풀이로 능력을 평가하는 흐름은 OpenAI의 Astra가 미해결 수학 난제를 푼 방식에서 이어집니다.
투자금만 20억 달러, OpenAI CTO 출신이자 현 CEO인 창업자까지 두었지만, 정작 손에 잡히는 제품은 오래 나오지 않았습니다.
그 흐름이 올해 7월 바뀌었습니다. 이 랩이 첫 오픈웨이트 모델 잉클링(Inkling)을 공개한 것입니다. 그리고 불과 2주 뒤 후속작 잉클링 스몰(Inkling-Small)을 다시 내놓았습니다.
왜 ‘작은 모델’이 화제인가
잉클링 스몰이 눈길을 끄는 이유는 단순합니다.
더 크고 화려한 모델이 아니라, 더 작은 모델이기 때문입니다. 그런데도 원조에 거의 뒤지지 않습니다.
숫자로 보겠습니다. 원조 잉클링은 MoE(전문가 혼합) 구조입니다. 신경망을 여러 ‘전문가’ 조각으로 나눠 두고, 토큰마다 그중 일부만 작동시키는 방식입니다. 그래서 서류상 크기는 거대해도 실제 연산에는 일부만 씁니다.
잉클링은 총 9,750억 파라미터 중 토큰당 410억만 활성화합니다.
잉클링 스몰은 같은 구조를 유지하면서 규모를 줄였습니다. 총 2,760억 파라미터, 활성 120억. 두 수치 모두 대략 4분의 1입니다.
작다고 멍청하지 않았습니다
보통 ‘작으면 성능도 떨어진다’고 생각합니다. 여기서는 그렇지 않았습니다.
암기로는 못 푸는 고난도 추론 벤치마크인 ‘휴머니티스 라스트 이그잼(HLE)’에서 잉클링 스몰은 31.6%를 기록해, 오히려 원조 잉클링의 29.7%를 앞섰습니다.
실제 깃허브 버그 수정을 다루는 SWEBench Verified에서는 80.2%(원조 잉클링 77.6%), 대학원 수준 과학 문제인 GPQA Diamond에서는 89.5%를 받았습니다.
랩은 이런 상충 관계도 솔직하게 인정합니다. 작은 모델은 추론과 에이전트형 코딩에서 앞서지만, 원조는 아는 지식의 양이 더 많고 사실 오류(환각)가 조금 더 적습니다.
그러니까 공짜는 아닙니다. 지식의 폭을 조금 내주는 대신, 훨씬 적은 연산으로 같은 수준의 추론력을 확보하는 구조입니다.
진짜 승부는 가격에서 갈립니다
두 모델은 멀티모달 방식도 동일합니다. 텍스트·이미지·오디오를 함께 입력으로 받고, 별도 모듈을 붙이지 않고 세 가지를 함께 추론합니다. 컨텍스트 창은 최대 100만 토큰까지 지원합니다.
둘 다 Apache 2.0 라이선스로 풀립니다. 오픈 라이선스 중에서도 가장 자유로운 축입니다. 상업적 이용도, 수정도, 제품화도 누구에게 물어볼 필요가 없습니다. 풀 웨이트는 허깅페이스에 올라와 있고, 파인튜닝은 랩이 만든 팅커(Tinker) 플랫폼에서 돌립니다.
그리고 보통 묻히는 대목이 있습니다. 바로 가격입니다.
잉클링 스몰의 출력 비용은 100만 토큰당 1.20달러입니다. 원조 잉클링은 4.05달러입니다.
반올림 오차 수준이 아닙니다. 대량으로 돌리는 작업(출력 채점, 합성 학습 데이터 생성, 배치 코딩)이라면, 추론 성능은 비슷한데 비용은 3배 넘게 차이 납니다. 이 모델은 NVIDIA의 GB300 NVL72 시스템에서, 랩이 밝힌 바에 따르면 원조보다 훨씬 적은 연산으로 훈련됐습니다.
여기서 짚어 볼 것
이 소식은 하나의 흐름에 정확히 들어맞습니다.
앞서 다룬 OpenAI의 GPT-5.6 루나 가격 80% 인하와, 스탠퍼드의 LLM 훈련비 사전 예측 연구도 같은 맥락에 있습니다. 회사도 다르고 각도도 다르지만, 밑바닥 이야기는 같습니다.
지금 AI의 최전선은 ‘얼마나 크게 갈 수 있나’가 아닙니다. ‘이 수준을 유지하면서 얼마나 적게 쓸 수 있나’입니다. 잉클링 스몰은 그 생각을 그대로 제품으로 구현한 결과입니다.
정말 흥미로운 건 그 밑에 깔린 전략입니다. 티모신은 리더보드 1등 모델을 의도적으로 쫓지 않습니다. 원조 잉클링조차 ‘지금 나온 것 중 가장 강한 모델은 아니다’라고 랩 스스로 인정합니다.
대신 이들이 노리는 건 ‘고쳐 쓰기 좋은 출발점’입니다. 효율적이고, 멀티모달이고, 팅커에서 파인튜닝할 수 있는 모델입니다. 무라티는 이를 ‘만능형 AI에 맞서는 역발상 전략’이라고 표현했습니다. “우리 모델이 GPT를 이긴다”가 아니라 “우리 모델을 받아서 데이터로 손보면, 결과물은 당신 것이 된다”는 제안입니다.
잉클링 스몰은 이 제안을 더 날카롭게 만듭니다. 기반 모델이 더 저렴할수록, 그 위에 자신만의 것을 쌓는 비용도 낮아지기 때문입니다.
오픈웨이트가 뜻하는 것
오픈웨이트 방향에는 조용히 중요한 대목이 있습니다.
가중치를 Apache 2.0으로 내려받는 순간, 그 모델은 ‘빌려 쓰는 서비스’가 아니라 ‘소유하는 자산’으로 바뀝니다.
내 하드웨어에서 돌릴 수 있고, 비공개로 튜닝할 수 있고, 어느 회사가 API 약관을 바꿔도 사라지지 않습니다. 외부로 반출할 수 없는 데이터를 다루는 팀에게는 이 점이 결정적입니다.
그리고 총 2,760억 중 120억만 활성화하는 모델은, 데이터센터 없이도 실제 배포가 가능한 규모입니다.
마무리
모델을 직접 훈련하지 않는 사람에게 이 소식이 뜻하는 건 하나입니다. 바닥이 올라가고 있다는 것입니다.
‘기반으로 삼기 충분한’ 모델의 비용은 계속 내려가고, 그런 모델을 온전히 소유하기도 점점 쉬워집니다.
잉클링과 잉클링 스몰 사이의 2주 간격도 한 가지를 말해 줍니다. 이 랩은 빠르게 반복하고 있고, 그 빠른 후속작이 플래그십이 아니라 ‘효율형’이었습니다.
AI에서 흥미로운 경쟁은 ‘누가 가장 큰 모델을 가졌나’에서 ‘누가 가장 유능하면서도 온전히 소유할 수 있는 모델을 제공하나’로 옮겨 가고 있습니다.
다른 곳들도 이걸 같은 신호로 읽을지, 지켜볼 만합니다.
원문 출처 / Source: https://thinkingmachines.ai/news/inkling-small/
이미지: Growtika / Unsplash
댓글 남기기