TraviaTechPie Review

Review Tech, Science, Finance

지난 3년간 AI 업계는 클수록 좋다는 믿음 하나로 달려왔습니다. 파라미터도, 데이터도, GPU도, 전기도 더 많이. 진짜 똑똑한 모델은 창고만 한 클라우드 데이터센터 안에 있고, 여러분의 폰은 그저 그곳을 들여다보는 창일 뿐입니다.

관련해서 GPU 한 장에 올린 메타 뮤즈 글리머도 함께 참고하시면 좋습니다.

더 작고 효율적인 모델 흐름의 또 다른 사례는 UNIST GMoE 전문가 공유입니다.

에이전트 경제의 인프라 쪽은 AI 에이전트용 비즈니스 인프라 Naïve에서 다룹니다.

MIT 스핀아웃 기업 리퀴드 AI가 이 흐름과 정반대 방향에 판돈을 걸었습니다.

이 회사는 ‘리퀴드 나노스(Liquid Nanos)’라는 모델 제품군을 공개했습니다. 데이터센터가 아니라 일상 기기 안에서 직접 돌아가도록 만든, 아주 작은 모델들입니다.

크기부터 봅니다. 파라미터가 3억 5천만 개에서 26억 개 사이입니다.

감을 잡기 위해 비교하면, 우리가 클라우드에서 쓰는 모델은 보통 수천억에서 수조 개 단위입니다. 그 기준으로 보면 나노스는 정말 작습니다. 작다는 것 자체가 핵심입니다. 폰이나 노트북, 심지어 임베디드 칩 안에 들어갈 만큼 작아서 서버를 거칠 필요가 없습니다.

무엇을 공개했나

첫 공개는 6개의 특정 작업용 모델입니다. 이름만 봐도 철학이 드러납니다.

  • LFM2-350M-ENJP-MT — 영어·일본어 번역
  • LFM2-350M-Extract / LFM2-1.2B-Extract — 지저분한 문서에서 구조화된 데이터 추출
  • LFM2-350M-Math — 수학 문제 풀이
  • LFM2-1.2B-RAG — 긴 문서에서 질문에 답하기
  • LFM2-1.2B-Tool — 함수 호출(AI가 대화만 하는 게 아니라 실제 동작을 실행하게 해 주는 연결 부품)

여기서 빠진 것을 눈여겨볼 필요가 있습니다. ‘뭐든 다 하는’ 만능 챗봇이 없습니다. 모델 하나가 딱 한 가지 일만 합니다.

이것이 리퀴드가 내세우는 주장입니다. 지금까지 에이전트 AI의 지배적인 발상은 거대한 만능 모델 하나에게 번역도, 추출도, 추론도, 도구 호출도, 대화도 전부 맡기는 것이었습니다. 리퀴드의 반론은 이렇습니다. 에이전트가 실제로 하는 일 대부분은 만능이 필요 없다는 것입니다. 그 작업 하나에 딱 맞게 벼려진 전문가면 충분합니다. 그리고 잘 벼려진 전문가는 수백 배 더 작아질 수 있습니다.

성능 주장

흥미로운 지점은 성능입니다. 다만 어느 모델이 어느 대상과 비교됐는지 정확히 짚고 가야 합니다. 숫자만 보면 오해하기 쉽기 때문입니다.

리퀴드가 공개한 자체 평가에 따르면, 3억 5천만 개짜리 추출 모델 LFM2-350M-Extract가 구글의 Gemma 3 4B를 앞선다고 합니다. 자기보다 약 11배 큰 범용 모델입니다.

더 큰 12억 개짜리 LFM2-1.2B-Extract는 여기서 한 걸음 더 나아가, Gemma 3 27B(약 22.5배 크기)를 넘어서고 GPT-4o(약 160배 크기)와도 겨룬다고 합니다. 오해하지 말아야 할 점은, 27B를 이긴 것은 이 12억 개 모델이지 3억 5천만 개 모델이 아니라는 것입니다.

다만 이 수치는 회사 내부 평가와 파트너 평가라는 점을 감안해야 합니다. 그래도 방향은 분명합니다. 좁은 작업 하나에서는 잘 훈련된 작은 모델이 덩치를 훌쩍 뛰어넘을 수 있습니다.

이 모델들은 리퀴드의 자체 엣지 AI 플랫폼 LEAP, 그리고 허깅페이스와 리퀴드 아폴로(Liquid Apollo)라는 앱을 통해 내려받을 수 있습니다. 학계·개발자·소기업을 대상으로 한 공개 라이선스로 풀려 있어(대규모 상업적 이용은 별도 조건이 적용됩니다), 대기자 명단 뒤에 잠겨 있지 않고 지금 바로 받아서 돌릴 수 있습니다.

회사가 반복해서 강조하는 문장은 공동창업자 겸 CTO 마티아스 레히너의 말입니다. 나노스는 “한계 추론 비용 제로로 거대 프런티어 모델급 작업 성능을 낸다”는 것입니다.

이 문장을 풀어 보면 사업의 핵심이 보입니다. 모델이 사용자 기기 안에서 돌아가면, 첫 질문 이후의 모든 질의는 회사 입장에서 사실상 공짜입니다. 시간당 빌리는 GPU도, 사용자가 늘수록 함께 늘어나는 전기 요금도 없습니다. 사용자가 한 명 늘 때마다 가파르게 치솟던 AI 비용 곡선이 평평해집니다.

짚어 볼 점

사실 이 주제는 이전부터 이 글의 배경에 있던 것입니다. 리퀴드가 그 흐름에 더 날카로운 날을 세워 준 셈입니다.

앞서 싱킹 머신스(Thinking Machines)가 잉클링 스몰을 냈을 때, 화제는 성능이 아니라 4분의 1 크기라는 것 자체가 요점이라는 점이었습니다. 나노스는 그 주장을 한 걸음 더 밀어붙입니다. 그냥 작은 게 아니라, 데이터센터를 아예 떠날 만큼 작습니다.

여기서 짚을 것이 있습니다. 한동안 AI에서 흥미로운 질문은 “얼마나 크게 갈 수 있나”였습니다. 지금 더 흥미로운 질문은 “얼마나 작게 버틸 수 있나”입니다. 두 질문은 정반대 방향의 최적화이고, 뒤쪽이 조용히 세를 넓혀 왔습니다.

이유가 있습니다. 앞서 메모리 병목을 다룬 글에서 짚었듯, 거대 모델의 진짜 제약은 이제 연산력이 아니라 그 덩치를 감당하는 일입니다. 메모리 대역폭, 전력, 그리고 매 추론마다 드는 비용. 온디바이스 소형 모델이 그 벽을 없애는 것은 아닙니다. 대신 벽을 우회합니다.

‘전문가’ 프레임에서 제가 정말 흥미롭게 본 지점은 따로 있습니다. 이것은 하나의 설계 관행에 대한 조용한 반박입니다. 업계는 지능이란 곧 범용성이라고 정의했습니다. 뭐든 하는 모델 하나. 리퀴드는 그것이 대개 잘못된 도구라고 말합니다.

에이전트가 실제로 처리하는 작업 대부분은 지루하고 반복적입니다. 이 필드를 추출하고, 이 문장을 번역하고, 저 함수를 호출하고. 여기에 철학자는 필요 없습니다. 로컬에서 빠르고 싸고 안정적으로 돌아가는 전문가면 됩니다. 이렇게 보면 ‘AI 인프라’의 모습이 꽤 달라집니다. 클라우드 위에 세운 대성당이 아니라, 수십억 대의 기기에 퍼진 작은 도구들의 무리에 가깝습니다.

동시에 헤드라인에 잘 안 잡히는 부분도 바뀝니다. 프라이버시, 지연, 오프라인 안정성입니다. 기기 안에서 도는 모델은 여러분의 문서를 남의 서버로 보내 분석하지 않습니다. 네트워크를 거치지 않으니 즉시 답합니다. 비행기 안에서도, 터널 안에서도, 지하 병원에서도 계속 작동합니다. 데이터가 건물 밖으로 나갈 수 없는 의료·법률·산업 현장에서는 이것이 있으면 좋은 옵션이 아니라 유일하게 허용되는 형태입니다.

그렇다면 거대 클라우드 모델의 시대가 끝나는 것일까요. 아닙니다. 가장 어려운 개방형 문제, 진짜로 수조 개 파라미터가 필요한 추론은 앞으로도 오랫동안 데이터센터에 남습니다. 지금 벌어지는 일은 분화입니다. 큰 두뇌는 어려운 사고를 위해 클라우드에 남고, 작은 전문가 부대가 엣지에서 잘 정의된 수백만 개의 작은 일을 처리합니다. 리퀴드는 후자가 전자보다 훨씬 크다는 데 걸었습니다. 에이전트가 실제로 밟는 단계 중 ‘추출·번역·호출·검색’이 차지하는 비율을 따져 보면, 이 판단이 맞을 가능성이 높습니다.

한 가지 지켜볼 것은 벤치마크와 현실의 간극입니다. “훨씬 큰 모델을 이긴다”는 주장은 그 모델이 맞춰 훈련된 바로 그 작업에서만 참입니다. 입력이 그 작업의 경계 밖으로 조금만 벗어나도 무너질 수 있습니다. 전문가는 자기 전문 영역의 경계만큼만 유능합니다. 이 접근 전체를 떠받치는 트레이드오프이자, 개발자들이 실제 현장에 돌려 보는 순간 금방 알게 될 지점입니다.

※ 정보 제공 목적이며 투자나 구매 권유가 아닙니다.


원문 출처 / Source: https://www.liquid.ai/press/liquid-unveils-nanos-extremely-small-foundation-models-that-match-frontier-model-quality–running-directly-on-everyday-devices

이미지: Igor Omilaev / Unsplash

Posted in

댓글 남기기

TraviaTechPie Review에서 더 알아보기

지금 구독하여 계속 읽고 전체 아카이브에 액세스하세요.

계속 읽기