THE WORLD I SEE · AI & INDUSTRY
2026년 7월 Kimi K3 공개 당시를 다룬 글입니다. 2026년 10월 27일 출처와 설명을 보완했습니다. 성능·가격 비교는 각 자료의 기준일을 따르며, 현재 최신 모델의 순위를 뜻하지 않습니다.
2026년 7월, 문샷AI가 내놓은 키미 K3는 AI 경쟁을 보는 질문을 하나 더했습니다. 좋은 모델을 빌려 쓰는 것과, 직접 운영할 수 있는 것은 어떻게 다를까?
MOONSHOT AI · KIMI K3
모델이 공개되면
AI의 비용도 내려갈까?
문샷AI의 연구 배경부터 성능 평가, 자체 운영의 비용과 한계까지
키미 K3는 총 2조 8,000억 개의 파라미터를 갖춘 대형 모델입니다. 그러나 크기만으로 이 모델의 의미를 설명하기는 어렵습니다. 기업이 가중치를 내려받아 운영할 수 있다는 점, 긴 작업을 수행하는 능력, 그리고 사실을 틀리지 않는 능력을 나누어 봐야 합니다.
먼저 날짜부터 구분하겠습니다. 서비스·API 공개는 7월 16일, 전체 모델 가중치 공개는 7월 27일입니다. 처음부터 모든 가중치가 공개된 것은 아닙니다. 공식 안내도 이 두 시점을 나누어 설명합니다. [1]
먼저 읽는 세 가지
- 기업: 문샷AI는 키미를 개발한 회사이며, 창업자 양즈린은 자연어처리 연구 경력을 갖고 있습니다.
- 기술: K3는 일부 전문가 모듈을 선택하는 MoE 구조를 쓰지만, 자체 운영에는 상당한 인프라가 필요합니다.
- 판단: 성능 향상과 신뢰성 향상은 같은 말이 아닙니다. 오픈웨이트도 자동으로 저비용·무위험을 뜻하지 않습니다.
1. 문샷AI는 어떤 회사인가?
문샷AI(Moonshot AI)는 키미 서비스와 모델을 개발하는 중국 AI 기업입니다. 공식 회사 소개에 따르면 2023년 봄에 설립됐습니다. [9] 이 회사를 이해할 때는 창업자의 유명세보다, 어떤 연구를 실제 제품으로 연결했는지 보는 편이 유용합니다.
양즈린의 이력에서 확인할 수 있는 것
양즈린(杨植麟·Zhilin Yang)의 개인 홈페이지에 따르면, 그는 2015년 칭화대학교에서 학사 학위, 2019년 카네기멜런대학교에서 박사 학위를 받았습니다. Meta AI와 Google Brain에서 연구한 경력도 직접 소개하고 있습니다. [2]
| 2015년 | 칭화대학교 학사 |
|---|---|
| 2019년 | 카네기멜런대학교 박사 |
| Transformer-XL | 고정된 문맥 길이의 제약을 완화하려는 언어모델 연구에 공동 저자로 참여 |
| XLNet | 언어모델의 사전학습 방식을 다룬 연구에 공동 저자로 참여 |
두 논문을 곧바로 K3의 설계도라고 볼 수는 없습니다. 다만 창업자가 언어모델과 문맥 처리의 연구를 해왔다는 점은 확인됩니다. 기업을 평가할 때도 이런 연구 기반과, 이후 제품에서 실제로 구현한 성능을 연결해 보는 것이 낫습니다. [3] [4]
2026년 7월 16일 · 서비스 공개Kimi 서비스와 API 등을 통해 K3 이용 시작.
2026년 7월 17일 · 외부 평가 발표Artificial Analysis가 성능·가격·환각 지표 분석 공개.
2026년 7월 27일 · 전체 가중치 공개서비스 이용과 별개로, 가중치를 활용한 자체 운영 경로가 열림.
자료: Kimi 공식 안내와 Artificial Analysis의 당시 평가. [1][7]
2. Kimi K3는 어떤 모델인가?
K3는 텍스트와 이미지를 다루는 모델입니다. 긴 코드와 문서를 처리하고, 도구를 이용해 여러 단계의 작업을 수행하는 방향에 초점을 맞췄습니다. 아래는 공식 모델카드에 기재된 사양입니다. [5]
| 전체 파라미터 | 2.8조 개 |
|---|---|
| 활성 파라미터 | 약 1,040억 개(104B) |
| 전문가 구성 | 라우팅 대상 896개 중 토큰당 16개 선택, 공유 전문가 2개 별도 |
| 문맥 길이 | 1,048,576 토큰, 약 100만 토큰 |
| 핵심 구조 | MoE, Kimi Delta Attention(KDA), Attention Residuals |
문맥 길이는 모델이 처리할 수 있는 문맥의 토큰 한도이며, 긴 문서의 모든 내용을 언제나 정확하게 이해한다는 보증은 아닙니다.
‘896개 중 16개’는 무슨 뜻일까?
MoE는 전문가라고 부르는 여러 신경망 모듈 가운데 일부를 골라 연산하는 방식입니다. 여기서 전문가는 사람이 아니며, 각각이 법률·회계·코딩 같은 직업에 하나씩 대응한다고 볼 수도 없습니다.
MoE 계층을 이해하기 위한 단순화된 흐름
공유 전문가와 어텐션 등 공통 연산은 도식에서 생략했습니다. 질문 한 건에 전문가 16개를 고정 배정하는 그림이 아니라, 토큰 처리 과정의 선택을 설명한 것입니다.
16을 896으로 나누면 약 1.8%입니다. 하지만 이 숫자는 선택되는 전문가 모듈 수의 비율이지, 전체 계산비용이나 메모리 사용량이 1.8%로 줄어든다는 뜻이 아닙니다. 공유 연산과 데이터 이동 비용도 남습니다.
가중치를 저장하고 필요한 연산을 지원할 인프라도 필요합니다. 실제 메모리 배치와 오프로딩 여부는 구현에 따라 달라지므로, ‘모든 전문가를 항상 GPU 메모리에 올려야 한다’고 단정하는 것도 피해야 합니다.
문샷은 공식 기술 소개에서 가속기 64개 이상의 슈퍼노드 구성을 권장합니다. 이는 권장 배치이지 모든 구현의 절대적인 최소 사양이라는 뜻은 아닙니다. 공개 모델이라는 사실과 개인용 PC에서 쉽게 운영할 수 있다는 주장은 구분해야 합니다. [6]
화면을 보고 다시 고치는 ‘Vision in the Loop’
회사 설명에 따르면 K3는 코드를 만든 뒤 실행 화면을 확인하고 다시 수정하는 작업을 수행할 수 있습니다. 웹 화면과 게임처럼 시각적인 결과가 중요한 작업에서 활용할 수 있는 방식입니다. 다만 소개 페이지의 성공 사례가 모든 작업에서 동일하게 재현된다는 뜻은 아닙니다. [6]
3. 성능이 좋아졌는데 환각률도 높아졌다고?
Artificial Analysis의 2026년 7월 17일 평가는 K3의 종합 성능 향상을 보여줍니다. 동시에 AA-Omniscience에서는 정답률과 환각률이 모두 상승했습니다. 아래 두 지표의 분모가 다르기 때문에 가능한 결과입니다. [7]
정답률 · 높을수록 좋음
K2.6 33% → K3 46%
전체 질문 중 정답을 낸 비중.
환각률 · 낮을수록 좋음
K2.6 39% → K3 51%
정답이 아닌 응답 가운데 오답을 낸 비중. 모든 답변의 오답률과 다릅니다.
출처: Artificial Analysis, 2026-07-17. 막대는 모두 0~100% 공통 범위이며 회색은 K2.6, 빨강은 K3입니다. [7]
51%를 어떻게 읽어야 할까?
AA-Omniscience의 환각률 정의는 오답 ÷ (오답 + 부분 정답 + 답변하지 않음)입니다. 따라서 ‘K3가 일상에서 하는 모든 답변 중 51%가 틀렸다’고 해석하면 안 됩니다. 정답을 내지 못한 경우에 모른다고 멈추기보다 잘못된 답을 제시한 정도를 보는 지표입니다. [8]
제 해석은 이렇습니다. 더 많은 문제를 해결하는 능력과, 모르는 문제에서 멈추는 능력은 따로 확인해야 합니다. 특히 기업 정보나 금융 수치를 다룰 때는 유창함보다 날짜·단위·원출처를 확인하는 과정이 중요합니다. 이는 특정 모델만의 문제가 아니라 AI를 업무에 쓰는 방법의 문제이기도 합니다.
한편 공개 당시 공식 API 요금은 100만 토큰당 비캐시 입력 3달러, 캐시 적중 입력 0.30달러, 출력 15달러였습니다. 현재 요금 안내가 아니라 당시 공개 자료의 가격입니다. 출력량과 캐시 사용에 따라 실제 작업비용이 달라집니다. [6]
속도와 순위는 제공업체·추론 설정·측정 시점에 따라 달라집니다. 실제 도입에서는 자신의 업무와 같은 조건으로 비교하는 것이 좋습니다.
4. 오픈웨이트는 무엇을 바꾸는가?
오픈웨이트는 학습된 가중치를 받아 사용할 수 있다는 뜻입니다. 학습 데이터와 모든 개발 과정까지 공개됐다는 뜻은 아니며, 실제 이용 범위는 해당 라이선스의 조건을 확인해야 합니다.
또한 공개 모델도 서비스나 API로 빌려 쓸 수 있습니다. ‘폐쇄형은 API, 공개형은 무조건 자체 운영’이라는 양자택일이 아닙니다. 비교할 대상은 외부 관리형 서비스를 쓰는 방식과 자체 인프라에서 운영하는 방식입니다.
| 구분 | 외부 API 이용 | 가중치 자체 운영 |
|---|---|---|
| 도입 | 초기 인프라 부담이 비교적 작음 | 장비·설치·운영 역량 필요 |
| 비용 | 요금표와 사용량에 영향받음 | 장비·전력·인력·가동률에 영향받음 |
| 데이터 | 제공업체의 처리 조건·보관 정책 확인 | 내부 통제 가능. 접근 관리·로그·보안 책임도 직접 부담 |
| 변경 | 업체 기능과 계약 조건에 제약 | 라이선스 범위 내 조정 가능. 교체·검증 비용은 남음 |
여기서 중요한 질문은 ‘토큰 가격이 더 싼가’ 하나가 아닙니다. 같은 품질의 일을 끝내는 데 총비용이 얼마나 드는가입니다. 자체 운영은 사용량이 충분하면 비용을 통제할 여지가 있지만, 장비가 놀거나 재작업이 많으면 오히려 비쌀 수 있습니다.
제가 비교할 총비용
모델 이용료 또는 인프라 비용 + 운영 인력 + 검증·수정 비용 + 장애 대응 비용
투자 수익을 계산한 산식이 아니라, 비용 비교에서 빠뜨리지 않기 위한 항목 구분입니다.
따라서 K3가 공개됐다는 사실만으로 기존 API 기업의 가격 결정력이 이미 무너졌다고 단정하기는 어렵습니다. 다만 수요자에게 선택지가 늘면 협상과 경쟁의 조건이 달라질 가능성은 있습니다. 실제 효과는 품질·신뢰성·운영 편의·총비용을 함께 비교해야 확인할 수 있습니다.
5. 산업과 투자 관점에서 무엇을 볼까?
저는 공개 모델의 등장을 특정 기업의 승패로 바로 연결하기보다, AI를 쓰는 비용과 그 수익이 누구에게 돌아가는지를 보는 계기로 삼고 싶습니다. 아래는 확인된 실적이 아니라 앞으로 검증할 판단 기준입니다.
① 공급자의 수익성
모델 성능이 좋아져도 가격 경쟁과 추론 비용 때문에 이익이 충분히 남지 않을 수 있습니다. 사용량과 함께 고객당 매출, 서비스 비용, 반복 사용을 봐야 합니다.
② 사용자의 실질 효율
결과물이 화려해도 사람이 오류를 고치는 시간이 길면 생산성 개선은 작을 수 있습니다. 실제 업무를 끝내는 시간과 수정 비용이 판단 기준입니다.
③ 인프라 수요
작업당 계산량이 줄어도 이용량이 크게 늘면 전체 수요는 커질 수 있습니다. 반대로 효율 개선이 더 빠르면 수요 증가가 둔화할 수도 있습니다.
④ 신뢰성과 통제
중요한 판단에 쓸수록 출처 확인과 사람의 검토가 필요합니다. 내부망 운영도 그 자체로 보안·규제 요건 충족을 보장하지 않습니다.
이 관점에서 보면 K3의 의미는 ‘미국 모델을 전부 이겼다’는 구호보다 분명합니다. 높은 성능의 모델을 이용하고 운영하는 선택지가 넓어졌다는 것입니다. 그 선택지가 누군가의 비용 절감과 이익으로 이어지는지는 다음 단계의 검증 과제입니다.
제가 던지고 싶은 질문은 ‘어느 모델이 1등인가’에서 한 걸음 더 나아갑니다.
그 성능을 믿고 쓸 수 있는가, 운영비를 감당할 수 있는가, 그리고 실제로 돈과 시간을 아껴주는가?
이 글은 공개 자료를 바탕으로 한 기업·기술 해설과 필자의 해석입니다. 직접 사용한 성능 시험이나 특정 자산에 대한 매매 권유가 아닙니다.
함께 읽으면 좋은 글
MoE(Mixture of Experts): 전문가 혼합 구조 이해하기
일부 전문가를 선택하는 방식과, 연산 절감만으로 설명되지 않는 메모리·통신 부담을 더 살펴봅니다.
자료와 출처
2026년 10월 27일 원문 확인. 과거 가격·평가 수치는 본문에 적힌 공개 시점을 기준으로 읽어주세요. 회사의 사양·자체 평가는 독립적인 성능 보증과 구분했습니다.
- Kimi 공식 도움말 · 모델 공개 연혁 — 7월 16일 서비스 공개와 7월 27일 가중치 공개 구분.
- Zhilin Yang 개인 홈페이지 — 학력·연구 경력·논문 목록.
- Transformer-XL 논문, 2019 — 공동 저자와 연구 내용.
- XLNet 논문, 2019 — 공동 저자와 사전학습 연구.
- Moonshot AI · Kimi K3 공식 모델카드 — 파라미터·전문가 구성·문맥 길이.
- Kimi K3: Open Frontier Intelligence — 기술 소개, 공개 당시 API 가격, 권장 인프라.
- Artificial Analysis · Kimi K3 평가, 2026-07-17 — 정답률·환각률 비교.
- Artificial Analysis · AA-Omniscience 지표 정의 — 정답률과 환각률의 분모·해석.
- Moonshot AI 공식 회사 소개 — 회사 설립 시점.
댓글
댓글 쓰기