카카오가 카나나-2(Kanana-2) 경량 언어모델 계열을 허깅페이스에 오픈소스로 공개했고, 한국어 전용 토크나이저로 한국어 처리 효율을 30% 이상 개선했다고 밝혔습니다. 온디바이스·엣지 추론을 겨냥한 작은 모델과, 지시 이행·추론(Thinking) 변형이 함께 올라와 있습니다.
로컬 LLM을 돌리거나 한국어 챗·문서 요약 파이프라인을 짜는 사람이면, 모델 카드·라이선스·벤치 숫자보다 먼저 어디에 쓸지·VRAM이 되는지·데이터 정책과 맞는지를 보면 됩니다. 허깅페이스 컬렉션과 카카오 공식 발표를 기준으로, 실무에서 바로 고르는 순서만 정리합니다.
카카오는 자체 개발 언어모델 카나나 계열 중 카나나-2를 허깅페이스에 올려 두고, 온디바이스 AI를 겨냥한 경량 모델 4종 공개를 강조했습니다. 공식 설명 기준으로 한국어 특화 토크나이저를 적용해 기존 대비 한국어 처리 효율을 30% 이상 끌어올렸다고 합니다. 예전에 공개됐던 카나나 라인업(예: 8B·2.1B 등)과 별도로, 카나나-2 컬렉션에는 Base·Instruct·Thinking·Mid-training 등 변형이 함께 묶여 있습니다.
| 구분 | 의미 | 먼저 볼 사람 |
|---|
| Instruct | 지시 이행·챗 형식에 맞춘 파인튜닝 | 챗봇·FAQ·내부 도구 프로토타입 |
| Thinking | 추론 단계가 긴 작업용 변형 | 수학·코드·다단계 계획 |
| Base / Mid | 추가 학습·도메인 적응의 출발점 | 연구·파인튜닝 실험 |
| 경량 4종 | 스마트폰·엣지 기기 추론을 겨냥 | 오프라인·저지연·비용 절감 실험 |
정확한 파라미터 수·체크포인트 이름은 모델 카드가 기준입니다. 발표 헤드라인만 보고 고정하지 말고, 허깅페이스 카나나-2 컬렉션에서 파일 크기·라이선스·권장 프롬프트 템플릿을 확인하세요.
여기서 “30%”는 벤치마크 점수가 아니라, 카카오가 밝힌 한국어 처리 효율 개선 수치입니다. 토크나이저가 한국어를 더 짧은 토큰 시퀀스로 쪼개면, 같은 컨텍스트 창에 더 많은 문장을 넣고 입력·출력 토큰 비용을 줄일 수 있습니다. 반대로 영문 위주 글로벌 모델을 한국어로만 돌리면 토큰이 길어져 한도와 요금이 빨리 닳는 경우가 많습니다.
실무에서 바로 쓸 체크는 세 가지입니다.
- 같은 한국어 문단을 토큰 수로 비교 — 카나나-2 vs 기존 로컬 모델(예: 라마 계열 한국어 파인튜닝)에서 tokenizer.encode 길이만 재본다.
- 지연 시간 — 문장 생성 초당 토큰이 아니라, 사용자 체감 응답 시작 시간(TTFT)과 전체 완료 시간을 같이 본다.
- 품질 샘플 — 제품 FAQ 10개, 정책 문서 요약 5개, 코드 주석 한국어화 5개처럼 본인 도메인 텍스트로만 판정한다. 공개 벤치 순위만 보고 채택하지 않는다.
로컬 실행 환경 자체는 로컬 LLM 실행 가이드와 올라마 설치 가이드를 그대로 쓰면 됩니다. 카나나-2를 올라마·vLLM에 올리는 경로는 커뮤니티 GGUF·양자화 여부에 따라 달라지므로, 공식 가중치 형식을 먼저 확인하세요.
용도별로 첫 선택만 고정하면 헤매는 시간이 줄습니다.
| 상황 | 첫 후보 | 다음 확인 |
|---|
| 내부 한국어 챗·검색 보조 | Instruct | 시스템 프롬프트 템플릿, 환각 샘플 |
| 긴 추론·단계 계획 | Thinking | 컨텍스트 길이, 출력 토큰 상한 |
| 폰·엣지 데모 | 경량 4종 중 최소 사이즈 | 양자화·NPU 지원 여부 |
| 도메인 특화 학습 | Base / Mid | 라이선스 재배포 조건, 학습 데이터 정책 |
클라우드 API(챗지피티·클로드·제미나이)와 비교할 때는 품질만이 아니라 데이터 반출·월 고정비·오프라인 가능 여부를 같이 적습니다. 키미·딥시크 같은 오픈 가중치와 병렬로 볼 때는 키미 K3 분석 글의 가격·컨텍스트 비교 틀을 그대로 빌려 쓰면 됩니다.
오픈소스 공개라고 해서 제품에 바로 넣어도 되는 것은 아닙니다. 라이선스 표기(아파치 2.0 등 과거 카나나 공개 사례와 동일 여부)는 모델 카드 문구가 우선이고, 상용 서비스·재배포·파인튜닝 결과물 공개 의무를 한 줄씩 확인합니다. 자세한 선택 기준은 오픈소스 라이선스 가이드를 참고하세요.
- 라이선스 전문 — 상업 이용, 수정, 재배포, 특허 조항
- 사용 제한 추가 조항 — 모델 카드의 Acceptable Use, 금지 용도
- 학습 데이터·출력 책임 — 개인정보·저작물 혼합 시 내부 검토 경로
- 보안 — 모델 가중치 공급망, 체크섬, 의존 라이브러리 취약점 (공급망 방어 가이드)
- 운영 — GPU 메모리, 배치 크기, 모니터링 지표(지연·오류·금칙어 필터)
사내 정책상 해외 API만 허용하는 조직이면, 카나나-2를 로컬에 올려도 법무·보안 승인이 따로 필요할 수 있습니다. 기술 데모와 프로덕션 도입 체크리스트를 분리하세요.
프로덕션 전에 반나절짜리 스모크 테스트만 돌려도 판단이 빨라집니다.
- 허깅페이스에서 Instruct(또는 경량) 체크포인트를 고른다.
- transformers 또는 지원 런타임으로 로컬 로드. VRAM이 부족하면 4bit/8bit 양자화 경로를 찾는다.
- 한국어 업무 문장 10개(문의 응대 3, 요약 3, 분류 2, 코드 설명 2)를 고정 세트로 만든다.
- 출력 품질·금칙 표현·지시 불이행을 표로 채점한다(0~2점 정도면 충분).
- 같은 세트를 기존 기본 모델(클라우드 또는 다른 로컬)과 나란히 비교한다.
- 통과 시에만 RAG·툴 호출·프로덕션 프롬프트 엔지니어링으로 넘어간다.
모든 팀이 카나나-2로 갈아탈 필요는 없습니다. 아래면 기존 스택을 유지하는 편이 낫습니다.
- 이미 클라우드 모델 SLA·보안 심사를 끝냈고, 월 비용이 예산 안이다.
- 영어·다국어 비중이 훨씬 크고, 한국어 토큰 효율이 병목이 아니다.
- GPU·MLOps 인력이 없어 가중치 운영 비용이 모델 이득보다 크다.
- 규제 산업에서 “검증된 벤더 모델만” 정책이 있다.
반대로 한국어 대량 처리 비용이 보이거나, 데이터를 밖으로 못 보내는 온프레미스 요구가 있으면 카나나-2 파일럿 가치가 큽니다. 오픈소스 프로젝트 동향 맥락은 2026 오픈소스 프로젝트 글과 함께 보면 됩니다.
카나나-2는 완전 무료로 상업 서비스에 넣어도 되나요?
모델 카드에 적힌 라이선스·사용 조건이 기준입니다. 과거 카나나 일부는 아파치 2.0으로 공개된 사례가 있으나, 체크포인트마다 다를 수 있습니다. 법무 확인 없이 “오픈소스=무조건 상업 OK”로 보지 마세요.
한국어 30% 개선은 어떤 벤치마크 점수인가요?
카카오 발표 문맥상 한국어 특화 토크나이저 적용에 따른 처리 효율 개선입니다. MMLU 같은 공개 벤치 점수 30% 상승과는 다른 이야기이니, 제품 문구에 혼용하지 않는 것이 안전합니다.
올라마(Ollama)에서 바로 받을 수 있나요?
공식 1순위는 허깅페이스 가중치입니다. 올라마 라이브러리에 등록된 GGUF가 있는지는 시점마다 다릅니다. 없으면 transformers·vLLM 경로로 검증한 뒤, 커뮤니티 양자화 여부를 별도 검토하세요.
클로드·챗지피티 대신 바꾸면 비용이 무조건 줄까요?
토큰 단가는 줄어도 GPU 상시 비용·엔지니어링 인건비가 붙습니다. 월 API 청구서와 서버·전기·운영 시간을 같은 표에 놓고 비교해야 합니다.
Thinking 모델은 언제 쓰나요?
답이 한 줄로 끝나는 FAQ보다, 여러 조건을 따지는 계획·수학·코드 디버깅처럼 중간 추론이 긴 작업에 적합합니다. 지연과 출력 토큰이 늘므로 챗봇 기본 모델로 두기보다 작업별로 라우팅하는 편이 낫습니다.
개인정보 포함 문서를 학습·추론해도 되나요?
오픈 가중치를 받았다는 사실만으로 내부 개인정보 처리 근거가 생기지 않습니다. 마스킹·접근 통제·로그 보관 정책을 기존 LLM 도입 기준과 동일하게 적용하세요.
