Ollama — 관련 콘텐츠 10건

LG CNS 에이전틱 AI 전략 완전 분석 — 엑사원 4.5, AgenticWorks, 멀티 LLM 기업 도입 가이드

LG AI 리서치가 2026년 4월 엑사원(EXAONE) 4.5 를 공개했다. STEM 벤치마크 평균 77.3점으로 GPT-5-mini(73.5), 클로드 소네트 4.5(74.6)를 앞서는 멀티모달 오픈웨이트 모델이다. 엑사원 4.5는 자체 개발 비전 인코더와 LLM을 단일 구조로 통합한 비전-언어 모델(VLM)이다. PDF, PPT, 기술 도면, 재무제표 같은 문서를 이미지와 텍스트를 동시에 읽고 추론한다.

Meta Llama Stack 실전 가이드 — OpenAI 호환 API로 Llama 4 로컬·프로덕션 배포

Meta의 Llama Stack은 Llama 4 모델을 로컬(Ollama)부터 프로덕션(vLLM, Together AI, NVIDIA NIM)까지 동일한 OpenAI 호환 API로 배포하는 표준화 프레임워크다. Provider 교환 가능 아키텍처, 내장 RAG, 에이전트 오케스트레이션, MCP 통합, Llama 4 Scout·Maverick 모델 선택 기준까지 실무 중심으로 정리한다.

Google Gemma 4 — Apache 2.0으로 전환된 오픈소스 LLM, 실무 도입 가이드

2026년 4월 2일, Google DeepMind가 Gemma 4를 Apache 2.0 라이선스 로 공개했다. 이전 Gemma 시리즈의 Google 커스텀 라이선스가 만들어온 법적 불확실성이 사라졌다. Gemma 1, 2, 3은 Google의 커스텀 라이선스를 사용했다. 이 라이선스는 겉보기에 오픈소스처럼 보였지만, 실제로는 몇 가지 중요한 제약이 있었다.

Mistral Small 4 — 119B MoE 오픈소스, 추론·비전·코딩을 하나로 통합한 셀프호스팅 대안

한 줄 요약: Mistral Small 4는 119B 파라미터 MoE 모델이지만 토큰당 6B만 활성화한다. 추론, 비전, 코딩을 하나로 통합한 Apache 2.0 오픈소스 모델로, 셀프호스팅 시 API 비용을 근본적으로 제거할 수 있다. Mistral AI가 2026년 3월 16일 공개한 Mistral Small 4는 기존 Mistral Small 시리즈의 네 번째 모델이다.

MiniMax M2.5 — SWE-bench 80.2% 코딩 1위, Claude Opus급 성능에 가격은 50분의 1

한 줄 요약: 중국 AI 스타트업 MiniMax의 M2.5 모델이 SWE-bench Verified 80.2%를 기록하며 코딩 벤치마크 1위에 올랐다. Claude Opus급 성능에 가격은 수분의 1. MiniMax는 중국 베이징 기반의 AI 스타트업으로, 2026년 2월 12일 M2.5 모델을 공개했다. M2 시리즈의 세 번째 모델이며, 코딩과 에이전트 작업에 특화됐다.

Qwen 3.5 Small — 9B 파라미터가 120B를 이긴 온디바이스 AI 모델

Alibaba Qwen 팀이 2026년 3월 출시한 Qwen 3.5 Small Model Series 는 0.8B~9B 파라미터 4종으로 구성된 온디바이스 AI 모델이다. 9B 모델이 13배 큰 GPT-OSS-120B을 GPQA Diamond에서 꺾었고, 아이폰에서도 초당 22토큰으로 동작한다. Qwen 3.5 Small Model Series는 Alibaba Cloud의 Qwen 팀이 2026년 3월 2일 공개한 소형 밀집(dense) 모델 패밀리다.

OpenClaw가 GitHub 스타 25만 개를 돌파한 이유 — AI 모델 커머디티화와 에이전트 프레임워크의 부상

한 줄 요약: 오스트리아 개발자 1명이 만든 오픈소스 AI 에이전트 플랫폼 OpenClaw가 GitHub 스타 25만 개를 돌파하며 AI 모델 커머디티화 논쟁에 불을 붙였다. OpenAI·Anthropic 같은 대형 랩이 아닌 독립 개발자가 "다음 ChatGPT"를 만들 수 있다는 사실이 AI 투자 구조에 근본적 질문을 던진다. OpenClaw는 로컬 디바이스에서 실행되는 오픈소스 AI 에이전트 플랫폼 이다.

Ollama로 로컬 LLM 실행하기 — 설치부터 API 서버까지

한 줄 요약: Ollama는 로컬에서 LLM을 실행할 수 있는 오픈소스 도구다. macOS/Linux/Windows에서 한 줄 명령으로 Llama 3, Mistral, Gemma 등을 실행하고, REST API로 앱에 통합할 수 있다. Ollama는 로컬 머신에서 대형 언어 모델(LLM)을 실행하기 위한 오픈소스 런타임이다. Docker가 컨테이너를 추상화하듯, Ollama는 모델 다운로드·실행·관리·API 서빙을 단일 CLI로 추상화한다.

로컬 AI 개발 환경 구축 — GPU 없이 LLM 돌리기

한 줄 요약: Ollama, LM Studio, llama.cpp로 GPU 없이 로컬에서 LLM을 실행할 수 있다. Apple Silicon Mac 기준 7B 모델은 8GB RAM, 13B는 16GB RAM이면 실용적인 속도로 추론이 가능하다. 로컬 LLM 실행 도구는 크게 세 가지로 나뉜다. 목적과 기술 수준에 따라 선택이 달라진다.

로컬 LLM 실행 가이드 — Ollama, LM Studio, llama.cpp

한 줄 결론: 로컬 LLM은 프라이버시 보호, 비용 절감, 오프라인 실행이 필요한 상황에서 실질적인 대안이다. Ollama는 CLI 기반으로 가장 빠르게 시작할 수 있고, LM Studio는 GUI가 필요한 경우에 적합하며, llama.cpp는 저사양 환경에서 직접 빌드해 최적화하고 싶은 개발자용이다. 클라우드 LLM API는 편리하지만 세 가지 제약이 존재한다.