Ollama v0.5.13 릴리스: 신규 모델과 컨텍스트 길이 변경

Ollama v0.5.13은 무엇을 바꿨을까? Phi-4-Mini 등 신규 모델 3종과 OLLAMA_CONTEXT_LENGTH 설정이 추가됐고, Mac 실측 비교법도 정리했습니다.

조회 87
Ollama v0.5.13 릴리스: 신규 모델과 컨텍스트 길이 변경

핵심 요약

  • v0.5.13에 Phi-4-Mini, Command R7B Arabic, Granite-3.2-Vision이 신규 모델로 올랐습니다.
  • OLLAMA_CONTEXT_LENGTH로 기본 컨텍스트 길이를 지정할 수 있어 메모리 사용량 비교에 유용합니다.
  • 공식 노트에 성능 수치가 없어 --verbose와 ollama ps로 내 Mac에서 직접 측정해야 합니다.

Ollama 릴리스에서 로컬 모델 사용자가 가장 먼저 볼 것은 두 가지입니다. 새로 지원된 모델, 그리고 컨텍스트 길이 같은 메모리 관련 기본값 변경입니다. Ollama GitHub v0.5.13 릴리스를 보면 이 두 항목이 한 릴리스에 같이 들어 있습니다. 이 글은 공식 릴리스 노트에서 확인되는 내용만 정리하고, 그 변경을 내 Mac에서 직접 비교하는 방법을 소개합니다. 공식 노트에 성능 수치가 없는 부분은 수치를 쓰지 않고, 측정 방법만 제시합니다.

릴리스 노트에서 확인되는 신규 모델

v0.5.13 릴리스 노트의 New models 항목에는 다음이 올라 있습니다.

  • Phi-4-Mini: 다국어 지원, 추론, 수학이 개선되었고 함수 호출(function calling)이 지원된다고 소개됩니다.
  • Command R7B Arabic: 경량 Command R7B의 아랍어 특화 버전입니다.
  • Granite-3.2-Vision: 표, 차트, 인포그래픽, 다이어그램 같은 시각 문서 이해를 겨냥한 소형 비전-언어 모델입니다.

Mac 사용자에게 실용적인 것은 Phi-4-Mini와 Granite-3.2-Vision입니다. 둘 다 소형 모델을 표방하므로, 통합 메모리가 16GB 정도인 기기에서도 시험해 볼 만합니다. 다만 공식 노트는 이 모델들의 파라미터 수, 토큰 속도, 메모리 사용량을 제시하지 않습니다. 이 수치는 공식 발표에서 확인되지 않았으므로 직접 측정해야 합니다.

Ollama는 GitHub Releases 페이지에 버전별 변경 사항과 신규 모델 지원을 공개합니다. 모델 상세는 Ollama 블로그에서 보완할 수 있습니다. 릴리스 목록을 보면 Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma 같은 모델이 저장소 소개문에 나열되어 있어, 지원 범위가 계속 넓어지고 있음을 알 수 있습니다.

메모리와 직결되는 변경: 기본 컨텍스트 길이

같은 릴리스에서 가장 눈여겨볼 변경은 기본 컨텍스트 길이를 OLLAMA_CONTEXT_LENGTH 환경 변수로 설정할 수 있게 된 것입니다. 릴리스 노트에 8K로 지정하는 예시가 있습니다.

OLLAMA_CONTEXT_LENGTH=8192 ollama serve

컨텍스트가 길어지면 KV 캐시가 커져 메모리를 더 씁니다. 이는 일반적인 LLM 추론의 원리입니다. 따라서 통합 메모리가 한정된 Mac에서는 이 값이 모델 로딩 가능 여부와 속도를 좌우할 수 있습니다. 모델을 바꾸지 않고 이 값만 조절해도 메모리 사용량이 달라지므로, 비교 실험의 첫 변수로 삼기 좋습니다.

또 이 릴리스는 NVIDIA Blackwell용으로 컴파일되었다고 밝힙니다. Mac의 Apple Silicon과는 직접 관련이 없는 변경입니다. 릴리스 노트에서 Mac 성능 향상으로 명시된 항목은 확인되지 않았습니다.

내 Mac에서 비교하는 방법

측정은 같은 조건에서 변수 하나씩만 바꿔야 의미가 있습니다. --verbose 옵션을 쓰면 응답 후 토큰 생성 속도(eval rate)가 출력되고, ollama ps로 로드된 모델의 메모리 점유를 볼 수 있습니다.

ollama pull phi4-mini
OLLAMA_CONTEXT_LENGTH=4096 ollama serve   # 터미널 1
ollama run phi4-mini --verbose "프롬프트"   # 터미널 2
ollama ps

이후 서버를 재시작해 컨텍스트를 8192, 16384로 올리며 같은 프롬프트를 실행합니다. 첫 실행은 모델 로딩 시간이 섞이므로, 두 번째 이후 결과를 기록하는 편이 좋습니다. 기록할 항목은 아래 표처럼 잡으면 됩니다.

항목 확인 방법
생성 속도(tokens/s) --verbose의 eval rate
메모리 점유 ollama ps, 활동 상태 보기
컨텍스트별 차이 환경 변수 값 변경 후 재측정
모델 간 차이 같은 프롬프트로 모델만 교체

이렇게 얻은 수치는 내 기기 조건에서만 유효한 결과입니다. 공식 벤치마크로 일반화해서는 안 됩니다.

업데이트 전에 챙길 점

릴리스마다 기본값이 바뀔 수 있으므로, 업데이트 후에는 이전에 쓰던 모델의 메모리 점유와 응답 속도를 한 번 다시 확인하세요. 특히 컨텍스트 길이를 명시하지 않고 쓰던 환경이라면 기본값 차이가 체감 성능에 영향을 줄 수 있습니다. 새 모델 지원 여부는 사용하는 버전보다 낮은 릴리스에서는 동작하지 않을 수 있으므로, 모델 페이지와 릴리스 노트의 버전 요구 사항을 함께 보는 것이 안전합니다.

실천 가이드

  1. GitHub Releases에서 현재 설치 버전 이후의 New models와 What's Changed 항목을 훑습니다.
  2. 관심 모델(예: Phi-4-Mini, Granite-3.2-Vision)을 받아 같은 프롬프트로 --verbose 결과를 기록합니다.
  3. OLLAMA_CONTEXT_LENGTH를 4K, 8K, 16K로 바꿔 가며 ollama ps의 메모리 변화를 비교합니다.
  4. 측정값은 기기 사양(칩, 통합 메모리)과 함께 남기고, 공식 수치로 확인되지 않은 내용은 일반화하지 않습니다.

릴리스 노트가 알려 주는 것은 어떤 모델이 들어왔고 어떤 설정이 생겼는지까지입니다. 실제로 내 Mac에서 얼마나 빠르고 메모리를 얼마나 쓰는지는 위 방법으로 직접 재야 알 수 있습니다.

자주 묻는 질문

Q. v0.5.13에서 새로 지원된 모델은 무엇인가요?

릴리스 노트의 New models에는 Phi-4-Mini, Command R7B Arabic, Granite-3.2-Vision이 올라 있습니다. Phi-4-Mini는 다국어, 추론, 수학이 개선되고 함수 호출을 지원한다고 소개됩니다.

Q. 기본 컨텍스트 길이는 어떻게 설정하나요?

OLLAMA_CONTEXT_LENGTH 환경 변수로 설정할 수 있습니다. 릴리스 노트에는 OLLAMA_CONTEXT_LENGTH=8192 ollama serve로 8K를 지정하는 예시가 있습니다.

Q. 이 릴리스로 Mac 성능이 좋아졌나요?

릴리스 노트에서 Mac 성능 향상으로 명시된 항목은 확인되지 않았습니다. Blackwell 컴파일은 NVIDIA용이라 Apple Silicon과 직접 관련이 없으므로, 속도와 메모리는 --verbose와 ollama ps로 직접 재야 합니다.

참고 자료

이 글은 웹 검색으로 확인한 위 출처를 바탕으로 AI(claude-sonnet-5-5)가 작성했습니다. 수치·가격은 출처 원문에서 다시 확인하세요.

#Granite Vision#Mac#Ollama#Phi-4-Mini#로컬 LLM#릴리스 노트#컨텍스트 길이