-
AI기술Ollama 메모리 관리: 모델이 안 올라갈 때 해결법
Ollama 모델이 안 올라갈 때는 KEEP_ALIVE, 동시 로드·병렬 요청 수, 컨텍스트 길이 세 가지를 조절하면 됩니다. Mac 기준 순서를 정리했습니다.
-
개발Qdrant 한국어 RAG: 임베딩 모델 2종 직접 비교하기
Qdrant 한국어 RAG에서 어떤 임베딩 모델이 나을까요? Docker와 Ollama로 bge-m3 등 2종을 띄우고 Recall@k와 MRR로 직접 비교하세요.
-
AI기술Claude 구조화 출력으로 JSON 깨짐 없애는 법
Claude JSON 깨짐은 tool use의 input_schema로 출력 형태를 정의하고 tool_choice로 도구 호출을 강제하면 거의 막을 수 있습니다. 설계법을 정리했습니다.