동시처리 on 기록실

동시처리 on 기록실https://geonhos.github.io/tags/%EB%8F%99%EC%8B%9C%EC%B2%98%EB%A6%AC/Recent content in 동시처리 on 기록실Hugo -- 0.155.1koTue, 10 Mar 2026 00:00:00 +0000Ollama 동시 요청 처리의 이해와 최적화 (3)https://geonhos.github.io/posts/ollama-concurrent-processing/Tue, 10 Mar 2026 00:00:00 +0000https://geonhos.github.io/posts/ollama-concurrent-processing/Ollama에 동시에 여러 요청이 들어오면 어떻게 되는가? OLLAMA_NUM_PARALLEL 설정별 throughput과 TTFT를 실측 데이터로 비교하고, 프로덕션 동시 처리 최적화 전략을 정리합니다.