https://geonhos.github.io/tags/infrastructure/Recent content in Infrastructure on 기록실Hugo -- 0.155.1koMon, 02 Mar 2026 03:00:00 +0000https://geonhos.github.io/posts/llm-serving-infrastructure/Mon, 02 Mar 2026 03:00:00 +0000https://geonhos.github.io/posts/llm-serving-infrastructure/LLM이 토큰을 하나씩 생성하는 원리, GPU 메모리에 모델을 올리는 이유, 메모리 대역폭이 성능을 결정하는 구조, 그리고 클라우드 LLM 서빙 인프라까지 — 로컬부터 GPT/Claude급 서비스까지 관통하는 핵심 개념을 정리합니다.