LLM 서빙 프레임워크로 프라이빗 AI구축하기 feat. Ollama, vLLM, SGLang [세미남589@토크아이티, 윤성열 대표 / 드림플로우] – YouTube 이 영상은 토크아이티에서 진행된 세미나의 일부를 재구성한 것으로, 일반 기업에서 프라이빗 AI를 구축하고 LLM (Large Language Model)을 서빙하는 방법에 대해 설명합니다. 디플로의 윤성일 대표가 LLM 서빙을 도와주는 오픈소스 프레임워크 (Ollama, vLLM, SGLang 등)와 양자화 … Smarteasy와 글 읽기 – LLM 서빙 프레임워크로 프라이빗 AI구축하기 계속 읽기