올라마를 사용해서, 윈도우에 라마 3.2 1B 설치 실행해 보기
* ollama는 Llama 3.2와 같은 오픈 모델을 로컬 컴퓨터에서 쉽고 빠르게 실행할 수 있도록 해주는 도구입니다.
다음과 같은 과정을 따라 합니다.
1. ollama 설치
운영체제에 맞는 버전을 다운로드하여 설치합니다. 저는 윈도우 버전을 다운로드 받아 설치했습니다.
2. Llama 3.2 1B 다운로드
콘솔 명령을 실행할 수 있는 환경에서 다음 명령을 실행합니다. 저는 Windows PowerShell을 실행했습니다.
– ollama를 실행하면 가용한 명령들이 보여집니다.
– ollama list해서 설치된 모델들을 봅니다.
– ollama run llama3.2:1b로 Llama 3.2 1B 모델을 설치합니다. 3B는 ollama run llama3.2:3b로 설치합니다.
– 설치된 모델은 rm 명령으로 삭제할 수 있습니다. ollama rm {모델 이름}
3. 대화
“생성형 인공지능에 대해서 설명해 주세요”라고 요청합니다.
