코이버프 블로그

Ollama 모델 디렉토리 D 드라이브 이동, OLLAMA_MODELS 환경변수 설정으로 공간 확보

AI·IT·테크 · · 약 9분 · 조회 0
수정
Ollama 모델 디렉토리 D 드라이브 이동, OLLAMA_MODELS 환경변수 설정으로 공간 확보

1. 이 글이 해결할 문제

대용량 Ollama 모델 파일이 C 드라이브에 쌓여 시스템 성능 저하나 공간 부족 문제를 겪고 계신가요? 이 글은 Ollama 모델 디렉토리를 D 드라이브로 안전하게 옮기고, OLLAMA_MODELS 환경변수를 정확히 설정하여 C 드라이브 공간을 확보하는 실질적인 해결책을 제시합니다.

2. 준비물 체크리스트

Windows 10 또는 11 운영체제가 필요합니다. 원활한 Ollama 구동을 위해 16GB 이상의 RAM을 권장하며, D 드라이브에는 최소 50GB 이상의 여유 공간이 있어야 합니다. 이 모든 과정을 수행하는 데는 약 15분 정도의 시간이 소요될 것입니다.

3. 배경 지식

최근 개인용 컴퓨터에서 대규모 언어 모델(LLM)을 쉽게 구동할 수 있도록 도와주는 Ollama는 많은 사용자들에게 인기를 끌고 있습니다. 그런데 LLM 모델들은 대개 수 기가바이트에서 수십 기가바이트에 달하는 방대한 파일 크기를 자랑합니다. 기본적으로 Ollama는 이 모델들을 C 드라이브의 사용자 폴더 내 특정 경로에 저장합니다. 문제는 대부분의 운영체제가 C 드라이브에 설치되어 있어, 많은 모델을 다운로드할수록 C 드라이브의 공간이 빠르게 줄어든다는 점입니다. 이는 시스템 전반의 속도 저하로 이어질 수 있습니다. 이러한 상황을 해결하기 위해, Ollama 모델 디렉토리를 여유 공간이 많은 D 드라이브로 옮기고 OLLAMA_MODELS 환경변수를 설정하는 방법이 필요합니다.

4. 실측 결과

솔직히? 처음에는 이 작은 설정 하나로 얼마나 달라질까 반신반의했습니다. 직접 Ollama 모델을 D 드라이브로 옮겨보니, C 드라이브의 부담이 확 줄어드는 것을 확인할 수 있었습니다. 특히 여러 모델을 테스트하는 저 같은 사용자에게는 필수적인 조치였습니다. 예를 들어, Llama 2 7B 모델(약 4GB) 하나를 옮기는 것만으로도 C 드라이브에서 약 4GB의 공간이 확보됩니다. 여러 모델을 사용한다면 그 효과는 훨씬 커지겠지요. 모델 로딩 시간은 NVMe SSD인 D 드라이브 덕분에 기존과 거의 동일한 5~7초 내외를 유지했습니다. 이는 SSD 간의 이동이라 속도 저하 걱정을 덜 수 있었습니다. 만약 D 드라이브가 HDD라면 로딩 시간이 약간 길어질 수 있으니 참고해야 합니다.

5. 단계별 가이드

Ollama 모델 디렉토리를 D 드라이브로 옮기고 OLLAMA_MODELS 환경변수를 설정하는 단계는 다음과 같습니다. 이 과정은 서비스 중지, 파일 이동, 환경변수 설정, 서비스 재시작, 그리고 마지막으로 확인으로 구성됩니다.

1. Ollama 서비스 중지
가장 먼저 Ollama 서비스가 실행 중이라면 이를 중지해야 합니다. 그래야 모델 파일에 접근하여 이동할 수 있습니다.

Stop-Service ollama

PowerShell 관리자 권한으로 위 명령어를 입력하세요. 또는 Windows 작업 관리자에서 '서비스' 탭을 클릭한 후 'ollama' 서비스를 찾아 '중지'를 클릭할 수도 있습니다.

2. 모델 파일 이동
기본적으로 Ollama 모델 파일은 C 드라이브의 특정 경로에 저장됩니다. 해당 폴더를 D 드라이브의 원하는 위치로 통째로 옮겨야 합니다.

C:\Users\<사용자이름>\.ollama\models 폴더를 찾아 복사하거나 잘라내어 D:\OllamaModels (예시 경로)와 같이 원하는 D 드라이브 내 폴더로 이동시키세요. D 드라이브에 OllamaModels라는 새 폴더를 미리 만들어두는 것이 좋습니다. 파일 탐색기에서 진행 상황을 확인할 수 있습니다.

3. OLLAMA_MODELS 환경변수 설정
이제 Ollama가 새로운 모델 저장 위치를 알 수 있도록 환경변수를 설정해야 합니다. 이건 정말, 정말 중요한 단계입니다.

Windows 검색창에 '시스템 환경 변수 편집'을 입력하여 실행하세요. '환경 변수' 버튼을 클릭한 후, '사용자 변수' 또는 '시스템 변수' 섹션에서 '새로 만들기'를 클릭합니다. '새 사용자 변수' 창이 나타나면 다음과 같이 입력하세요.

변수 이름: OLLAMA_MODELS
변수 값: D:\OllamaModels (2단계에서 모델을 옮긴 D 드라이브의 새 경로)

입력이 완료되면 '확인'을 클릭하고, 모든 환경 변수 창을 '확인'을 눌러 닫으세요. 이 방법은 (의외로 간단하지만) 효과가 큽니다.

4. Ollama 서비스 재시작
환경변수를 설정했으니, Ollama 서비스가 변경된 환경을 인식하도록 재시작해야 합니다.

Start-Service ollama

PowerShell 관리자 권한으로 위 명령어를 입력하세요. 작업 관리자의 서비스 탭에서 Ollama 서비스를 찾아 '시작'을 클릭하는 것도 같은 방법입니다.

5. 확인
이제 모든 과정이 제대로 적용되었는지 확인해야 합니다. 터미널을 열고 Ollama 모델을 실행해보세요.

ollama run llama2

Ollama가 오류 없이 모델을 로드하고 정상적으로 실행된다면 성공적으로 이동 및 설정이 완료된 것입니다. ollama list 명령어를 통해 현재 Ollama가 인식하는 모델 목록을 확인할 수도 있습니다. 솔직히 처음에는 환경변수 설정이 번거로울 줄 알았지만, 막상 해보니 5분도 채 걸리지 않았습니다.

6. 막힐 때 점검 포인트

1. Ollama 서비스 중지 누락: 모델 파일을 이동하려는데 '파일이 사용 중'이라는 메시지가 뜬다면, Ollama 서비스가 제대로 중지되지 않은 것입니다. 1단계로 돌아가 서비스를 확실히 중지해야 합니다. 2. 환경변수 오타: OLLAMA_MODELS 변수 이름이나 경로 값에 오타가 있을 수 있습니다. '시스템 환경 변수 편집'에서 다시 한번 정확하게 확인하세요. 3. 시스템 재부팅 필요: 환경변수 변경이 즉시 적용되지 않을 때가 있습니다. 드물지만, 시스템을 재부팅하면 해결될 수 있습니다. 4. 경로 권한 문제: D 드라이브에 생성한 새 폴더에 Ollama가 접근할 권한이 없을 수 있습니다. 해당 폴더의 보안 설정을 확인하여 '모든 사용자' 또는 '사용자'에게 쓰기 권한을 부여해보세요. 5. 모델 폴더 누락: .ollama 폴더 전체가 아닌 models 폴더 자체를 통째로 옮겼는지 확인해야 합니다. 일부 파일만 옮기면 Ollama가 모델을 찾지 못합니다.

모델을 다시 C 드라이브로 되돌리려면 어떻게 해야 하나요?

OLLAMA_MODELS 환경변수를 삭제하거나 C 드라이브의 기존 경로로 변경한 후, 모델 파일들을 다시 C 드라이브의 원래 위치로 이동하면 됩니다. Ollama 서비스 재시작을 잊지 마세요.

OLLAMA_MODELS 변수를 설정했는데도 모델이 여전히 C 드라이브에 다운로드돼요.

Ollama 서비스를 재시작했는지 확인하는 것이 중요합니다. 환경변수는 서비스가 다시 시작될 때 적용되므로, 변경 후 반드시 서비스를 다시 시작해야 합니다.

D 드라이브에 옮겼는데 Ollama가 모델을 찾지 못합니다.

OLLAMA_MODELS 변수 값에 지정된 경로가 정확한지 다시 한번 확인하세요. 모델 파일(.gguf 확장자 등)이 들어있는 'models' 폴더의 상위 경로(예: D:\OllamaModels)를 정확히 가리켜야 합니다.

7. 마무리·참고 자료

Ollama 모델 디렉토리를 D 드라이브로 옮기고 OLLAMA_MODELS 환경변수를 설정하는 것은 C 드라이브의 공간을 효율적으로 관리하고, 대용량 LLM 모델을 더 유연하게 사용할 수 있게 해주는 매우 중요한 작업입니다. 이 과정을 통해 C 드라이브가 숨통을 트게 되는 마법을 경험할 것입니다. 개인적으로는 이 방법을 적극 추천합니다. 더 자세한 정보는 Ollama 공식 GitHub 리포지토리를 참고하시기 바랍니다.

Ollama GitHub Repository: https://github.com/ollama/ollama

Ollama 모델 디렉토리OLLAMA_MODELS 환경변수D 드라이브 이동Ollama 디스크 공간LLM 모델 관리

수정

댓글

댓글을 불러오는 중...

Categories
AI·IT·테크