[인프라] HF Space Legal Adapter 학습 환경 — 런타임 이슈 4건 해결

[umyunsang]

개요

siwo/govon-legal-adapter-train HuggingFace Space에서 EXAONE 4.0-32B QLoRA 학습 스크립트를 실행하기 위해 발생한 런타임/빌드 이슈 4건을 순차적으로 해결했습니다.

• Space: https://huggingface.co/spaces/siwo/govon-legal-adapter-train
• Hardware: A100 Large (80GB VRAM)
• 학습 구성: Unsloth + QLoRA (r16, alpha=32) + Flash Attention + hf-transfer 병렬 다운로드

---

해결한 이슈

1. GPU 미감지 크래시 (PR #1)

항목	내용
에러	NotImplementedError: Unsloth cannot find any torch accelerator? You need a GPU.
원인	Space가 cpu-basic 하드웨어에서 실행 중. unsloth import 시 즉시 크래시
수정	torch.cuda.is_available()로 GPU 사전 체크 추가 (unsloth import 전). GPU 없으면 health endpoint에 에러 상태 노출 후 10분 대기 후 sys.exit(1)

2. HF 캐시 디렉터리 권한 에러 (PR #2)

항목	내용
에러	PermissionError: [Errno 13] Permission denied: /.cache
원인	HF Spaces Docker 컨테이너가 non-root(UID 1000)으로 실행되면서 HOME=/ 로 설정됨. login() 시 /.cache/huggingface 디렉터리 생성 불가
수정	Dockerfile에 HOME=/tmp, HF_HOME=/tmp/hf_home 환경변수 추가 + login(add_to_git_credential=False)

3. Docker 빌드 실패 — uv 경로 충돌 (PR #3)

항목	내용
에러	BUILD_ERROR (step [6/7] uv pip install 실패)
원인	ENV HOME=/tmp가 Dockerfile 상단에 위치하여 빌드 시에도 적용됨. uv가 /tmp/.local/bin에 설치되지만 PATH는 /root/.local/bin을 참조
수정	HOME/HF_HOME ENV 선언을 CMD 직전으로 이동하여 런타임에만 적용되도록 변경

4. PyTorch UID lookup 실패 (PR #4)

항목	내용
에러	KeyError: getpwuid(): uid not found: 1000
원인	HF Spaces가 UID 1000으로 컨테이너를 실행하지만 /etc/passwd에 해당 유저가 미등록. PyTorch torch._inductor가 getpass.getuser() 호출 시 실패
수정	Dockerfile에 useradd -m -u 1000 user 추가. 빌드는 root로 진행하되 /etc/passwd에 UID 1000 엔트리가 존재하도록 보장

참고: 동일 스크립트의 civil-adapter-train Space(L40S)에서는 이슈 #4가 발생하지 않음. A100 환경에서 torch._inductor 최적화 경로가 더 적극적으로 활성화되면서 getpass.getuser() 호출이 트리거된 것으로 추정.

---

최종 상태

• Space: RUNNING (A100 Large)
• 학습: EXAONE 4.0-32B QLoRA, 50K 샘플 x 1 epoch 진행 중
• Health endpoint: GET / → {stage: training, ...}

교훈 (HF Spaces Docker SDK + GPU)

1. GPU 체크는 unsloth/torch-accelerator import 전에 수행해야 한다
2. HF Spaces는 UID 1000으로 실행하므로 HOME, HF_HOME을 쓰기 가능한 경로로 설정 필요
3. Dockerfile ENV 순서가 중요 — 빌드 도구(uv 등)의 경로에 영향을 주는 ENV는 빌드 완료 후 선언
4. A100 vs L40S 등 GPU 종류에 따라 PyTorch 내부 코드 경로가 다를 수 있음 — /etc/passwd 유저 등록은 범용적으로 적용하는 것이 안전