2023년에 잠깐 맛보기만 해봤던 Stable Diffusion 도구에 대해서 공부한 내용.
마침 Stable Diffusion Art에서 9월 말에 Tutorial 갱신이 확인됨.
Surface Book 3에서 구동하는 것이 목표였으나, GPU memory가 충분하지 않음. 간단한 1024x1024 이미지 정도는 생성 가능한 것을 확인함.
> systeminfo
System Manufacturer: Microsoft Corporation
System Model: Surface Book 3
System Type: x64-based PC
> nvidia-smi.exe --list-gpus
GPU 0: NVIDIA GeForce GTX 1660 Ti with Max-Q Design (UUID: GPU-...)
CUDA 12.8 설치되어있는데, 업그레이드 해야겠다…
> nvidia-smi.exe -q
Driver Version : 581.42
CUDA Version : 13.0
Attached GPUs : 1
GPU 00000000:02:00.0
Product Name : NVIDIA GeForce GTX 1660 Ti with Max-Q Design
Product Brand : GeForce
Product Architecture : Turing
...
Python 3.10.11 (Microsoft Store) 버전을 사용함.
git clone --depth=1 --branch=v1.10.1 "https://github.com/AUTOMATIC1111/stable-diffusion-webui"
Push-Location "stable-diffusion-webui"
git pull --tags
# ... python virtual environment setup ...
Pop-Location
# python virtual environment setup
python -m venv venv
.\venv\Scripts\Activate.ps1
python -m pip install -r requirements_versions.txt
Intel Arc(TM) 140V GPU 내장. Intel AI Boost 기능(NPU)이 있는 경우는 사용 가능할까…?
(GPU Memory 18GB로 조금 더 높은 수준)
CUDA 사용이 불가하므로, 아래의 옵션으로 기능 비활성화 해야함.
set COMMANDLINE_ARGS=--skip-torch-cuda-test
call webui.bat
Readme를 따라서 설치해보니 PyTorch 2.8.0 CPU 버전이 사용되는 것을 확인함.
# test-pytorch.py
import torch
print("PyTorch:", torch.__version__)
print("CUDA available:", torch.cuda.is_available())
print("CUDA:", torch.version.cuda)
print("cuDNN:", torch.backends.cudnn.version())
print("GPU count:", torch.cuda.device_count())
확인해보니, 사용중인 Desktop에서는 GPU 사용이 기본으로 활성화 되어있음. Surface Book 3에서도 GPU사용이 필요할 것으로 예상되므로, Previous PyTorch Versions를 참고하면서 가능한 PyTorch를 점진적으로 탐색. 적당히 오래된 버전인 2.2.0 버전부터 시작함.
# commands to Copy-Paste in Windows Terminal
pip install torch==2.2.0 torchvision==0.17.0 torchaudio==2.2.0 --index-url "https://download.pytorch.org/whl/cu121"
python -m pip install -r requirement_versions.txt
requirements_versions.txt도 이에 맞게 수정함.
# pip install ... --index-url https://download.pytorch.org/whl/cu121
torch==2.2.0
torchvision==0.17.0
torchaudio==2.2.0
> python .\test-pytorch.py
PyTorch version: 2.2.0+cu121
CUDA available: True
CUDA version: 12.1
cuDNN version: 8801
Number of GPUs: 1
…
기본 WebUI 사용법을 익히고, 가지고 있는 이미지 파일들을 사용해 LoRA 훈련에 도전해보기로.
Checkpoint를 결정해야 한다고 해서…
YouTube 동영상 참고목록
…
자원이 많지 않으므로 low 옵션 추가
@REM See modules/cmd_args.py
set COMMANDLINE_ARGS=---lowvram --lowram
Upcast cross attention layer to float32를 🟪에서 ☑️상태로 변경 - 효과 없었음
stable-diffusion-webui\modules\devices.py", line 255, in test_for_nans
raise NansException(message)
modules.devices.NansException: A tensor with all NaNs was produced in Unet. This could be either because there's not enough precision to represent the picture, or because your video card does not support half type. Try setting the "Upcast cross attention layer to float32" option in Settings > Stable Diffusion or using the --no-half commandline argument to fix this. Use --disable-nan-check commandline argument to disable this check.
webui-user.bat에서 --no-half 옵션으로 실행 시도.
set COMMANDLINE_ARGS=--no-half