Z Image Turbo를 돌려보다가 속도와 메모리 문제에 부딪혔고, 자료를 찾다가 GGUF라는 형식을 알게 됐다.
하지만 그때는 이름만 알았을 뿐, 실제로 써본 건 아니었다.
그래서 GGUF를 받아서 돌려보기로 했다.
“이름은 알겠는데, 그래서 이걸 쓰면 내 맥북에서 정말 나아지나?” GGUF가 대체 뭘까?
- 처음에는 GGUF가 무슨 대단한 기술인 줄 알았다.
- 찾아보니 생각보다 개념은 단순했다.
- GGUF는 모델을 더 가볍게 압축한 형식이라고 이해하면 편했다.
- 원래 AI 이미지 모델은 아주 정밀한 숫자들로 이루어져 있는데, 이걸 조금 덜 정밀하게 바꾸는 대신 용량을 확 줄이는 방식이다.
- 이걸 어려운 말로는 “양자화(Quantization)”라고 부른다고 한다.
그냥 이렇게 이해했다.
- “사진 화질을 아주 조금 낮추는 대신, 파일 크기를 크게 줄이는 것.”
- 화질이 조금 떨어질 수는 있지만, 그 대신 내 맥북에어 16GB에서도 감당할 수 있는 크기가 된다.
- 초보 입장에서는 “결과가 완벽한 모델”보다 “내 컴퓨터에서 실제로 돌아가는 모델”이 훨씬 중요했다.
- 그래서 GGUF는 나 같은 저사양 맥북 사용자에게 꽤 현실적인 선택지처럼 보였다.
GGUF 모델은 어디서 받을까?
- GGUF 모델은 주로 Hugging Face라는 곳에서 받을 수 있었다.
- AI 모델을 공유하는 큰 사이트라고 생각하면 된다.
- 여기서 내가 쓰려던 Z Image Turbo의 GGUF 버전을 찾아봤다.
- 같은 모델이라도 GGUF는 여러 버전으로 나뉘어 있었다.
- Q8, Q6, Q4 같은 표시가 붙어 있었는데, 처음에는 이게 뭔지 몰라서 당황했다.
- 찾아보니 뒤에 붙은 숫자가 작을수록 더 많이 압축된(=더 가벼운) 버전이었다.
- 숫자가 크면 화질에 더 가깝지만 용량이 크고, 숫자가 작으면 가볍지만 화질을 조금 더 포기하는 식이다.
- 나는 맥북에어 16GB라는 점을 생각해서, 너무 무겁지 않은 Q4 버전부터 시도해보기로 했다.
- “일단 돌아가는 걸 확인하는 게 먼저다”라는 생각이었다.
ComfyUI에 GGUF를 올리기까지모델 파일만 받는다고 바로 되는 건 아니었다.
ComfyUI에서 GGUF 모델을 쓰려면 GGUF를 읽을 수 있는 노드가 따로 필요했다.
1화에서 겪었던 것처럼, 여기서도 “노드가 없다”는 오류를 또 만났다.
이번에는 ComfyUI Manager를 통해 GGUF 관련 노드를 설치했다.
ComfyUI Manager는 필요한 노드를 검색해서 설치할 수 있게 도와주는 기능인데, 초보에게는 이게 있고 없고 차이가 컸다.
노드를 설치하고 ComfyUI를 다시 시작했다.
그다음, 받은 GGUF 모델 파일을 ComfyUI의 모델 폴더 안에 넣었다.
워크플로우에서 기존 모델을 불러오던 노드를 GGUF 로더 노드로 바꿔줬다.
처음에는 어떤 노드를 어디에 연결해야 하는지 헷갈렸지만, 노드에서 나오는 선을 하나씩 따라가면서 맞춰봤다.
다시 생성 버튼을 눌렀다
세팅을 마치고, 1화 때와 똑같이 생성 버튼을 눌렀다.
1화에서는 5분이 지나도 계속 “생성 중”이었기 때문이다.
그런데 이번에는 달랐다.
Z Image Turbo의 GGUF 버전으로 돌렸더니, 이미지 한 장이 대략 120초에서 200초 사이에 완성됐다.
물론 클라우드 GPU나 고성능 데스크탑에 비하면 여전히 느린 편이다.
하지만 1화에서 “이게 끝나긴 하나?” 싶었던 것과 비교하면, 이건 확실히 “돌아간다”는 느낌이었다.
맥북 상태를 확인해보니 GPU 사용률은 여전히 높았지만, 메모리는 1화 때보다 여유가 있었다.
모델을 가볍게 만든 효과를 실제로 체감한 순간이었다.
그래서 GGUF, 쓸만했나?
- 맥북에어 M5 16GB에서 ComfyUI로 이미지를 만드는 건, GGUF 덕분에 “불가능”에서 “느리지만 가능”으로 바뀌었다.
- 좋았던 점은, 무거운 모델을 그대로 쓸 때보다 메모리 부담이 확실히 줄었다는 것이다.
- 덕분에 생성 도중에 멈추거나 하염없이 기다리는 일이 줄었다.
- 아쉬운 점은, 그래도 속도가 아주 빠르진 않다는 것이다.
- 한 장에 2~3분이면 여러 장을 빠르게 뽑아보기에는 너무 답답할 수 있다.
GGUF로 속도를 조금 잡긴 했지만, 여전히 한 장에 2~3분은 답답했다.
그러다 문득 이런 생각이 들었다.
“Z Image Turbo가 유독 무거운 건, 혹시 안에서 LLM까지 같이 돌려서 그런 게 아닐까?”
찾아보니 실제로 Z Image Turbo는 프롬프트를 이해하기 위해 Qwen3-4B라는 꽤 큰 언어 모델을 텍스트 인코더로 함께 사용하고 있었다.
그림 모델만 올리는 게 아니라, 4B짜리 LLM까지 메모리에 같이 올려야 했던 것이다.
그렇다면 자연스럽게 다음 궁금증이 생겼다.
“꼭 사진 같은 이미지가 아니라, 애니 스타일로만 그린다면 더 가벼운 모델도 있지 않을까?”
그렇게 찾아보다가 알게 된 것이 Anima라는 애니 특화 모델이었다.
다음 3화에서는 이 Anima를 맥북에어 16GB에서 직접 돌려보고, Z Image Turbo와 비교해 얼마나 더 가볍고 빠른지 확인해볼 예정이다.