Gerbil - 로컬 LLM 실행용 데스크톱 앱

17 hours ago 3

개인 하드웨어에서 LLM 을 손쉽게 실행하도록 설계된 그래픽 UI 도구
백엔드 관리, 모델 다운로드, 하드웨어 가속 설정 등 복잡한 과정을 자동화
llama.cpp를 포크한 KoboldCpp 기반으로 동작하며 텍스트 및 이미지 생성 모두 지원
Windows, macOS, Linux(특히 Wayland 포함)에서 네이티브 실행 지원
CPU 전용 시스템에서도 동작하며, CUDA, ROCm, Vulkan, CLBlast, Metal 기반 GPU 가속 지원
이미지 생성 기능 내장 : Flux, Chroma, Qwen Image, Z-Image 등 주요 워크플로우 프리셋 제공
HuggingFace 통합 검색 기능으로 앱 내에서 모델 탐색, 모델 카드 확인, GGUF 파일 직접 다운로드 가능
--cli 옵션으로 터미널 기반 실행 가능하며, GUI 없이 동일한 백엔드 구동, 리소스 사용 최소화
AGPL-3.0 라이선스

Read Entire Article