Google AI Edge Gallery - 완전 오프라인 LLM 갤러리 앱 오픈소스

10 hours ago 2

(github.com/google-ai-edge)

  • 온디바이스 생성형 AI 실행에 특화된 iOS/안드로이드 앱으로, 인터넷 연결 없이 완전 오프라인·프라이빗 환경에서 LLM을 구동
  • Gemma 4 패밀리 공식 지원 추가 - 서버 전송 없이 고급 추론·논리·창작 기능 테스트 가능
  • Agent Skills: LLM과의 대화를 넘어 능동적인 비서로 만들기
    • Wikipedia 팩트 검색, 인터랙티브 맵, 시각 요약 카드 등 툴로 LLM 능력 확
    • URL에서 모듈식 스킬 로드 및 GitHub Discussions 커뮤니티 스킬 탐색 지원
  • Thinking Mode: AI 채팅 중 모델의 단계별 추론 과정을 시각적으로 확인 가능 (현재 Gemma 4 패밀리 등 지원 모델 한정)
  • Ask Image: 카메라·사진 갤러리를 활용한 멀티모달 객체 인식·시각 퍼즐·상세 설명 생성
  • Audio Scribe: 온디바이스 모델로 음성을 실시간 전사·번역
  • Prompt Lab: temperature, top-k 등 파라미터를 세밀하게 조정하며 프롬프트를 테스트하는 전용 워크스페이스
  • Mobile Actions : FunctionGemma 270m 파인튜닝 모델 기반의 오프라인 기기 제어 자동화
  • Tiny Garden : 자연어 미니게임
  • Model Management & Benchmark: 오픈소스 모델 다운로드, 커스텀 모델 로드, 하드웨어별 벤치마크 테스트 지원
  • LiteRT 경량 런타임 + Hugging Face 연동으로 모델 탐색·최적화 실행
  • Android 12+, iOS 17+ 지원 / Google Play , App Store 에서 설치 가능 / Google Play 미접근 환경은 GitHub 릴리스에서 APK 직접 설치도 가능
  • 라이선스: Apache-2.0 / 개발 언어: Kotlin
Read Entire Article