내 폰이 AI 서버가 된다? Google AI Edge Gallery 직접 써봤습니다

 

 

 

요즘 AI 얘기가 정말 끊이지 않죠?

ChatGPT, Gemini, Claude...

대부분 클라우드에 연결해야만 쓸 수 있잖아요.

그런데 구글이 조용히 꺼내든 앱 하나가 꽤 화제가 되고 있습니다.

 

바로 Google AI Edge Gallery입니다!

 

 

Google AI Edge Gallery가 뭔가요?

 

사실 제목만 보고 무슨 사진 관리 앱인가 했습니다... ^^;;

 

Google AI Edig Gallery는 한마디로, 스마트폰에서 AI 모델을 100% 오프라인으로 실행할 수 있는 앱입니다.

인터넷 연결 없이, 서버 없이, 내 폰 안에서만 AI가 돌아가는 거예요.

 

구글이 2025년 5월에 GitHub에 오픈소스로 공개하고,

이후 Google Play 스토어와 App Store에 정식 등록했습니다.

출시 두 달 만에 APK 다운로드 50만 건을 돌파할 정도로 개발자 커뮤니티의 반응이 뜨거웠다고 합니다.

 

 

가장 큰 특징 - 완전한 프라이버시!

 

보통 AI 앱을 쓰면 내가 입력한 내용이 서버로 전송되잖아요.

그런데 이 앱은 모든 AI 연산이 내 기기 안에서만 이루어집니다.

입력한 텍스트, 이미지, 음성... 어떤 데이터도 외부로 나가지 않아요.

 

비행기 안에서도, 지하 주차장에서도, 해외 로밍 없이도 마음껏 쓸 수 있죠.

한 번 모델을 다운로드하면 영구적으로 무료로 사용 가능합니다.

 

 

어떤 기능들이 있나요?

 

1) AI Chat (Thinking Mode 포함)

가장 기본적인 멀티턴 대화 기능입니다.

최신 Gemma 4 모델을 기반으로 꽤 수준 높은 대화가 가능하고요.

Thinking Mode를 켜면 모델이 어떤 추론 과정을 거쳐 답변을 내놓는지 단계별로 볼 수 있어요.

개발자나 AI 공부하는 분들한테 특히 유익한 기능이랍니다.

 

2) Ask Image - 이미지 분석

카메라로 찍거나 갤러리에서 사진을 불러와서 AI에게 물어볼 수 있습니다.

"이게 뭐야?", "이 문제 풀어줘" 같은 멀티모달 질의가 가능해요.

 

3) Audio Scribe - 음성 → 텍스트

목소리를 녹음하면 실시간으로 텍스트로 변환해줍니다.

번역도 가능하고, 당연히 오프라인으로 작동해요.

 

4) Prompt Lab

프롬프트 실험 전용 공간입니다.

Temperature, Top-k 같은 모델 파라미터를 직접 조절하면서 결과를 비교해볼 수 있어요.

AI 프롬프트 엔지니어링에 관심 있는 분들한테 딱이죠.

 

5) Agent Skills - AI 에이전트 기능

단순 챗봇을 넘어서 능동적으로 뭔가를 해주는 기능입니다.

Wikipedia 검색, 지도 표시 같은 도구를 붙여서 더 스마트한 어시스턴트로 활용할 수 있어요.

심지어 URL에서 커스텀 스킬을 불러오거나, 커뮤니티 기여 스킬을 써볼 수도 있습니다.

 

6) Mobile Actions

자연어로 기기를 제어하는 기능이에요.

"알람 맞춰줘", "블루투스 꺼줘" 같은 명령을 완전 오프라인으로 처리합니다.

FunctionGemma 270M이라는 경량 모델이 내부에서 작동해요.

 

7) Tiny Garden

살짝 귀여운 기능인데요, 자연어로 가상 정원에서 씨를 심고 수확하는 미니 게임입니다.

AI의 함수 호출 능력을 재미있게 체험해볼 수 있어요.

 

 

지원 모델은 어떻게 되나요?

 

현재 메인 모델은 구글의 emma 4 패밀리입니다.

E2B (약 2.54GB)와 E4B등 다양한 사이즈가 있어서 기기 성능에 맞게 고를 수 있어요.

 

Hugging Face와 통합되어 있어서 커뮤니티 모델을 직접 불러오는 것도 가능해요.

(일부 모델은 Hugging Face 로그인이 필요합니다.)

 

 

어떤 기기에서 쓸 수 있나요?

 

- Android : Android 12 이상 권장 (일부 기능은 Android 10 이상)

- iOS : 2026년 초 App Store 정식 출시!

 

성능은 기기 하드웨어에 따라 차이가 큽니다.

NPU(신경망 처리장치)가 탑재된 최신 플래그십 폰이라면 훨씬 빠르고 배터리 소모도 적어요.

Pixel 9 Pro나 최신 Galaxy 플래그십 기종에서 특히 쾌적하게 돌아간다는 후기가 많습니다.

 

 

개발자한테 특히 매력적인 이유

 

앱 자체가 Apache 2.0 라이선스 오픈소스 프로젝트입니다.

직접 소스코드를 보거나, 커스텀 스킬을 만들어 기여할 수도 있어요.

 

내부적으로는 LiteRT(구 TensorFlow Lite)와 MediaPipe를 기반으로 동작합니다.

벤치마크 기능도 내장되어 있어서, 내 기기의 CPU/GPU 성능을 모델 추론 속도로 직접 측정해볼 수 있죠.

 

"이 폰에서 AI가 얼마나 빠르게 돌아가나?" 라는 질문에 앱 안에서 바로 답을 얻을 수 있어요.

 

 

학습 데이터의 한계

 

오프라인 AI인 만큼, 한 가지 꼭 알아둬야 할 점이 있습니다.

바로 지식에 유통기한이 있다는 거예요.

 

현재 탑재된 모델들의 학습 데이터 기준은 2025년 1월 입니다.

 

최근 일을 물어보니,

"그런일은 아직 없습니다"...

그래서 2026년 4월 7일 발생한 ~~~~ 로 다시 물어보니...

본인의 학습 데이터는 2025년 1월이라 현재의 일은 알 수 없다고 하더라구요...

 

즉, 학습 데이터 기준일 이후에 일어난 최신 뉴스, 신기술 동향, 최근 이슈 같은 건 모르거나 틀린 답변을 할 수 있어요.

 

그리고 클라우드 AI처럼 백엔드에서 조용히 모델이 업데이트되는 방식이 아니라서,

모델 파일을 직접 새로 다운로드하지 않으면 지식은 그대로 고정됩니다.

모델 파일이 수 GB에 달하다 보니 업데이트 주기도 클라우드 AI보다 훨씬 느리고요.

 

결론적으로, 최신 정보 검색이나 실시간 자료 취합이 필요한 작업에는 적합하지 않습니다.

2025년 1월 이전의 일반 지식 기반 작업, 코딩 도움, 문서 요약, 번역 등에 강점이 있어요.

용도에 맞게 잘 활용하는 게 포인트입니다!

 

 

직접 사용해보니...

 

Google AI Edge Gallery를 설치하고 가장 먼저 AI Chat 기능을 써봤습니다.

 

솔직한 첫인상은...

"딱 1년 전의 AI 수준이구나" 였어요.

 

뭔가 엄청 길게 써주고, 그럴듯하게 설명도 하는데...

막상 뜯어보면 알맹이가 없는 느낌? 겉만 번지르르한 말들의 향연이랄까요.

 

테스트로 이런 질문을 던져봤어요.

 

"최근 발생한 클로드 소스 코드 유출 사건에 대한 조사 보고서를 작성해줘."

 

답변은 정말 깔끔하게 잘 써줍니다.

사건 개요 / 원인 분석 / 기술적 시사점 / 대응 및 조치사항 / 결론... 형식도 완벽하죠.

 

그런데 문제는, 실제 사건 내용이 하나도 없다는 겁니다.

보안 사고가 발생했을 때 일반적으로 생각할 수 있는 원인과 결론을 그럴듯하게 포장해서 가져다 붙인 거예요.

마치 "보안 사고 보고서 양식"에 그럴싸한 단어들을 채워 넣은 느낌...

모르고 보면 진짜처럼 보이는 게 더 무섭습니다.

 

학습 데이터 컷오프가 2025년 1월인 만큼, 그 이후에 발생한 사건은 당연히 모릅니다.

그런데 "모른다"고 하는 게 아니라 아는 척 지어낸다는 게 온디바이스 소형 모델의 현실적인 한계인 것 같습니다.

결론적으로 온디바이스 AI에게 너무 많은 걸 기대하는 건 아직 무리일 수 있습니다.

 

하지만 알고 있는 영역 안에서만큼은 꽤 쓸만한 모습을 보여줍니다.

번역은 자연스러운 문장으로 매끄럽게 처리해주고,

코딩 역시 간단한 함수 작성이나 코드 리뷰, 오류 원인 파악 정도는 제법 수준 있게 해냅니다.

 

최신 정보가 필요 없는 작업, 즉 인터넷이 없는 환경에서의 번역, 코드 작성, 문서 요약, 아이디어 정리 같은 용도라면 충분히 실용적인 도구가 될 수 있을 것 같습니다.

 

클라우드 AI를 대체하기엔 아직 갈 길이 멀지만, 오프라인 환경에서 조용히 제 몫을 해내는 도구로서는 분명 가능성이 보입니다.

 

 

마무리하며...

 

클라우드 AI가 당연하다고 여겨지던 요듬 시대에, 구글이 조용히 꺼낸 이 앱은 꽤 신선한 충격입니다.

인터넷 없이, 개인 데이터 유출 걱정 없이, 무료로 AI를 쓸 수 있다는 것...

 

아직 초기 개발 단계라 모델 재로딩이 필요하거나 일부 기기에서 렉이 걸리고,

최신 데이터가 아닌 점 등 아쉬운 점도 있지만,

발전 속도가 꽤 빠르고 커뮤니티 반응도 뜨거워서 앞으로가 더 기대되는 앱입니다.

 

AI에 관심 있는 개발자라면, 지금 바로 설치해서 한 번 돌려보세요!

내 손 안에서 AI가 살아 움직이는 경험, 생각보다 꽤 짜릿합니다.

 

 

 

[다운로드]

- Google Play: https://play.google.com/store/apps/details?id=com.google.ai.edge.gallery

- App Store: https://apps.apple.com/us/app/google-ai-edge-gallery/id6749645337

- GitHub (오픈소스): https://github.com/google-ai-edge/gallery

 

 

#GoogleAI #AIEdgeGallery #온디바이스AI #Gemma4 #로컬LLM #오프라인AI #안드로이드앱 #AI앱 #개발자앱 #LiteRT #프라이버시AI #오픈소스