Qwen, Llama, SmolLM, Phi 같은 모델을 받기 전에 내 폰에 맞는지 먼저 알려 주고, 받은 모델은 폰 안에서 바로 돌립니다. PC도 서버도 계정도 필요 없습니다.
각 모델의 Q4_K_M 파일을 앱과 같은 기준으로 평가한 결과입니다.
화면은 두 개면 됩니다. 모델 관리에서 고르고 받고, 대화 화면에서 이야기합니다.
모델을 펼치면 GGUF 파일이 양자화별로 크기와 함께 나오고, RAM과 저장공간으로 계산한 등급이 붙습니다. IQ 양자화나 3B급 모델처럼 느릴 파일은 데이터를 쓰기 전에 이유를 알려 줍니다.
답변은 쓰이는 대로 바로 나타납니다. 말풍선마다 걸린 시간과 컨텍스트 사용량이 보이고, 대화는 폰에 저장되며, 길어지면 오래된 대화부터 줄여서 이어 갑니다.
알람, 전화, 문자를 부탁하면 모델이 준비합니다. 무엇을 할지 그대로 보여 주고, 실행을 눌러야만 동작합니다.
모델은 폰의 CPU에서 돌아갑니다. 모델을 받은 뒤에는 인터넷이 전혀 필요 없고, 개발자 쪽에는 계정도 서버도 분석 도구도 없습니다.
서버를 두지 않았고 광고·분석·크래시 리포트 SDK도 넣지 않았습니다. 대화가 갈 곳이 없습니다.
모델 목록과 파일은 Hugging Face에서 바로 받습니다. 입력한 대화는 그 요청에 들어가지 않습니다.
모델 불러오기와 대화는 연결이 전혀 없어도 동작합니다.
대화와 모델은 앱 저장공간에만 있습니다. 모델을 지우거나 대화를 초기화하거나 앱을 삭제하면 사라집니다.
Qwen2.5 0.5B, Llama 3.2 1B 같은 작은 모델은 RAM 4GB 정도의 폰에서 돌아갑니다. 컨텍스트 크기도 메모리에 맞춰 1,024~4,096토큰으로 정합니다.
실행할 때 프로세서가 지원하는 가장 빠른 빌드를 고릅니다. ARMv8.0부터 i8mm 행렬 명령이 있는 ARMv8.6까지.
연결이 끊기거나 앱을 닫아도 2GB 다운로드를 처음부터 다시 받지 않습니다. 멈춘 곳부터 이어 받고, 모바일 데이터라면 먼저 알려 줍니다.
기본 목록에 SmolLM2 1.7B, Qwen2.5 0.5B·1.5B, Llama 3.2 1B·3B, Gemma 2 2B, Phi-3.5 mini가 있고, 모델마다 Hugging Face 저장소의 GGUF 파일을 모두 고를 수 있습니다.
0.5B~1.5B 모델의 Q4_K_M 파일부터 시작하세요. 큰 파일과 IQ 양자화는 폰 CPU에서 느리고, 받기 전에 등급으로 알려 줍니다.
작은 모델입니다. 가볍게 써 보고 서로 비교하기에 좋지만, 틀리거나 사실을 지어낼 수 있으니 중요한 내용은 꼭 확인하세요.
아니요. CPU에서, 프로세서가 지원하는 가장 빠른 명령으로 돌아갑니다. 어떤 Android 폰에서도 똑같이 동작합니다.
앱 화면은 한국어와 영어입니다. 모델은 입력한 언어로, 학습한 만큼 답합니다.