12주 완성 AI 온디바이스 앱 실전 커리큘럼으로 돌아가기
Mobile & System•7 / 12주차
7주차 마일스톤약 10시간 소요난이도: 고급
로컬 벡터 DB(ObjectBox / SQLite-VSS) 기반 온디바이스 RAG 구축
인터넷 없는 오프라인 온디바이스 RAG, 로컬 고속 벡터 데이터베이스 구축 및 유사도 기반 컨텍스트 검색
#RAG#VectorDB#ObjectBox#OfflineAI
이번 주 핵심 학습 목표
- 1인터넷 연결 없이 개인 데이터를 안전하게 다루는 온디바이스 RAG 아키텍처를 설계한다.
- 2로컬 벡터 데이터베이스(ObjectBox Vector Search)의 HNSW 인덱싱 원리를 이해한다.
- 3문서 청킹 ➔ 임베딩 ➔ 벡터 색인 ➔ 시맨틱 질의응답 완결형 파이프라인을 구축한다.
실전 학습 가이드 & 코드 워크스루
1. 왜 온디바이스 RAG인가?
의료, 금융, 사내 기밀, 개인 일기 등 민감한 개인정보를 클라우드 LLM에 전송하는 것은 개인정보 보호법 위반 위험과 거부감을 낳습니다.
온디바이스 RAG(Retrieval-Augmented Generation)는 사용자의 기기 내부에서 모든 임베딩과 문서 검색, 답변 생성이 종결되므로 100% 프라이버시가 보장됩니다.
2. ObjectBox Vector Search 구현
kotlin
@Entity
data class NoteDocument(
@Id var id: Long = 0,
var content: String = "",
@HnswIndex(dimensions = 384)
var embedding: FloatArray = FloatArray(0)
)사용자의 질문이 들어오면 온디바이스 임베딩 모델로 질문 벡터를 추출한 뒤 벡터 검색을 실행합니다:
kotlin
fun searchRelevantNotes(queryEmbedding: FloatArray, maxResults: Int = 3): List<NoteDocument> {
return noteBox.query(NoteDocument_.embedding.nearestNeighbors(queryEmbedding, maxResults))
.build()
.find()
}📂 이번 주차 학습 자료 & 실습 파일 다운로드
2개 파일 제공강의 교안 PDF, 실습 스타터 코드, 치트시트 등 학습에 필요한 자료를 별도로 열람하거나 다운로드하여 학습하세요.
7주차_핵심요약_치트시트.pdf
PDF•1.8 MB
7주차 핵심 이론 및 아키텍처 다이어그램 치트시트
7주차_실전_스타터코드.zip
ZIP•3.4 MB
Android Studio 프로젝트 템플릿 및 실습 코드 예제
실전 체크리스트 & 셀프 점검
0 / 4 완료직접 코드를 구현하고 테스트를 완료할 때마다 체크해 보세요. 브라우저에 자동 보관됩니다.
ObjectBox Vector Search 플러그인 설정 및 DocumentEntity 정의
긴 텍스트 문서를 300토큰 단위로 슬라이딩 윈도우 청킹하는 알고리즘 작성
임베딩 벡터를 ObjectBox에 배치 인덱싱(Batch Insertion) 구현
자연어 질의(Query)에 대한 Top-3 유사 문서 검색 및 정확도 검증
ADVERTISEMENTfirststep.kr ad
1st
firststep.kr 12주 완성 실전 커리어 로드맵
파이썬, 소프트웨어설계, DB, 데이터과학, 딥러닝, LLM 9종 코스 100% 무료
공식 문서 & 추천 자료
12주 완성 AI 온디바이스 앱 실전 커리큘럼
[1주차] 코틀린(Kotlin) 핵심 언어 체계 & 안드로이드 런타임 이해[2주차] Jetpack Compose 기반 선언형 UI 기초 및 상태 관리[3주차] 로컬 경량 AI 모델(ONNX / MediaPipe) 구동 환경 세팅[4주차] 온디바이스 텍스트 & 임베딩 모델 인퍼런스 최적화[5주차] 실시간 컴퓨터 비전(MediaPipe) 객체 인식 & 포즈 추정[6주차] 안드로이드 NNAPI & GPU/NPU 하드웨어 가속기 연동[7주차] 로컬 벡터 DB(ObjectBox / SQLite-VSS) 기반 온디바이스 RAG 구축[8주차] 음성 인식(Whisper.tflite) & 온디바이스 음성 AI 어시스턴트[9주차] 모델 경량화 & 양자화 파이프라인(PyTorch ➔ ONNX ➔ TFLite)[10주차] 백그라운드 비동기 추론 & WorkManager 배터리 최적화[11주차] AI 앱 보안 & 모델 가중치 암호화(EncryptedSharedPreferences / NDK)[12주차] 독자적인 온디바이스 AI 앱 포트폴리오 완성 & 구글 플레이 배포