이 논문은 AI 의 할루시네이션과 프라이버시 문제를 해결하기 위해 벡터 매칭 대신 그래프 추론을 기반으로 사용자가 직접 기억을 검열하고 수정할 수 있는 투명하고 개인화된 온디바이스 지식 그래프 시스템 'RUVA'를 제안합니다.
원저자:Gabriele Conte, Alessio Mattiace, Gianni Carmosino, Potito Aghilar, Giovanni Servedio, Francesco Musicco, Vito Walter Anelli, Tommaso Di Noia, Francesco Maria Donini
원저자: Gabriele Conte, Alessio Mattiace, Gianni Carmosino, Potito Aghilar, Giovanni Servedio, Francesco Musicco, Vito Walter Anelli, Tommaso Di Noia, Francesco Maria Donini
이 논문은 현재 인공지능 (AI) 이 가진 가장 큰 문제점인 '블랙박스 (Black Box)' 문제를 해결하고, 사용자가 자신의 기억을 직접 통제할 수 있는 새로운 시스템 RUVA(루바) 를 소개합니다.
간단히 말해, RUVA 는 **"사용자가 직접 펜을 들고 수정할 수 있는, 투명하게 보이는 AI 비서"**입니다.
1. 왜 RUVA 가 필요한가요? (현재의 문제점)
지금까지의 개인용 AI 는 **'블랙박스'**처럼 작동했습니다.
비유: AI 가 당신의 일기, 사진, 채팅 기록을 모두 **'마법의 가루'**로 만들어 거대한 **'안개 속 도서관'**에 저장해 둡니다.
문제점:
이유를 알 수 없음: AI 가 엉뚱한 대답을 하거나 (할루시네이션), 민감한 정보를 꺼내올 때, 왜 그런지 그 '마법의 가루'를 뒤져서 이유를 찾을 수 없습니다.
삭제의 불완전함: "이 기억을 지워줘"라고 해도, 안개 속에서 그 가루만 정확히 제거할 수 없습니다. 대신 가루를 살짝 가려두는 정도라, AI 가 나중에 실수로 그 기억을 다시 떠올릴 수 있습니다 (유령 같은 존재).
2. RUVA 의 해결책: '유리 상자'와 '연결된 망'
RUVA 는 이 문제를 해결하기 위해 '유리 상자 (Glass Box)' 방식을 사용합니다.
비유 1: 유리 상자
기존 AI 는 불투명한 상자라면, RUVA 는 완전히 투명한 유리 상자입니다. 상자 안의 모든 것이 다 보입니다. AI 가 무엇을 알고 있는지, 어떻게 결론을 내렸는지 사용자가 직접 확인할 수 있습니다.
비유 2: 거미줄 (그래프)
기존 AI 는 단어끼리 비슷하면 연결하는 방식이라면, RUVA 는 **거미줄 (그래프)**처럼 정보를 연결합니다.
예: "사라가 출근 전에 전화를 했을까?"라는 질문을 받았을 때, 기존 AI 는 '사라'와 '출근'이라는 단어가 비슷해서 임의로 연결합니다. 하지만 RUVA 는 거미줄을 따라가며 "전화 기록 (시간 A)"과 "출근 기록 (시간 B)"을 정확히 비교해서 사실대로 답합니다.
3. RUVA 는 어떻게 작동하나요?
RUVA 는 당신의 스마트폰 안에서만 작동합니다. (클라우드에 데이터를 보내지 않아 해킹 위험이 없습니다.)
눈과 귀 (신경망): 사진이나 텍스트를 보고 내용을 파악합니다. (예: 기차표 사진을 보고 "95 유로"라고 읽음)
기억장 (상징적 지식 그래프): 파악한 내용을 **'명확한 카드'**로 만들어 정리합니다.
카드 1: [기차표] - [가격] -> [95 유로]
카드 2: [기차표] - [날짜] -> [2025 년 9 월 1 일]
이 카드들은 서로 실선으로 연결되어 있어, 어떤 정보가 어디서 왔는지 명확합니다.
4. 가장 중요한 기능: '붉은 펜'으로 지우기
RUVA 의 가장 강력한 기능은 삭제입니다.
비유: 만약 당신이 "그날의 영수증 기억은 지워줘"라고 하면, RUVA 는 안개 속의 가루를 가리는 게 아니라, 정확히 그 '기억 카드' 하나를 잘라내어 태워버립니다.
결과: AI 는 그 기억을 완전히 잊어버리게 됩니다. 수학적으로 100% 삭제되므로, AI 가 실수로 다시 그 기억을 꺼내올 일은 절대 없습니다. 이를 **'잊힐 권리 (Right to be Forgotten)'**를 보장한다고 합니다.
5. 실제 사용 예시
정보 입력: 당신이 주말 여행 계획을 캘린더에 넣고, 기차표 사진을 찍어 올립니다. RUVA 는 사진을 보고 "95 유로 썼다"는 사실을 카드에 적어 기차표와 여행 계획에 연결합니다.
복잡한 질문: "지금까지 여행에 얼마나 썼어?"라고 물으면, RUVA 는 기차표 카드와 여행 계획을 연결해서 "95 유로"라고 정확히 답합니다.
삭제: "그 영수증은 민감하니까 지워줘"라고 하면, RUVA 는 그 카드와 연결된 모든 선을 잘라냅니다. 다시 "얼마 썼어?"라고 물으면, "해당 정보가 없어서 모릅니다"라고 정직하게 답합니다.
결론
RUVA 는 AI 를 **"사용자가 통제할 수 없는 신비한 존재"**에서 **"사용자가 직접 수정하고 관리할 수 있는 친절한 도구"**로 바꿉니다.
"당신은 자신의 인생의 편집자입니다. RUVA 는 그 편집자에게 펜을 쥐여줍니다."
이 기술은 클라우드에 의존하지 않고, 당신의 주머니 속 기기에서 안전하게, 투명하게, 그리고 정확하게 작동합니다.
RUVA: 개인화된 투명한 온디바이스 그래프 추론 시스템
1. 문제 정의 (Problem)
현재 개인용 AI(Personal AI) 분야는 "블랙박스(Black Box)" 방식의 검색 증강 생성 (RAG) 에 의해 지배되고 있습니다. 기존 시스템은 다음과 같은 근본적인 한계를 가지고 있습니다.
책임성 부재: AI 가 환각 (Hallucination) 을 일으키거나 민감한 데이터를 잘못 검색할 때, 사용자가 그 원인을 파악하거나 오류를 수정할 수 없습니다.
개인정보 보호의 불완전성: 벡터 데이터베이스 (Vector Database) 는 개념을 '삭제'하는 것이 수학적으로 정밀하지 않습니다. 벡터 공간에서 개념을 제거해도 확률적 잔여물 ("유령", Ghosts) 이 남아 민감 정보가 AI 에 의해 우연히 재생성될 위험이 있습니다.
추론 능력의 한계: 고차원 임베딩 공간에서의 단순한 의미 유사성 매칭은 복잡한 시간적 관계나 논리적 추론을 수행하는 데 실패합니다.
2. 방법론 (Methodology)
RUVA 는 사용자의 수동 개입 (Human-in-the-Loop) 을 위한 "유리상자 (Glass Box)" 아키텍처를 제안하며, 신경 - 기호 (Neuro-Symbolic) 기반의 온디바이스 GraphRAG 를 구현합니다.
아키텍처 개요:
온디바이스 실행: 모든 계산이 사용자의 모바일 기기 (예: Google Pixel 8 Pro) 에서 수행되어 클라우드 의존성을 제거하고 데이터 주권을 보장합니다.
하이브리드 스토리지: 단일 SQLite 데이터베이스를 sqlite-vec 로 확장하여 그래프 RAG 연산을 지원합니다.
신경 - 기호 분리:
신경 구성 요소 (Neural Component): 소형 비전 언어 모델 (SVLM, Gemma-3n-E2b) 을 사용하여 비정형 데이터 (이미지, 텍스트) 를 구조화된 시그널로 변환합니다.
기호 구성 요소 (Symbolic Component): 변환된 시그널을 개인 지식 그래프 (PKG, Personal Knowledge Graph) 에 저장합니다. 여기서 모든 기억은 명시적인 노드 (Node) 로, 모든 연관성은 가시적인 엣지 (Edge) 로 표현됩니다.
핵심 워크플로우:
멀티모달 수집 (Multimodal Ingestion): 사진, 이메일, 캘린더 등 다양한 데이터를 SVLM 이 처리하여 의미론적 3 중자 (Semantic Triples) 로 추출합니다. 엔티티 해결 (Entity Resolution) 과 커뮤니티 탐지 (Leiden 알고리즘) 를 통해 중복 노드를 통합합니다.
그래프 기반 검색 (Graph-Grounded Retrieval):
앵커 검색 (Anchor Search): 벡터 유사도를 사용하여 관련 노드 (예: 'Sarah', 'Work') 를 찾습니다.
위상 확장 (Topological Expansion): N-hop 탐색을 통해 연결된 이벤트와 시간적 관계를 파악합니다.
답변 생성: 명시적인 타임스탬프와 관계를 포함한 서브그래프를 SVLM 에 입력하여 환각 없는 답변을 생성합니다.
삭제 메커니즘 (Deletion Mechanism): 사용자가 특정 기억 (노드) 을 삭제하면, SQL DELETE CASCADE 트랜잭션을 통해 해당 노드, 속성, 연관된 벡터 인덱스를 물리적으로 완전히 제거합니다. 이는 "잊힐 권리 (Right to be Forgotten)"를 수학적으로 보장합니다.
3. 주요 기여 (Key Contributions)
투명한 "유리상자" 아키텍처: AI 의 내부 지식 구조를 사용자가 직접 inspect(검사) 하고 수정할 수 있게 하여, 블랙박스 문제를 해결했습니다.
정확한 삭제 (Deterministic Deletion): 벡터 공간의 불완전한 삭제와 달리, 그래프 기반 구조를 통해 특정 사실의 완전한 삭제를 보장하여 진정한 프라이버시를 실현했습니다.
온디바이스 개인화: 클라우드 없이 모바일 기기에서 실시간으로 작동하며, 배터리 소모를 최소화하도록 최적화되었습니다.
사용자 권한 부여: 사용자를 수동적인 데이터 소스가 아닌 '메모리 편집자 (Editor-in-Chief)'로 재정의하여, AI 의 기억을 직접 통제할 수 있는 권한을 부여했습니다.
4. 실험 결과 (Results)
성능 (Performance): Google Pixel 8 Pro 와 같은 제한된 환경에서도 상호작용 지연 시간을 유지했습니다.
평균 수집 (Ingestion) 시간: 2.4 초 (VLM 처리 및 3 중자 추출 포함).
단일 홉 (Single-hop) 쿼리 그래프 검색 지연: 38ms.
모델 정확도 (Model Accuracy): 71 개의 멀티소스 객체와 52 개의 3 중자 (질문 - 답변 쌍) 로 구성된 벤치마크를 통해 평가되었습니다.
추론 능력: 4 개의 최신 LLM (Llama3.3, Qwen3, GPT, Kimi) 을 평가자 (Judge) 로 활용하여 평가한 결과, RUVA 의 답변 중 **61% 가 긍정적 (Positive)**으로 평가되었으며, 중립을 포함하면 **71%**에 달했습니다.
일관성: 평가자 간 일관성이 매우 높았습니다 (Spearman's Rank Correlation ρ=0.82, Krippendorff's Alpha =0.81).
삭제 검증: 삭제 시나리오에서 해당 정보가 제거된 후 시스템이 더 이상 답변하지 못하는지 확인하는 테스트에서 높은 정확도를 보였습니다.
5. 의의 및 결론 (Significance)
RUVA 는 개인용 AI 의 패러다임을 "불투명한 서비스"에서 "투명한 프레임워크"로 전환합니다.
데이터 주권: 클라우드가 지능의 전제 조건이 아님을 증명하며, 사용자의 데이터가 물리적으로 자신의 손안에 있음을 보장합니다.
신뢰성: 사용자가 AI 의 두뇌를 직접 보고 기억을 수정하거나 지울 수 있게 함으로써, AI 에 대한 신뢰를 구축합니다.
미래 지향성: 단순한 챗봇을 넘어, 사용자가 자신의 삶을 편집하고 통제할 수 있는 진정한 '개인 비서'의 모델을 제시합니다.
결론적으로 RUVA 는 그래프 기반 추론을 통해 AI 의 환각을 줄이고, 수학적으로 확실한 개인정보 삭제를 가능하게 함으로써, 가장 강력하고 신뢰할 수 있는 AI 를 구현하는 길을 제시합니다.