PrivacyAssist: A User-Centric Agent Framework for Detecting Privacy Inconsistencies in Android Apps

Riassunto Tecnico: PrivacyAssist

1. Il Problema (Problem Statement)

Nonostante l'esistenza di meccanismi di protezione della privacy su Android, come il Permission Model (PM) (che gestisce l'accesso ai dati tramite permessi) e la Data Safety (DS) (che richiede agli sviluppatori di dichiarare quali dati raccolgono su Google Play), entrambi presentano lacune critiche:

• Mancanza di verifica: Le dichiarazioni DS si basano sulla buona fede degli sviluppatori e non sono verificate automaticamente da Google.
• Incoerenze: Le app possono richiedere permessi eccessivi o raccogliere dati non dichiarati nelle sezioni di trasparenza.
• Complessità per l'utente: I permessi Android sono tecnicamente complessi (es. la differenza tra coarse e fine location) e le informazioni sulla privacy sono difficili da consultare durante l'installazione, portando gli utenti a concedere permessi in modo acritico.

2. Metodologia (Methodology)

Gli autori propongono PrivacyAssist, un framework basato su un'architettura multi-agente che utilizza Large Language Models (LLM) e la tecnica Retrieval-Augmented Generation (RAG) per rilevare discrepanze in tempo reale.

Architettura Client-Server:

• Agent-1 (Client/Smartphone): Un servizio in background scritto in Kotlin che monitora l'installazione di nuove app. Utilizza le API di Android per rilevare i permessi effettivamente concessi all'app durante l'esecuzione (runtime), includendo sia i permessi "dangerous" che quelli "normal" concessi automaticamente dal sistema.
• Agent-2 (Server): Un sistema basato su Python che riceve i dati dall'Agent-1 tramite una piattaforma di streaming Kafka. L'Agent-2 recupera le dichiarazioni di Data Safety da Google Play e le descrizioni funzionali dell'app (tramite APKCombo).

Processo di Analisi (RAG Workflow):
Per superare i limiti degli LLM (allucinazioni e limiti di token), il sistema utilizza la RAG:

1. Retrieval: Il sistema interroga un database vettoriale (FAISS) contenente definizioni ufficiali di Google sui permessi e sulle 14 categorie di dati sensibili.
2. Reasoning: L'LLM (Llama-3-8B) riceve un prompt arricchito dal contesto recuperato per confrontare il comportamento runtime con quello dichiarato.
3. Inconsistency Detection: Il sistema cerca tre casi di incoerenza:
   • Caso 1: Permessi concessi ma dati non dichiarati nella DS.
   • Caso 2: Dati dichiarati nella DS ma senza permessi corrispondenti concessi.
   • Caso 3: Combinazione dei due casi precedenti.
4. Summarization: Un modulo di sintesi trasforma i risultati tecnici in avvisi e spiegazioni in linguaggio naturale, comprensibili per l'utente non esperto.

3. Contributi Chiave (Key Contributions)

• Framework Multi-Agente Real-time: A differenza degli approcci precedenti basati su analisi statica o che richiedono il rooting del dispositivo, PrivacyAssist opera in tempo reale su dispositivi standard senza privilegi di root.
• Integrazione RAG per la Privacy: L'uso della RAG permette di ancorare le inferenze dell'LLM a definizioni ufficiali e aggiornate, riducendo drasticamente le allucinazioni.
• Focus sull'Utente (User-Centric): Il sistema non si limita a rilevare vulnerabilità, ma fornisce spiegazioni semantiche e avvisi immediati per supportare decisioni di installazione informate.

4. Risultati (Results)

L'efficacia del sistema è stata testata su 2.347 app Android e 200 utenti:

• Prevalenza di Incoerenze: Solo il 16% delle app analizzate è risultato pienamente coerente tra permessi concessi e dichiarazioni DS. L'84% mostra discrepanze.
• Accuratezza dell'IA: L'LLM ha fornito risultati accurati nel 90% dei casi testati manualmente. L'analisi ablation ha dimostrato che l'uso della RAG è fondamentale per ridurre i falsi positivi (che passerebbero dal 35% al valore minimo senza RAG).
• Impatto sull'Utente: Il 73,1% degli utenti ha dichiarato che avrebbe annullato l'installazione di un'app dopo aver ricevuto un avviso da PrivacyAssist.
• Overhead del Sistema: L'impatto sulle risorse del dispositivo è minimo, con un consumo medio di CPU dell'1,8% e del 10% della batteria nell'arco di 24 ore.

5. Significato e Conclusioni (Significance)

PrivacyAssist rappresenta un passo avanti fondamentale nel colmare il divario tra la trasparenza dichiarata dalle aziende e la realtà tecnica delle applicazioni mobili. Dimostra che l'intelligenza artificiale può essere utilizzata non solo per scopi di attacco o analisi forense, ma come uno strumento di difesa proattiva che abilita l'utente finale, trasformando dati tecnici complessi in conoscenza azionabile.

Lavoro futuro: Gli autori intendono spostare l'LLM direttamente sul dispositivo (on-device) per garantire la massima privacy dei dati di analisi e implementare meccanismi di permessi dinamici basati sulle preferenze individuali.