When Ads Become Profiles: Uncovering the Invisible Risk of Web Advertising at Scale with LLMs

기술 요약: 광고가 프로필이 될 때

문제 정의
페이스북과 같은 플랫폼에서 민감한 카테고리(예: 정치적 신념, 건강, 성적 지향)에 대한 명시적 타겟팅을 제한하려는 규제 노력에도 불구하고, 사용자 참여를 최적화하려는 알고리즘은 광고 전달 과정에서 인구통계학적 편향을 지속적으로 유발한다. 결과적으로, 사용자에게 보여지는 광고 스트림은 사용자의 개인적 속성을 나타내는 고충실도 프록시(proxy) 역할을 하게 된다. 이전 연구들은 광고 스트림에 잠재적 신호가 포함되어 있음을 입증했지만, 이러한 신호를 활용하기 위해서는 방대한 라벨링된 데이터셋과 맞춤형 분류기를 훈련시키는 자원 집약적인 파이프라인이 필요했다. 강력한 제로샷 멀티모달 거대언어모델(LLM)의 등장은 이러한 지형을 근본적으로 변화시켰다. 본 논문은 이러한 잠재적 신호를 활용하는 장벽이 낮아짐에 따라, 공격자가 수동적인 광고 노출만으로 복잡한 사용자 프로필을 역설계하여 현재의 플랫폼 보호 조치 및 규제 프레드시를 우회할 수 있게 되었다고 주장한다.

방법론
저자들은 자연어 프로파일링을 수행하기 위해 멀티모달 LLM을 적대적 추론 엔진으로 활용하는 새로운 파이프라인을 제안한다. 본 연구는 브라우저 확장 프로그램을 통해 수집된 891명의 호주 페이스북 사용자로부터 얻은 63,864개 세션, 435,000개 이상의 광고 노출 데이터를 활용한다.

기술적 파이프라인은 세 단계로 구성된다:

1. 멀티모달 특징 추출: LLM(Gemini 2.0 Flash)을 사용하여 원시 광고 크리에이티브(이미지 및 텍text)를 처리하고 구조화된 의미론적 특징을 추출한다. 여기에는 캡션 생성, 기술적 카테고리, IAB 분류, 주요 엔티티 생성이 포함되며, 이를 통해 고차원 멀티모달 데이터를 간결한 텍스트 표현으로 변환한다.
2. 세션 수준 추론: 연속적인 광고 스트림을 데이터 기반 시간 임계값(389초)을 기준으로 이산적인 세션으로 분할한다. LLM은 각 세션의 텍스트 표현에 대해 제로샷 분류를 수행하여 개인적 속성(성별, 연령, 소득, 교육 수준, 고용 상태, 정당 선호도)을 예측하고 추론 요약을 생성한다.
3. 종단적 사용자 프로파일링: 여러 세션에서 도출된 추론 요약을 서사적 이력으로 통합한다. 최종 추론 단계에서는 이러한 누적된 신호를 합성하여 종합적인 사용자 프로필을 재구성한다.

연구는 무작위 추측, 인구 조사 기반 사전 확률(호주 인구 조사 데이터에서 유도됨), 그리고 인간 주석가(annotator)를 포함한 강력한 베이스라인을 대상으로 성능을 평가한다.

주요 기여

1. 사회적 위험 규명을 위한 새로운 파이럽라인: 저자들은 맞춤형 모델을 훈련하는 대신, 비정형 광고 크리에이티브에서 의미론적 신호를 해독하기 위해 멀티모달 LLM을 사용하는 방법론을 소개하며, 분석의 초점을 행동 메타데이터에서 콘텐츠 기반 추론으로 전환한다.
2. 프라이버시 위험의 실증적 정량화: 본 논문은 광고 스트림이 고충실도 디지털 발자국 역할을 한다는 최초의 대규모 실증적 증거를 제공한다. 오프더쉘프(off-the-shelf) LLM이 인간의 사회적 인지 능력과 일치하거나 이를 상회하는 정확도로 수동적 관찰을 통해 개인적 속성을 재구성할 수 있음을 입증하며, 이 과정에서 비용은 223배 낮고 시간은 52배 빠르다는 것을 보여준다.
3. 확장 가능한 프로파일링의 특성 규명: 본 연구는 짧은 관찰 창(세션 수준) 내에서도 실행 가능한 프로파일링이 가능하다는 것을 밝혀냈으며, 이는 장기적인 추적이 성공적인 공격의 전제 조건이 아님을 시사한다. 이는 플랫폼 자체의 최적화 로직이 국소적으로 악용될 수 있는 시스템적 취약성을 강조한다.

결과

• 세션 수준 성능: LLM은 속성 재구성에 있어 무작위 베이스라인을 크게 상회했다. 예를 들어, 모델은 성별에 대해 59.13%, 고용 상태에 대해 48.38%의 정확도를 달 기록했는데, 이는 무작위 추측의 약 20%와 대조적이다. 연령 및 소득과 같은 서열 속성의 경우, 모델은 "방향적 정확성(directional correctness)"을 보였으며, 평균 절대 오차(MAE)가 무작위 베이스라인보다 현저히 낮아 예측값이 실제 값의 1~2개 범주 내에 있음을 나타냈다.
• 인간 vs AI 비교: 100개 세션에 대한 인간 평가에서, 최첨단 LLM(예: GPT-5, Gemini 2.5 Pro)은 성별 분류(76% vs 73.67%)에서 인간과 대등하거나 능가했으며, 교육(51% vs 33.67%) 및 고용(53% vs 37.83%)과 같은 복잡한 사회경제적 속성에서는 인간을 크게 앞질렀다.
• 사용자 수준 재구성: 세션 간 신호를 통합함으로써 정밀도가 더욱 향상되었다. LLM은 성별에 대해 76.38%, 정당 선호도에 대해 41.60%의 정확도를 달성하여 인구 조사 기반 사전 확률을 크게 상회했다. 특히, 광고 순서를 섞은 "무작위 대조군(Random Control)"이 사회경제적 특성에 대해 순차적 모델과 유사한 성능을 보였는데, 이는 누적된 의미론적 콘텐츠가 주요 신호이며, 시간적 순서는 생애 단계의 안정성(연령)을 식별하는 데 도움을 준다는 것을 시사한다.
• 비용 및 효율성: 자동화된 접근 방식은 인간 분석보다 223배 저렴하고 52배 빠른 것으로 나타났다.

의의 및 주장
본 논문은 광고 스트림이 현재의 플랫폼 보호 조치를 본질적으로 우회하는 고충실도 디지털 발자국 역할을 할 수 있다는 최초의 실증적 증거를 제공한다고 주장한다. 저자들은 잠재된 광고 신호와 제로샷 LLM 역량의 결합이 광고 생태계의 시스템적 취약성을 초래한다고 주장한다.

본 연구의 의의는 프라이버시 침해의 위협이 전문적이고 자원 집약적인 공격에서 "오프더쉘프" 도구를 통해 접근 가능한 영역으로 이동했음을 입증했다는 점에 있다. 저자들은 이러한 위험이 특히 브라우저 확장 프로그램 생태계에서 심각하다고 강조하는데, 여기서 양질의 도구(예: 광고 차단기)는 광고 콘텐츠를 조용히 수집할 수 있는 정당한 권한을 보유하고 있기 때문이다. 연구 결과는 현재의 프라이ver 정책이 정확한 식별(identification)에만 집중함으로써 의미론적 프로파일링(semantic profiling)의 위험을 과소평가하고 있을 수 있음을 시사하며, 생성형 AI 시대에 책임 있는 웹 AI 거버넌스의 시급성을 역설한다. 결론적으로, 알고리즘 콘텐츠에 대한 수동적 노출은 상당한 정보 유출 경로가 되어, 공격자가 장기적인 추적이나 사용자 데이터에 대한 직접적인 접근 없이도 사용자의 정체성을 재구성할 수 있게 한다.