기술 요약: 기계에게는 보이지 않는 존재 (Invisible to the Machine)

문제 제기

AI 어시스턴트가 로컬 탐색의 주요 인터페이스로 급부상하고 있음에도 불구하고, 특히 추천이 매출에 직접적인 영향을 미치는 음식 및 음료 부문에서 어떤 물리적 장소가 노출되는지에 대한 과학적 이해가 결정적으로 부족하다. 기존의 감사(audit) 문헌은 두 가지 구조적 사각지대를 가지고 있다:

1. **결합 실험(Conjoint experiments)**은 구성된 선택 집합 내에서 속성을 무작위화하므로, 모델 앞에 모든 후보를 강제로 배치한다. 이는 실제 장소가 고려 대상에 포함되는지 여부를 관찰하는 것을 방지한다.
2. **대규모 프롬프트 감사(Large-scale prompt audits)**는 유명 브랜드(수십 개에서 수백 개)로 구성된 큐레이션 카탈로그를 대상으로 평가하므로, 인구 수준의 "불가시성 비율"(즉, 한 번도 추천되지 않은 장소의 비율)을 계산하는 것이 불가능하다(분모가 누락되었기 때문).

또한, 기존의 증거들이 중개 플랫폼에서의 노출이 인과적으로 확인된 수요 효과를 수반한다는 점을 보여줌에도 불구하고, 문서화가 미비한 독립 운영자가 주를 이루는 음식 및 음료 부문을 조사한 선행 연구는 없다.

방법론

본 연구는 AI 장소 추천에 대한 최초의 **인구 조사 기반 감사(census-denominated audit)**를 제시한다.

• 시장 인구 조사: 연구진은 인도네시아 발리(그레이터 짱구 및 그레이터 우붓)의 두 제한된 하위 시장 전체 운영 시장을 전수 조사하여, 4,776개의 카페, 레스토랑, 바 레지스트리를 구축했다. 이 인구 조사는 밀집 지역에서의 절단을 피하기 위해 적응형 그리드를 사용하여 Google Places API를 통해 구축되었으며, AI가 추천했으나 초기 매칭에 실패한 이름들을 보완하기 위한 해상도 패스(resolution pass)를 거쳤다.
• 데이터 수집: 네 가지 프로덕션 AI 시스템(ChatGPT, Claude, Gemini, Perplexity)을 검색 기반 API를 통해 쿼리했다. 연구는 7일 동안 2,208회의 실행을 수행했으며, 96개의 페르소나 조건부 쿼리(8개 페르소나 × 6개 내러티브 템플릿 × 2개 위치)에 응답했다.
• 추출 및 검증:
  • 추출: LLM 추출기가 응답을 장소 언급, 감성(추천/중립/비권장), 순위로 파싱했다. 추출 결과는 독립적인 이중 주석(double annotation)을 통해 검증되었으며, 언급 수준에서 97.6%의 정밀도와 99.1%의 재현율을 달야했다.
  • 엔티티 매칭(Entity Matching): 언급된 내용을 결정론적 퍼지 매처(deterministic fuzzy matcher)를 통해 인구 조사 데이터와 대조했다. 사후 감사 결과, 매칭 오류가 제3자 데이터 제공자의 부재와 상관관계가 있음이 드러났다. 이에 따른 보정 패스를 통해 Foursquare 존재 여부에 관한 예비 조사 결과를 유의미함에서 유의미하지 않음으로 역전시켰다.
  • 미매칭 분류 체계: 매칭되지 않은 언급들은 "노후화(staleness)"와 "환각(hallucination)"을 구분하기 위해 카테고리(예: 폐업한 장소, 이름 변형, 허구)로 분류되었다.
• 통계 모델:
  • M1 (진입 마진): 적격 실행 내에서 특정 장소가 추천될 확률을 예측하는 이항 일반화 선형 모델(binomial GLM)로, 엔진 및 페르소나 고정 효과를 통제한다.
  • M7 (순위 마진): 여러 장소를 추천한 실행 내에서 해당 장소가 첫 번째로 언급될 확률을 예측하는 조건부 로짓 모델이다.
  • 강건성(Robustness): 모델에는 클러스터 강건 표준 오차, GEE 명세, 그리고 민감도 재적합(예: 매칭률이 낮은 Claude 암(arm) 제외)이 포함되었다.

주요 결과

1. 불가시성이 규범이다

• 4,776개의 인구 조사 장소 중 **85.6%**가 모든 시스템의 모든 실행에서 한 번도 추천되지 않았다.
• "기성" 장소(평점 50개 이상)들 사이에서도 **72.6%**가 한 번도 추천되지 않았다.
• 가시성은 승자 독식 구조가 아닌 롱테일 구조를 보인다: 가장 많이 추천된 장소는 전체 추천의 **1.9%**만을 차지했으며, 상위 25개 장소가 28.5%를 점유했다.

2. 가시성의 이중 마진 구조

본 연구는 답변에의 *진입(entry)*과 답변 내에서의 순위(ranking) 사이의 분리 현상을 식별한다:

• 진입 마진 (수용): 평판이 아닌 **문서화(documentation)**에 의해 결정된다.
  • 유의미한 예측 변수: 자체 웹사이트 (OR 1.92), 리뷰 수 (OR 1.64), 가격 정보 (OR 1.54), 제3자 웹 언급 (OR 1.44).
  • 별점(Star rating)은 이 마진에서 무효하다 (OR 0.89, 유의하지 않음).
• 순위 마진 (순서): **평판(reputation)**에 의해 결정된다.
  • 추천된 장소들 중에서, 별점은 첫 번째 위치를 차지할 확률을 유의미하게 예측한다 (OR 1.17).
  • 문서화 요소(웹 언급 등)는 진입을 조건으로 할 때 유의성이 약화되거나 사라진다.

3. 오픈 POI 데이터셋의 실패

업계의 가정과 달리, 오픈 소스 Foursquare 데이터셋의 존재(및 팁이나 인기와 같은 내부 품질 지표)는 문서화 변수를 통제했을 때 진입이나 순위 모두에 긍정적인 효과를 보이지 않았다.

4. 실패 모드: 노후화 vs 환각

• 환각은 드물다: 유효한 언급 중 순수하게 허구인 것(이름을 지어낸 경우)은 **0.08%**에 불과했다.
• 노후화가 주요 실패 원인이다: 시스템은 영구 폐업한 장소를 93회 추천했다. 실질적인 실패 모드는 환각이 아니라 오래된 데이터이다.

5. 불안정성 및 표류(Drift)

• 실행 간 변동(Run-to-Run Churn): 동일한 쿼리가 서로 다른 장소 집합을 반환한다 (자카드 유사도 범위 0.22 ~ 0.45). 쿼리 구문을 바꾸면 유사도가 더욱 낮아진다.
• 시간적 표류 없음: 2주간의 테스트-재테스트 결과, 교차 기간 유사도가 당일 재실행 결과와 유사하게 나타났다. 이는 가시성 변동이 모델의 시간적 표류가 아니라 샘플링의 확률적 특성 때문임을 시사한다.

의의 및 주장

본 논문은 인구 수준의 불가시성 비율을 제공함으로써, 실험적 결합 설계와 관찰적 프롬프트 감사 사이의 간극을 메운다고 주장한다.

• 방법론적 기여: 본 연구는 감사 결론이 도구의 품질, 특히 엔티티 매칭에 매우 민감하다는 것을 입증한다. 단 한 번의 보정 패스로 제3자 데이터 제공자에 관한 핵심 발견이 역전되었으며, 이는 감사 연구에서 매칭 파이프라인 검증의 필요성을 강조한다.
• 이론적 화해: 본 연구는 상충하는 문헌들을 화해시킨다. (예: Baig et al., 2026) 평점의 지배력을 보여주는 결합 연구는 순위 마진(일단 선택 집합에 들어온 경우)을 측정한다. 본 인구 조사 기반 감사는 평점이 진입 마진에는 무관하며, 대신 "발견 가능성 인프라"(웹사이트, 리뷰 수, 가격 데이터)가 장소가 고려 대상에 포함될지 여부를 결정한다는 것을 밝혀냈다.
• 경제적 함의: AI 추천이 동일 브랜드 검색 및 방문을 높인다는 점을 고려할 때, 기성 장소의 72.6%가 보이지 않는다는 발견은 실제 품질이나 고객 평점과 관계없이 특정 문서화 신호가 부족한 독립 운영자들에게 발생하는 거대한, 측정되지 않은 경제적 배제를 시사한다.

저자는 재현을 가능하게 하기 위해 인구 조사 구축 방법, 사전 등록된 프로토콜 및 도출된 데이터를 공개한다.