The Rise of AI Search: Implications for Information Markets and Human Judgement at Scale
이 논문은 2024 년에서 2025 년 사이 전 세계적으로 급격히 확대된 AI 검색의 영향력을 분석하여, 기업이 내린 정책적 결정이 정보 소스의 다양성 감소와 신뢰도 편향 등을 초래함으로써 정보 시장과 인간의 판단에 중대한 변화를 가져오고 있음을 지적하며 이에 대한 글로벌 정책 논의를 촉구하고 있습니다.
과거에 우리가 정보를 찾을 때는 직접 도서관을 돌아다니며 책장 (웹사이트) 을 뒤져야 했습니다. 하지만 이제 AI 검색은 **"모든 책을 한 번에 읽고 요약해 주는 똑똑한 사서"**가 되어 우리 앞에 나타납니다.
상황: 2024 년에는 이 '똑똑한 사서'가 일하는 나라가 7 개에 불과했습니다. 하지만 2025 년에는 229 개 나라로 급격히 늘어났습니다.
예외: 그런데 이상하게도 프랑스, 터키, 중국, 쿠바 같은 나라는 이 사서를 볼 수 없습니다. 마치 도서관의 특정 구역이 문을 닫은 것처럼요.
변화: 특히 '코로나' 같은 민감한 주제에서는 2024 년엔 AI 가 대답을 안 해줬는데, 2025 년엔 **66%**나 AI 가 대답을 해줍니다. 이는 AI 회사들이 "이제 이 주제도 AI 가 다뤄도 돼"라고 갑자기 정책을 바꿨기 때문입니다.
📉 2. 정보의 '다양성' 사라짐: "오직 한 목소리만 듣는 세상"
과거 검색은 수십 개의 웹사이트 링크를 보여줬습니다. 우리는 그중에서 믿을 만한 곳을 고르며 다양한 의견을 들을 수 있었죠. 하지만 AI 검색은 하나의 답변을 줍니다.
비유: 과거엔 다양한 요리사들이 만든 10 가지 요리를 시식해 보며 취향을 찾았다면, 이제는 한 명의 요리사 (AI) 가 만든 '최고의 요약 요리' 하나만 접시에 담겨 나오는 것입니다.
문제점:
작은 식당들이 사라진다: AI 는 인기 있는 대형 식당 (상위 웹사이트) 만 링크하고, 작고 독특한 식당 (장기적 정보원) 은 무시합니다. 결국 정보 생산의 시장이 대기업 몇 곳으로 쏠리게 됩니다.
편향된 정보: AI 는 신뢰도가 낮은 정보나 특정 정치적 성향 (우파나 중도) 을 가진 정보를 더 많이 인용하는 경향이 있습니다. 마치 편향된 뉴스만 골라 읽는 것과 같습니다.
🧠 3. 인간의 판단력 마비: "정답을 주는 사서에게 의존하다"
이게 가장 무서운 부분입니다. AI 가 "정답"을 바로 알려주면, 우리는 더 이상 의심하지 않고 클릭을 멈춥니다.
현상: AI 요약이 나오면 사람들은 링크를 클릭하는 횟수가 절반 이상 줄어듭니다.
비유:길 안내를 해주는 GPS를 예로 들어볼까요? 과거엔 지도를 보며 "아, 여기가 맞나?" 하고 확인했지만, 이제 GPS 가 "이 길로 가세요"라고 말하면 우리는 그냥 따라갑니다.
위험: 만약 GPS 가 잘못된 길로 안내해도 (할루시네이션, 즉 거짓말), 우리는 그걸 믿고 따라가서 추락할 수 있습니다. 특히 교육 수준이 낮거나 기술에 익숙하지 않은 사람들은 이 '사서'의 말을 더 맹신하는 경향이 있어 위험합니다.
🏛️ 4. 해결책: "우리가 어떻게 이 사서를 통제할 것인가?"
연구팀은 AI 검색을 없애자는 게 아니라, 더 건강하게 운영되게 하자는 제안을 합니다.
플랫폼 (구글, 오픈AI 등) 의 역할:
출처 명시: AI 가 한 말 하나하나마다 "이 말은 A 책 3 페이지에서 왔습니다"라고 각주를 달아야 합니다.
의견 충돌 표시: 전문가들이 의견이 다를 때는 "A 는 이렇게 말하지만, B 는 저렇게 말합니다"라고 갈등을 숨기지 말고 보여줘야 합니다.
다양성 보장: 인기 있는 사이트만 인용하지 말고, 작은 사이트도 골고루 인용해야 합니다.
정부 (규제자) 의 역할:
투명성 요구: AI 가 얼마나 자주 답변을 주는지, 어떤 정보를 인용하는지 정확한 보고서를 공개하게 해야 합니다.
공공 정보 보호: 건강, 선거, 재난 같은 중요한 정보는 AI 가 답만 주지 말고, 원래의 출처 링크를 반드시 보여줘야 합니다.
시민 (우리) 의 역할:
두 번 클릭의 법칙: 중요한 결정 (건강, 돈, 투표) 을 할 때는 AI 가 준 답을 믿기 전에, 최소 두 개의 원본 링크를 직접 확인하는 습관을 들여야 합니다.
출처 확인: AI 가 "이건 사실입니다"라고 해도, 그 출처가 신뢰할 만한 곳인지 스스로 판단해야 합니다.
💡 결론: "속도보다 진실이 중요합니다"
AI 검색은 정보를 찾는 속도를 비약적으로 높여주지만, 그 대가로 우리의 비판적 사고와 정보의 다양성을 잃을 위험이 있습니다.
이 연구는 우리에게 묻습니다. "정답을 바로 알려주는 편리함"과 "직접 찾아보고 검증하는 과정" 중 무엇을 선택할 것인가? 그리고 그 과정에서 어떤 규칙을 만들어야 할 것인가?
이제 우리는 AI 가 주는 '한 가지 목소리'에 귀를 기울이기보다, 그 뒤에 숨겨진 **수많은 목소리 (다양한 정보원)**를 다시 찾아야 할 때입니다.
1. 연구 배경 및 문제 제기 (Problem)
AI 검색의 급격한 확산: 전통적인 키워드 기반 검색에서 AI 가 생성한 요약 답변 (Synthesis) 을 제공하는 방식으로 검색 패러다임이 전환되고 있습니다. 구글의 'AI Overviews (AIO)', 오픈AI 의 'ChatGPT Search' 등이 대표적입니다.
투명성 부재와 정책의 불확실성: AI 검색 결과의 노출 여부는 사용자의 검색 습관이 아니라, 플랫폼 기업의 숨겨진 정책 결정에 의해 좌우됩니다. 특히 건강 (코로나), 정치, 금융 등 민감한 주제에서 어떤 정보가 노출되는지에 대한 정책 변화는 공개되지 않습니다.
정보 생태계 및 인간 판단에 대한 위협:
할루시네이션 (Hallucination): AI 가 사실과 다른 정보를 그럴듯하게 생성하는 문제가 심각합니다.
정보 다양성 감소: AI 가 특정 소스 (상위 트래픽 사이트) 에만 의존하여 '장기적 (Long-tail)' 정보원을 배제할 수 있습니다.
경제적 인센티브 붕괴: AI 요약으로 인해 원본 콘텐츠 사이트로의 클릭 (Zero-click) 이 감소하면, 정보 생산자의 수익 모델이 위협받아 정보 생태계 전체가 위축될 수 있습니다.
인지적 편향: 사용자가 AI 의 '단일 목소리'에 의존하게 되어 검증 습관이 약화되고, 확증 편향이 강화될 수 있습니다.
2. 연구 방법론 (Methodology)
이 연구는 2024 년과 2025 년에 걸쳐 전 세계적으로 수행된 대규모 종단 연구 (Longitudinal Study) 입니다.
데이터 수집 규모:
국가: 243 개 국가.
쿼리: 24,000 건의 실제 사용자 검색 쿼리 (실제 데이터셋에서 무작위 추출).
결과 생성: 280 만 건 이상의 검색 결과 (2024 년 12,000 건, 2025 년 12,000 건을 동일하게 반복 실행하여 플랫폼 정책 변화만 격리).
데이터 소스: Google Natural Questions, MSMARCO, Quora, Google Trends, Amazon Shopping Queries 등 9 가지 소스.
실험 설계:
통제 변수: 2024 년과 2025 년에 동일한 쿼리를 사용하여 사용자 행동의 변화를 배제하고, 플랫폼 정책과 기술 변화의 영향을 고립시켰습니다.
분석 대상: 국가별, 주제별 (Health, Covid, Shopping 등), 쿼리 스타일별 (질문, 진술, 탐색) AI 검색 노출률.
측정 지표 및 분석 기법:
노출률 분석: 로지스틱 회귀 분석 (Logistic Regression) 을 통해 국가, 쿼리 스타일, 주제가 AI 결과 노출에 미치는 영향력을 정량화했습니다.
정보 다양성 (Response Variety): SBERT(Sentence-BERT) 임베딩을 사용하여 검색 결과 내 정보의 의미적 다양성 (Information Uniqueness) 을 측정했습니다.
소스 특성 분석:
도메인 트래픽: Cisco Umbrella Top 1 Million 데이터를 기반으로 상위 1,000 개, 1 만~100 만 개, 100 만 개 이하 (Long-tail) 사이트 분포를 분석.
신뢰도 및 정치적 성향: Media Bias/Fact Check (MBFC) 데이터베이스를 활용하여 소스의 신뢰도 (High/Low) 와 정치적 성향 (Left/Center/Right) 을 매핑했습니다.
참조 링크 분석: AI 가 인용하는 링크의 정확성과 출처 다양성을 평가했습니다.
3. 주요 결과 (Key Results)
가. 글로벌 AI 검색 노출의 급격한 확대
국가별 확산: 2024 년에는 7 개 국가에서만 AI 검색이 노출되었으나, 2025 년에는 229 개 국가로 급격히 확대되었습니다.
예외 국가: 프랑스, 터키, 이란, 중국, 쿠바 등은 2025 년에도 AI 검색 결과가 노출되지 않는 등 국가별 정책적 배제가 존재합니다.
주제별 변화 (코로나 사례): 2024 년에는 코로나 관련 쿼리의 1% 만 AI 로 답변되었으나, 2025 년에는 **66%**로 급증했습니다 (5,600% 증가). 이는 바이든 행정부에서 트럼프 행정부 (제 2 기) 로의 정권 교체와 함께 '표현의 자유'를 명목으로 한 정책 변화 (Executive Order 14149) 가 AI 검색 노출에 직접적인 영향을 미쳤음을 시사합니다.
쿼리 스타일 영향: 질문형 쿼리는 60%, 진술형은 37%, 탐색형 (Navigational) 은 12% 의 AI 노출률을 보였으며, 2025 년에 모든 스타일에서 AI 노출이 크게 증가했습니다.
나. 정보 생태계 및 소스 다양성 변화
장기적 (Long-tail) 정보원 배제: AI 검색은 전통적 검색에 비해 상위 트래픽 사이트 (Top 1K) 에는 더 많이, 100 만 개 이하의 소규모 사이트에는 현저히 적게 링크합니다. 이는 정보 생산 시장의 집중화를 초래할 수 있습니다.
신뢰도 하락: AI 검색은 전통적 검색에 비해 신뢰도가 낮은 소스 (Low Credibility) 를 더 많이 인용하고, 고신뢰도 소스는 적게 인용하는 경향이 있습니다.
정치적 성향 편향: AI 검색은 좌파 (Left-leaning) 소스를 적게, 우파 (Right-leaning) 와 중도 (Center) 소스를 더 많이 인용하는 경향을 보였습니다.
정보 다양성 감소: AI 응답은 전통적 검색 결과에 비해 정보의 의미적 다양성 (Response Variety) 이 현저히 낮았습니다. 즉, AI 는 "단일 목소리"로 답변하여 다양한 관점을 제시하지 못합니다.
다. 인간 판단 및 행동에 미치는 영향
클릭 감소 (Zero-click): AI 요약이 등장할 때 사용자의 외부 링크 클릭률은 15% 에서 8% 로 감소했습니다. 이는 정보 생산자의 수익 모델을 위협합니다.
과신 (Over-reliance) 및 할루시네이션: AI 가 잘못된 정보를 인용하더라도 참조 링크가 포함되어 있으면 사용자의 신뢰도가 오히려 높아지는 현상이 관찰되었습니다. 특히 교육 수준이 낮거나 기술에 익숙하지 않은 사용자가 더 취약합니다.
인지적 습관 변화: 사용자가 여러 소스를 비교하는 '삼각측량 (Triangulation)' 습관 대신, AI 가 제공하는 '정답'을 신뢰하는 습관으로 전환되고 있습니다.
4. 주요 기여 (Key Contributions)
실증적 데이터의 제공: 전 세계 243 개국, 280 만 건의 검색 데이터를 통해 AI 검색의 실제 노출 규모와 정책적 변화를 최초로 정량화했습니다.
숨겨진 정책 결정의 규명: 플랫폼 기업이 민감한 주제 (코로나 등) 에 대해 언제, 어떻게 AI 검색을 켜거나 끄는지, 그리고 이것이 정치적 맥락과 어떻게 연결되는지를 입증했습니다.
정보 시장 구조 변화의 경고: AI 검색이 정보 생산의 경제적 인센티브를 훼손하고, 정보의 다양성을 감소시키며, 신뢰할 수 없는 소스를 확산시킬 수 있음을 실증적으로 보였습니다.
정책적 제언: 플랫폼, 규제 기관, 과학자, 소비자 등 4 주체별 구체적인 행동 방안 (Claim-level citations, 투명성 보고, 링크 아웃 플로어 등) 을 제시했습니다.
5. 의의 및 결론 (Significance)
이 연구는 AI 검색이 단순한 기술적 도구의 변화를 넘어, 인류의 의사결정, 정보 시장의 구조, 그리고 민주주의의 기반이 되는 '지식 시장 (Marketplace of Ideas)'을 근본적으로 재편하고 있음을 경고합니다.
경고: AI 검색의 빠른 확산은 검증 습관을 약화시키고, 오정보의 확산을 가속화하며, 정보 생산 생태계의 경제적 붕괴를 초래할 수 있습니다.
필요성: 기술의 발전 속도에 맞춰 **기술적, 경제적, 법적 안전장치 (Guardrails)**를 마련해야 합니다.
제안:
플랫폼: 주장별 인용 (Claim-level citations), 불확실성 표시, 소스 다양성 할당량 도입, 투명한 영향력 보고서 발간.
규제 기관: 답변 엔진 투명성 (AET) 보고서 의무화, 라이선스 및 저작권 보호 강화, 공공 이익 도메인에 대한 '링크 아웃 플로어' 설정.
과학계: 독립적인 측정 인프라 구축, 인과관계 기반 연구 강화.
소비자: AI 검색 리터러시 교육, '두 번 클릭' 규칙 등 검증 습관 함양.
결론적으로, AI 검색은 피할 수 없는 미래이지만, 그것이 어떻게 운영되어야 하는지에 대한 글로벌 논의와 정책적 개입이 시급히 필요합니다.