연구진은 인공지능에게 전 세계의 거리 사진을 보여주고 "이거 뭐야?"라고 물었습니다. 이때 "중립적인 입장에서 설명해 줘"라고 했을 때, 인공지능은 정말 중립적일까요?
비유: imagine(상상해 보세요) 인공지능이 전 세계 도시를 소개하는 여행 가이드입니다. 연구진은 이 가이드에게 "어떤 나라 출신인지 말하지 말고, 그냥 객관적으로 설명해 줘"라고 했습니다.
결과: 그런데 알고 보니, 이 가이드는 유럽과 북미 (서구권) 의 눈으로 세상을 보고 있었습니다.
유럽이나 미국 거리를 보여줬을 때의 설명이 '중립적인 기준'과 가장 비슷했습니다.
반면, 아프리카나 아시아, 남미 거리를 보여줬을 때는 설명이 훨씬 더 멀어졌습니다.
핵심: 인공지능에게 '중립'이란 사실 **'서구적인 기준'**이었습니다. 마치 지도에서 북쪽을 '위'라고 정해놓은 것처럼, 인공지능은 서구 문화를 '표준'으로 삼고 다른 문화는 '일탈'로 인식하고 있었습니다.
🎭 2. "너는 아프리카 사람인 척해" vs "너는 미국 사람인 척해"
연구진은 인공지능에게 "이제 너는 아프리카 사람인 척하며 이 거리를 설명해 봐"라고 주문했습니다. (이를 '프롬프트'라고 합니다.)
비유: 가이드에게 "이제 너는 아프리카 현지인이 되어 이 거리를 설명해 줘"라고 했더니, 가이드는 갑자기 자신만의 안경을 썼습니다.
현상:
인공지능은 자신이 속한 (혹은 연기하는) 지역의 장소를 더 긍정적으로 묘사했습니다. (예: "아프리카 사람인 척"할 때 아프리카 거리는 더 아름답고 안전해 보였습니다.)
하지만 이 변화는 단순히 '역할극'을 한 것뿐이었습니다. 인공지능은 여전히 서구적인 기준에서 완전히 벗어나지 못했고, 인간의 복잡한 감정과 다양성을 다 담아내지 못했습니다.
📉 3. 인공지능은 '단조로운 낙관주의'를 말합니다.
인간이 도시를 묘사할 때는 "이곳은 좀 시끄럽고, 낡았지만 정겨워"처럼 복잡하고 다양한 감정이 섞여 있습니다. 하지만 인공지능은 어떨까요?
비유: 인간이 도시를 묘사할 때 다채로운 물감을 섞어 그림을 그린다면, 인공지능은 분홍색 물감만 계속 섞어 그림을 그립니다.
결과:
인공지능은 어떤 도시를 묘사하든 너무나 긍정적입니다. ("이곳은 아름답고 안전해요!")
인간의 설명보다 단조롭고 반복적입니다. (다양한 뉘앙스가 사라짐)
심지어 "우리가 같은 지역 사람인데, 우리 동네가 더 좋아!"라고 자기 지역을 더 좋아하는 편견까지 보여주기도 했습니다.
📊 4. 숫자로도 같은 결과가 나옵니다. (안전, 부, 아름다움 점수)
단순히 글로 쓴 것뿐만 아니라, 인공지능에게 "이 거리의 안전 점수, 부자 점수, 아름다움 점수를 0~100 점으로 매겨줘"라고 했을 때도 같은 일이 벌어졌습니다.
비유: 인공지능에게 도시의 점수를 매기게 했더니, 서구권 도시는 중립 점수와 비슷하게 매겼지만, 비서구권 도시는 점수가 크게 흔들렸습니다.
현상:
특히 '안전'이나 '부' 같은 항목에서 문화적 편향이 가장 크게 나타났습니다.
인공지능은 인간의 판단을 완전히 따라갈 수 없었습니다. 남성과 여성, 혹은 다른 나라 사람들의 시각 차이를 구분해 내는 데는 실패했습니다.
💡 이 연구가 우리에게 주는 교훈
이 논문은 **"인공지능은 '아무도 아닌' (중립적인) 곳에서 도시를 보지 않는다"**라고 말합니다.
우리가 믿었던 것: "AI 는 데이터만 보고 중립적으로 판단할 거야."
사실: "AI 는 훈련된 데이터와 학습 과정을 통해 서구 중심의 문화적 안경을 쓰고 있습니다. 그래서 '중립'이라고 생각한 것도 사실은 편향일 수 있어요."
결론적으로: 우리가 인공지능을 도시 계획이나 분석에 쓸 때, "이 AI 는 중립적이니까 믿자"라고 생각하면 안 됩니다. AI 는 특정 문화권의 눈으로 세상을 바라보고 있습니다. 우리가 AI 를 사용할 때는 그 '안경'을 벗겨내고, 다양한 문화적 관점을 직접 채워넣어 주어야만 비로소 공정한 도시를 만들 수 있다는 것을 이 연구는 경고하고 있습니다.
논문 개요
이 연구는 대규모 언어 모델 (LLM) 이 도시 공간 (거리, Neighborhood, 도시) 을 기술하고 평가할 때, 과연 문화적으로 중립적인 관점을 취하는지, 아니면 특정 문화적 기준에 편향되어 있는지를 탐구합니다. 연구진은 전 세계의 스트리트 뷰 이미지를 활용하여 LLM 의 도시 인식 메커니즘을 분석한 결과, '중립적 (Neutral)'으로 설정된 프롬프트조차 실제로는 서구 (특히 유럽과 북미) 중심의 문화적 기준에 더 가깝게 작동한다는 것을 밝혔습니다.
1. 연구 문제 (Problem)
LLM 의 도시 인식 편향: LLM 이 도시를 설명하거나 평가할 때, 훈련 데이터와 정렬 (Alignment) 과정에서 문화적으로 불균형한 대표성 (Representational Baseline) 을 학습하고 재생산하는지 여부가 불명확합니다.
중립성의 환상: 현재 LLM 연구에서는 '중립적 프롬프트'가 문화적 편향 없이 보편적인 관점을 제공할 것이라고 가정하는 경향이 있습니다. 그러나 도시 인식은 가시적 형태뿐만 아니라 질서, 안전, 친숙함, 소속감에 대한 문화적 기대에 의해 형성되므로, 진정한 중립은 존재하지 않을 수 있습니다.
연구 간극: 기존 LLM 문화 편향 연구는 추상적인 텍스트에 의존하거나, 도시 인식 연구는 예측 정확도나 계획 도구로서의 유용성에 초점을 맞추어, LLM 이 실제 도시 이미지를 어떻게 문화적으로 해석하는지에 대한 심층적인 분석이 부족했습니다.
2. 방법론 (Methodology)
연구는 전 세계적으로 균형 잡힌 3,000 개의 스트리트 뷰 이미지를 기반으로 두 가지 주요 실험 (Study 1, Study 2) 을 수행했습니다. 사용된 모델은 GPT-5.2, Claude Sonnet 4, Gemini 2.5 Flash입니다.
데이터 및 프롬프트 설계
이미지 샘플: 구글 스트리트 뷰, 바이두 파노라마 등 다양한 소스의 이미지를 통합하여, 시각적 장면 유형, 장소 유형, 국가, 제공자별로 층화 추출 (Stratified Sampling) 한 3,000 개 이미지 세트를 구성했습니다.
프롬프트 조건: 각 이미지에 대해 8 가지 조건으로 평가를 수행했습니다.
중립 조건 (Neutral): 지역적 정체성이 명시되지 않은 기본 프롬프트.
문화적 프롬프트 (7 가지): 유엔 SDG 지역 분류에 기반한 메조 (Meso) 지역 정체성 (유럽 및 북미, 중앙 및 남아시아, 북아프리카 및 서아시아, 동아시아 및 동남아시아, 사하라 이남 아프리카, 라틴아메리카 및 카리브해, 오세아니아). 모델에게 해당 지역의 문화적 배경을 가진 사람으로 역할을 수행하게 하거나 맥락을 부여했습니다.
실험 설계
Study 1: 개방형 인식 (Open-ended Perception)
모델이 이미지 기반의 짧은 자유 텍스트 설명을 생성하도록 유도했습니다.
분석 지표:
의미적 거리 (Semantic Distance): 각 문화적 프롬프트와 중립 프롬프트 간의 임베딩 공간에서의 코사인 거리.
내집단 선호도 지수 (IPI, Ingroup Preference Index): 특정 지역의 프롬프트가 해당 지역 이미지를 얼마나 긍정적으로 평가하는지 다른 프롬프트와 비교하여 산출.
영국 (Geograph) 벤치마크: 영국 내 인간이 작성한 텍스트 - 이미지 쌍과 LLM 출력의 의미적 거리 및 다양성 비교.
Study 2: 구조화된 판단 (Structured Judgments)
모델이 6 가지 차원 (안전함, 활기차움, 부유함, 아름다움, 지루함, 우울함) 에 대해 0~100 점의 점수를 매기도록 했습니다.
분석 지표:
Place Pulse 기반 정합성: 기존 인간 인식 데이터로 훈련된 머신러닝 모델 (Place Pulse) 과의 상관관계 분석.
쌍별 재현 (Pairwise Replication): 인간 하위 집단 (성별, 연령, 국가) 간의 차이 순서를 LLM 이 얼마나 정확히 재현하는지 검증.
3. 주요 결과 (Key Results)
가. 중립적 기준의 문화적 불균형성 (Uneven Neutral Baseline)
중립은 중립이 아님: 모든 모델에서 '중립' 프롬프트는 문화적으로 불변하는 기준이 아니었습니다. 유럽 및 북미 (ENA) 지역 프롬프트가 중립 조건과 의미적으로 가장 가까웠으며 (평균 코사인 거리 0.137), 라틴아메리카/카리브해나 오세아니아는 가장 멀었습니다.
의미적 공간의 비대칭성: PCA 분석 결과, 문화적 프롬프트는 무작위로 분산되지 않고 중립점을 기준으로 구조화된 경로를 따라 이동했습니다. 이는 LLM 의 도시 인식이 보편적이지 않고 문화적으로 불균형한 참조 프레임에 조직되어 있음을 시사합니다.
지역적 선호: 특정 지역의 프롬프트는 해당 지역의 장소를 다른 프롬프트보다 더 긍정적으로 평가하는 경향 (IPI) 을 보였습니다. 특히 사하라 이남 아프리카, 중앙/남아시아 등에서 강한 자기 선호 경향이 관찰되었습니다.
영국 벤치마크 비교: 문화적으로 근접한 프롬프트 (예: UK 프롬프트) 를 사용하면 인간 텍스트와의 의미적 거리가 줄어들어 정합성이 향상되었으나, 인간의 다양성 (Semantic Diversity) 을 회복하지는 못했습니다. LLM 출력은 인간 텍스트보다 훨씬 더 압축적이고 (Compressed), 전반적으로 더 긍정적인 감정 점수를 보였습니다.
다. 구조화된 판단의 재현 (Structured Judgments)
편향의 재현: 개방형 텍스트뿐만 아니라 안전, 부유함, 아름다움 등 6 가지 점수 평가에서도 동일한 문화적 비대칭성이 나타났습니다. 유럽/북미 프롬프트가 중립과 가장 가깝게 유지된 반면, 사하라 이남 아프리카 등 비서구 지역 프롬프트는 중립에서 가장 큰 편차를 보였습니다.
차원별 민감도: '부유함'과 '안전함' 평가가 문화적 정체성 프롬프트에 가장 민감하게 반응했습니다.
인간 차이의 재현 한계: LLM 은 성별이나 연령에 따른 인간 평가 차이를 어느 정도 모방할 수 있었으나, 국가 (Country) 기반의 차이를 재현하는 데는 실패했습니다. 국가 간 인간 평가 차이의 순서를 LLM 이 정확히 따라가는 비율은 매우 낮았습니다.
4. 주요 기여 (Key Contributions)
중립성의 재정의: LLM 연구에서 '중립적 프롬프트'가 사실은 서구 중심의 문화적 기준을 내포하고 있음을 실증적으로 증명했습니다. 편향은 단순히 중립 위에 덧입혀진 왜곡이 아니라, 기준 자체 (Baseline) 에 내재되어 있습니다.
도시 인식의 문화적 메커니즘 규명: LLM 이 도시를 인식할 때 시각적 정보뿐만 아니라 문화적 맥락 (프롬프트) 에 따라 의미적 거리와 감정적 평가가 체계적으로 변화함을 보여주었습니다.
벤치마크 및 방법론 제안: 전 세계 스트리트 뷰를 활용한 균형 잡힌 데이터셋과, 개방형 텍스트와 구조화된 점수를 결합한 이중 검증 프레임워크를 제시했습니다.
실무적 함의: 도시 분석, 계획 지원, AI 지원 설계 분야에서 LLM 을 사용할 때, '중립적'으로 보이는 출력이 사실은 특정 문화적 관점을 반영할 수 있음을 경고하며, 교차 문화적 적용 시 주의가 필요함을 강조했습니다.
5. 의의 및 결론 (Significance & Conclusion)
이 연구는 **"LLM 은 '아무 곳 (view from nowhere)'에서 도시를 인식하지 않는다"**는 결론을 내립니다. 대신 LLM 은 **문화적으로 조직된 사전 지식 (Priors)**을 통해 도시를 해석하며, 이 기준은 유럽과 북미 중심의 불균형한 구조를 가지고 있습니다.
기술적 함의: LLM 의 편향 해소를 위해 단순히 프롬프트를 조정하는 것만으로는 부족하며, 훈련 데이터와 정렬 과정 자체의 문화적 불균형을 해결해야 함을 시사합니다.
사회적 함의: 도시 계획이나 정책 수립에 LLM 을 활용할 경우, 특정 문화적 관점이 '보편적 사실'로 잘못 해석될 위험이 큽니다. 특히 비서구 지역의 도시를 평가할 때 이러한 편향이 심화될 수 있습니다.
결론적으로, 대규모 언어 모델은 문화적으로 중립적인 도구가 아니라, 훈련된 데이터와 정렬 과정을 통해 형성된 문화적으로 불균형한 기준을 통해 도시를 인식하고 평가하는 기술적 사회 시스템입니다.