Large language models create an uneven informational layer over cities
이 연구는 거대 언어 모델이 디지털 정보가 희박한 지역에서는 장소를 체계적으로 조작하고 실제 사업체의 거의 절반을 선택적으로 무시함으로써 도시 위에 불균형적인 정보 층을 형성하며, 이를 통해 독립적인 식당에 유리한 방식으로 경제적 가시성과 수익을 재분배하는 동시에 다양한 동네와 사용자 인구 통계 전반에 걸쳐 도시 불평등을 심화시킨다는 사실을 밝혀낸다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
도시를 거대하고 북적이는 시장이라고 상상해 보십시오. 오랫동안, 무언가를 먹을 곳을 찾으려면 자신의 기억이나 물리적인 지도, 혹은 다른 사람들이 작성한 리뷰 목록에 의존해야 했습니다. 이러한 도구들은 설령 어떤 장소가 목록의 맨 아래에 있더라도, 존재하는 모든 것을 보여주었습니다. 여러분은 스크롤을 내려 숨겨진 보석 같은 곳, 체인점, 그리고 현지인들이 즐겨 찾는 곳을 모두 볼 수 있었습니다.
이제, 이 시장 위에 새로운 투명한 유리 층이 놓였다고 상상해 보십시오. 이 유리는 우리가 "보스턴에서 어디서 먹는 게 좋을까?"와 같은 질문을 던질 때 사용하는 스마트한 AI 챗봇인 **거대 언어 모델(LLM)**로 만들어졌습니다.
이 논문은 우리가 이 새로운 유리를 통해 도시를 바라볼 때 어떤 일이 일어나는지를 조사합니다. 연구진은 이 유리가 단순히 도시를 보여주는 것이 아니라, 종종 불공정하고 불균형한 방식으로 도시를 재형성한다는 사실을 발견했습니다. 연구 결과는 다음과 같이 쉬운 개념들로 나누어 설명할 수 있습니다.
1. "유령" 식당 (가짜를 만들어냄)
때때로 AI에게 식당을 물어보면 실제로 존재하지 않는 곳을 지어내기도 합니다.
- 비유: 이는 마치 조용하고 작은 동네에 대해 질문을 받았을 때, 지어진 적도 없는 화려한 카페를 자신 있게 가리키는 가이드와 같습니다.
- 발견된 사실: AI는 가난하거나 인구가 적거나 온라인상의 정보가 적은 동네에서 이러한 "유령" 식당을 가장 자주 만들어냅니다. 만약 어떤 동네가 "디지털 발자국"(리뷰가 적거나 방문객이 적음)이 약하다면, AI는 그곳에 가짜 장소를 만들어낼 가능성이 더 높습니다.
- 해결책: 연구진이 AI에게 오직 실제 식당 목록 중에서만 선택하도록 강제했을 때, 가짜 식당들은 사라졌습니다. 이는 AI가 나쁜 의도를 가져서가 아니라, 적절한 데이터를 가지고 있지 않아 추측했기 때문임을 의미합니다.
2. "보이지 않는" 식당 (실제 있는 것들을 무시함)
AI가 실제 식당 목록 중에서 선택하도록 강제되었을 때조차, AI는 여전히 엄청난 수의 식당을 무시합니다.
- 비유: 100가지 요리가 있는 메뉴판을 상상해 보십시오. AI는 누가 묻든 상관없이 모두에게 단 3~4가지만 추천합니다. 나머지 96가지 요리는 마치 존재하지 않는 것처럼 완전히 보이지 않게 됩니다.
- 발견된 사실: 실제 식당의 약 **47.5%**가 AI가 그 존재를 알고 있음에도 불구하고 한 번도 추천되지 않았습니다. 이것은 단순한 실수가 아니라 하나의 패턴입니다. AI는 특정 유형의 장소, 특히 특정 동네에 있는 장소들을 지속적으로 무시합니다.
- 공통된 사각지대: 연구진은 서로 다른 회사의 세 가지 AI 모델을 테스트했습니다. 그 결과, 무시된 식-당 중 **31.9%**가 세 모델 모두에서 동일한 곳이라는 것을 발견했습니다. 이는 편향이 한 회사의 코드 오류가 아니라, 동일한 인터넷 데이터 풀에서 학습된 공통된 습관임을 시사합니다.
3. "개인화된" 렌즈 (사람마다 다른 도시)
가장 놀라운 부분은 사람들이 같은 장소에 서 있더라도, AI가 사람마다 다른 도시를 보여준다는 점입니다.
- 비유: 두 사람이 같은 길모퉁이에 서 있다고 상상해 보십시오. 한 명은 부유한 관광객이고, 다른 한 명은 소득이 낮은 현지 주민입니다.
- 부유한 관광객에게는 덜 붐비고 멀리 떨어져 있는 비싸고 트렌디한 장소들이 보여집니다.
- 현지 주민에게는 저렴하고 매우 인기 있으며 가까운 곳들이 보여집니다.
- 어린이에게는 주류의 저렴한 장소들이 보여집니다.
- 남성과 여성 또한 약간씩 다른 유형의 장소들을 보게 됩니다.
- 발견된 사실: AI는 단순히 답을 하는 것이 아니라, 여러분의 설명을 바탕으로 당신이 누구인지 추측한 뒤, 당신 같은 사람들이 보통 무엇을 좋아하는지에 맞춰 세상을 필터링합니다. AI는 부유한 사람들은 독특한 음식을 위해 멀리 여행하는 것을 좋아하고, 현지인들은 익숙하고 저렴한 곳에 머무를 것이라고 가정합니다.
4. 경제적 파급 효과 (누가 이기고 누가 지는가)
만약 모든 사람이 이러한 AI 추천을 신뢰하기 시작한다면, 도시의 돈의 흐름은 달라질 것입니다.
- 비유: 도시의 경제를 물이 흐르는 파이프라고 생각해 보십시오. AI는 물의 흐름을 재지정하는 밸브 역할을 합니다.
- 발견된 사실: AI는 사람들을 패스트푸드 체인(맥도날드 등)과 퀵 서비스 카페로부터 멀어지게 하고, 독립적인 풀 서비스 레스토랑(현지 식당 등)으로 유도하는 경향이 있습니다.
- 독립적인 레스토랑은 더 많은 고객과 수익을 얻을 가능성이 높습니다.
- 대형 체인은 상당한 매출 손실을 입을 것입니다.
- 가격에 민가운 고객들에게 서비스를 제공하는 패스트푸드 업종이 가장 큰 손실을 볼 것입니다.
종합적인 관점
이 논문은 결론적으로 이 AI 모델들이 우리 도시를 위한 선택적 필터 역할을 하고 있다고 말합니다. AI는 단순히 무엇이 있는지 보여주는 것이 아니라, 무엇이 보이게 될지를 결정하고 있습니다.
- 장소에 대하여: 만약 식당이 가난한 동네에 있거나 온라인 리뷰가 적다면, AI는 그곳이 존재하지 않는 것처럼 취급할 수 있습니다.
- 사람에 대하여: AI는 사람들이 어디를 가는지에 대한 고정관념을 강화하여, 잠재적으로 서로 다른 집단들이 도시의 각자의 "버블(거품)" 안에 머물도록 만들 수 있습니다.
저자들은 우리가 이러한 도구에 너무 많이 의존하게 된다면, 어떤 동네나 어떤 유형의 사업체가 나빠서가 아니라, 단지 AI가 보여주지 않기로 결정했다는 이유만으로 보이지 않게 되는 도시를 의도치 않게 만들 수 있다고 경고합니다. 이는 우리의 물리적인 거리 위에 덧씌워진 새로운 종류의 "디지털 불평등"입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.