AI and the Transformation of Accountability and Discretion in Urban Governance

이 논문은 인공지능이 도시 거버넌스에서 재량권과 책임의 관계를 단순히 제한하거나 강화하는 것이 아니라 제도와 역할 간에 재분배하며, 이에 따른 새로운 위험을 극복하기 위해 '책임 있는 재량권' 개념과 실행 가능한 원칙들을 제안합니다.

핵심

이 논문은 **"인공지능 (AI) 이 도시를 다스리는 방식과 공무원들의 권한을 어떻게 바꾸고 있는지"**에 대해 이야기합니다.

기존에는 "공무원이 자유롭게 판단할 수 있는 권한 (재량권)"과 "그 권한을 누가 감시하고 책임지는가 (책임성)"는 서로 충돌하는 관계라고 생각했습니다. 마치 저울처럼, 한쪽이 올라가면 다른 쪽이 내려가야 한다고 믿었죠.

하지만 이 논문은 AI 가 등장하면서 이 저울이 새로운 형태로 변했다고 주장합니다. AI 는 단순히 공무원의 손을 묶는 것이 아니라, **재량권과 책임성을 동시에 늘려주는 '마법 지팡이'**가 될 수 있다는 것입니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴겠습니다.

---

1. 핵심 비유: "스마트한 조수"와 "투명한 유리벽"

이 논문의 핵심 아이디어를 이해하기 위해 도시를 운영하는 큰 식당을 상상해 보세요.

• 전통적인 방식 (과거):

  • 주방장 (공무원): 손님이 주문하면 메뉴를 보고 재료를 고르고 요리를 합니다. 이때 "오늘은 비가 오니까 국을 더 진하게 만들자" 같은 **자신의 판단 (재량)**을 많이 썼습니다.
  • 문제점: 주방장이 너무 자유롭게 요리하면, 손님이 "왜 이 국은 짜고 저 국은 싱겁지?"라고 불평할 수 있습니다. 사장님 (시민/감시자) 은 주방장이 뭘 했는지 알기 어렵습니다.
  • 해결책 (과거): 사장님이 "국물은 무조건 이 레시피대로!"라고 엄격한 규칙을 정했습니다. 하지만 이렇게 되면 비 오는 날에도 국이 짜고, 손님의 특별한 요청도 들어줄 수 없게 됩니다.

• AI 가 들어온 새로운 방식 (현재):

  • AI 조수: 이제 주방장 옆에 AI 조수가 생겼습니다.
    • AI 는 "지난달에 비가 올 때 손님이 국을 더 좋아했어요"라고 데이터를 알려줍니다.
    • AI 는 "이 재료는 오늘 신선하지 않으니 다른 걸 쓰세요"라고 경고합니다.
  • 변화된 주방장 (재량권): 이제 주방장은 단순한 반복 작업 (재료 씻기 등) 을 AI 에게 맡기고, **손님의 기분과 날씨를 고려한 '창의적인 요리'**에 집중할 수 있습니다. 즉, 더 똑똑한 판단을 할 수 있게 됩니다.
  • 변화된 사장님 (책임성): 사장님은 주방장의 모든 요리 과정을 투명한 유리벽을 통해 실시간으로 볼 수 있습니다. "왜 이 재료를 썼지?"라고 물어보면 AI 가 "지난달 데이터에 따르면 이 조합이 가장 만족도가 높았습니다"라고 이유를 설명해 줍니다.

결론: AI 는 주방장에게 더 많은 창의적 권한을 주면서도, 사장님에게는 더 투명한 감시를 가능하게 합니다. 둘 다 늘어나는 것입니다.

---

2. AI 가 가져온 3 가지 변화 (세 가지 책임)

이 논문은 도시 관리에서 세 가지 종류의 '책임'이 어떻게 변하는지 설명합니다.

① 상사에게 대한 책임 (정치적 책임)

• 비유: 식당의 감시 카메라.
• 이전: 상사는 주방장이 뭘 했는지 나중에 보고서로만 알 수 있었습니다.
• 이제: AI 는 모든 결정 과정을 실시간으로 기록합니다. "왜 이 구역을 청소했지?"라고 물으면 AI 가 "이곳에 쓰레기가 쌓일 확률이 90% 였습니다"라고 즉시 보여줍니다.
• 효과: 상사는 더 정확하게 감시할 수 있지만, 너무 감시하면 주방장이 두려워져서 창의적인 요리를 못 할 수도 있습니다. 균형이 중요합니다.

② 동료 전문가에 대한 책임 (전문적 책임)

• 비유: 요리사들의 레시피 공유.
• 이전: 각 주방장이 자기 방식대로 요리를 해서 맛의 편차가 컸습니다.
• 이제: AI 가 "이 재료 조합이 가장 안전하고 맛있습니다"라고 추천합니다. 모든 주방장이 이 기준을 공유하면 맛의 편차가 줄고 (공정성), 실수가 줄어듭니다.
• 효과: 하지만 AI 가 무조건 옳다고 믿으면, 주방장의 직관과 경험이 사라질 수 있습니다. AI 는 '조언자'일 뿐, 최종 결정은 **사람 (주방장)**이 해야 합니다.

③ 손님 (시민) 에 대한 책임 (참여적 책임)

• 비유: 손님이 직접 메뉴판을 보고 요리사를 평가하는 앱.
• 이전: 손님은 "요리가 왜 이렇게 느리지?"라고 불평할 뿐, 왜 느린지 알 수 없었습니다.
• 이제: AI 챗봇이 "지금 주문이 많아서 10 분 기다려야 합니다"라고 친절하게 설명하고, 손님은 "그럼 다음엔 미리 주문할게요"라고 피드백을 줄 수 있습니다.
• 효과: 시민들이 도시 운영을 더 잘 이해하고 감시할 수 있게 됩니다. 하지만 디지털을 못 쓰는 분들은 소외될 수 있으니, 모두가 쓸 수 있게 도와야 합니다.

---

3. AI 를 잘 쓰기 위한 5 가지 원칙 (요리사의 매뉴얼)

이 논문은 도시가 AI 를 잘 활용하기 위해 지켜야 할 5 가지 규칙을 제안합니다.

1. 모두에게 똑같은 도구 주기 (형평성):
   • AI 를 잘 쓰는 사람과 못 쓰는 사람 사이에 격차가 생기면 안 됩니다. 모든 공무원과 시민에게 AI 사용법을 가르쳐야 합니다.
2. 유연한 조직 만들기 (적응성):
   • "이 일은 A 가, 저 일은 B 가 한다"는 딱딱한 규칙을 버리고, AI 시대에 맞춰 역할을 유연하게 바꿀 수 있어야 합니다.
3. 데이터를 깨끗하게 관리 (데이터 거버넌스):
   • AI 는 '쓰레기'를 넣으면 '쓰레기'를 냅니다. 시민의 개인정보를 안전하게 지키고, 데이터가 정확해야 합니다.
4. 사람이 최종 결정권자 (인간 중심):
   • AI 가 "이 사람을 체포하세요"라고 해도, 사람이 다시 한번 생각해서 결정해야 합니다. AI 는 조수일 뿐, 주인은 사람입니다.
5. 시민과 함께 감시하기 (참여):
   • AI 가 어떻게 작동하는지 시민에게 쉽게 설명하고, 시민의 의견을 듣고 시스템을 고쳐야 합니다.

---

4. 요약: 이 논문이 말하고 싶은 것

"AI 는 도시를 다스리는 공무원들의 손을 묶는 족쇄가 아니라, 더 똑똑하고 투명한 판단을 돕는 날개입니다."

하지만 날개를 달려면 **안전장비 (윤리, 데이터 보호, 교육)**를 잘 챙겨야 합니다. AI 가 모든 것을 대신하게 두면 안 되지만, AI 를 두려워해서 쓰지 않는 것도 아닙니다. 사람과 AI 가 서로 도와가면서 (협업), 더 공정하고 효율적인 도시를 만들어가자는 것이 이 논문의 핵심 메시지입니다.

기술 요약

논문 개요

이 논문은 인공지능 (AI), 특히 생성형 AI(GenAI) 와 대화형 AI 시스템이 도시 거버넌스 내에서 관료의 **재량권 (Discretion)**과 책임성 (Accountability) 사이의 관계를 어떻게 근본적으로 재구성하는지에 대한 개념적 분석을 제공합니다. 기존의 논의가 재량권과 책임성을 상충 관계 (Trade-off) 로 보던 관점을 넘어, AI 가 이 두 요소를 동시에 강화하고 재분배할 수 있는 역동적인 관계로 전환시킨다는 점을 주장합니다.

1. 연구 문제 (Problem)

• 기존의 딜레마: 전통적인 공공행정 이론에서 재량권 (관료의 상황 판단에 따른 결정 권한) 과 책임성 (결정에 대한 설명 의무) 은 종종 상충되는 관계로 간주되었습니다. 재량권이 커지면 표준화된 감시가 어려워지고, 반대로 책임성을 강화하기 위해 규칙을 엄격히 하면 관료의 유연한 대응 능력이 저하된다는 논리였습니다.
• AI 의 등장과 새로운 과제: AI 기술의 도입이 단순히 재량권을 축소 (자동화) 하거나 확대 (지원) 하는지 여부에 대한 논의는 존재했으나, AI 가 제도적 수준, 전문적 역할, 시민 상호작용 사이에서 재량권을 어떻게 '재분배 (Redistribute)'하는지, 그리고 이로 인해 책임성의 형태가 어떻게 변모하는지에 대한 포괄적인 이론적 틀이 부족했습니다.
• 기술적 위험: 알고리즘의 불투명성 (Black box), 데이터 편향, 책임 소재의 모호함, 그리고 관료의 과도한 자동화 의존 (Automation bias) 등의 새로운 위험이 대두되었습니다.

2. 연구 방법론 (Methodology)

• 개념적 분석 (Conceptual Analysis): 이 연구는 실증 데이터 수집보다는 공공행정 이론 (Lipsky 의 거리 수준 관료제 등) 과 알고리즘 거버넌스 연구를 결합한 이론적 분석에 기반합니다.
• 사례 연구 (Illustrative Cases): 논리적 주장을 뒷받침하기 위해 실제 도시 거버넌스 및 공공행정 분야의 사례들을 분석합니다.
  • 스페인 SALER 시스템: 공공 조달의 비정상성 탐지 알고리즘.
  • 덴마크 AI 지원 고용 서비스: 실업 위험 예측 및 개입 제안.
  • 스웨덴 자동화 사회보장 관리: 로봇 프로세스 자동화 (RPA) 를 활용한 사례 관리.
  • 브라질 환경 군사 경찰: 데이터 기반 감시 및 순찰 최적화.
  • 노르웨이 및 유럽 지자체 챗봇: 시민 참여 및 정보 접근성 개선.
• 이론적 프레임워크 확장: 재량권과 책임성의 관계를 '영합적 관계 (Positive-sum game)'로 재정의하고, 이를 정치적, 전문적, 참여적 책임성이라는 세 가지 차원에서 분석합니다.

3. 주요 기여 (Key Contributions)

1. 재량권의 재분배 (Repositioning of Discretion): AI 는 인간의 재량권을 완전히 대체하는 것이 아니라, 단순 반복 업무를 자동화함으로써 관료가 복잡하고 맥락에 민감한 의사결정에 집중할 수 있도록 재량권을 '재배치'한다고 주장합니다.
2. 책임 있는 재량권 (Accountable Discretion) 개념 도입: AI 를 통해 재량권이 확대되더라도 책임성이 훼손되지 않도록 하는 새로운 개념을 제시합니다. 이는 AI 가 제공하는 데이터 기반 통찰을 바탕으로 관료가 더 정보에 입각하고, 추적 가능하며, 반성적인 판단을 내리는 상태를 의미합니다.
3. 책임성의 다층적 재해석:
   • 정치적 책임성: AI 를 통한 실시간 모니터링과 데이터 기반 감시로 상향식 통제 (Top-down oversight) 가 강화되지만, 이는 관료의 자율성을 위협할 수도 있음.
   • 전문적 책임성: AI 가 표준화된 프로세스를 제공하여 편향을 줄이고 일관성을 높임으로써 전문성을 강화할 수 있음.
   • 참여적 책임성: AI 기반 챗봇과 오픈 데이터를 통해 시민이 정부 활동을 더 쉽게 이해하고 감시할 수 있는 환경 조성.
4. 기술적·제도적 도약: AI 의 윤리적 통합을 위한 기술적 해법 (설명 가능성 등) 뿐만 아니라, 이를 뒷받침할 제도적 장치의 필요성을 강조합니다.

4. 연구 결과 및 제안 (Results & Guiding Principles)

논문은 AI 를 통한 도시 거버넌스의 책임 있는 재량권을 실현하기 위해 **5 가지 핵심 원칙 (Guiding Principles)**을 제안합니다.

원칙	핵심 내용	실행 방안 (Actionable Measures)
1. 공평한 AI 배포 (Equitable AI Deployment)	기술 격차로 인한 불평등 심화 방지. 모든 직급과 시민이 AI 혜택을 균등하게 누려야 함.	조직 전체 역량 감사, 역할별 AI 리터러시 교육, 멘토링 프로그램, 디지털 인프라 접근성 보장.
2. 적응적 행정 프레임워크 (Adaptive Administrative Frameworks)	경직된 공무원 채용 규정과 노조 협정이 AI 도입을 저해하지 않도록 유연성 확보.	직무 기술서 재설계 (AI 관리 책임 포함), 부서 간 태스크포스/스쿼드 구성, 실험적 샌드박스 도입, 혁신을 장려하는 평가 체계.
3. 견고한 데이터 거버넌스 (Robust Data Governance)	투명하고 공정한 AI 의 기반이 되는 데이터 품질과 윤리 확보.	개인정보 보호 설계 (Privacy-by-design), 데이터 품질 감사, 상호운용성 표준 (Open API) 채택, 데이터 관리 팀 구성.
4. 능동적 인간 판단 및 제도적 메커니즘 (Proactive Human Judgment)	AI 가 인간을 대체하지 않고 보조하도록 하며, 최종 결정권은 인간에게 유지.	'Human-in-the-loop' 가이드라인 명확화, 알고리즘 영향 평가 (AIA), 모델 카드/데이터시트 문서화, 이의 제기 및 오버라이드 채널 구축.
5. 시민 감시 참여 (Citizen Oversight)	시민이 알고리즘 시스템의 설계와 모니터링에 참여하여 투명성과 신뢰 확보.	비기술적 AI 요약 정보 공개 (대시보드), 챗봇을 통한 피드백 수집, 지역사회 단체 (CBO) 와의 파트너십, 다국어 인터페이스 제공.

5. 의의 및 시사점 (Significance)

• 이론적 의의: 재량권과 책임성의 관계를 제로섬 게임 (Zero-sum game) 이 아닌, AI 시스템과 제도적 실천에 의해 형성되는 역동적이고 진화하는 관계로 재정의했습니다. 이는 AI 거버넌스 연구에서 '거리 수준 관료 (Street-level bureaucrat)'의 인지된 재량권에만 초점을 맞추던 기존 연구의 한계를 넘어, 시스템 전체의 재량권 재분배를 조명했습니다.
• 실무적 의의: 도시 정부와 공공기관이 AI 도입 시 단순한 기술 도입을 넘어, 제도적 설계, 윤리적 통제, 역량 강화를 포함한 포괄적인 거버넌스 전략을 수립해야 함을 시사합니다.
• 미래 연구 방향: 제안된 '책임 있는 재량권' 개념을 검증하기 위해, 관료의 의사결정 범위 (Decision latitude) 와 투명성/정당성 (Transparency and justification) 에 초점을 맞춘 실증 연구 (혼합 방법론) 의 필요성을 강조했습니다.

결론

이 논문은 AI 가 도시 거버넌스에서 단순히 효율성 도구가 아니라, 재량권과 책임성의 관계를 재편하는 거버넌스 프로젝트임을 강조합니다. AI 를 통해 관료는 더 많은 정보와 통찰력을 바탕으로 재량권을 행사할 수 있게 되지만, 동시에 새로운 형태의 감시와 윤리적 통제 하에 놓이게 됩니다. 성공적인 전환을 위해서는 기술적 능력 강화, 유연한 행정 구조, 투명한 데이터 관리, 인간의 주도적 판단, 그리고 시민의 적극적인 참여가 결합된 통합적 접근이 필수적입니다.