기술 요약: 알고리즘-인간 관리자: 인도 긱 경제의 AI, 앱, 그리고 노동자들

1. 문제 제기

본 논문은 인도의 급성장하는 블루칼라 긱 경제(gig economy)에 미치는 인공지능(AI)과 디지털 기술의 심대하고 이중적인 영향을 다룬다. 이러한 기술들은 전례 없는 효율성을 실현하고 새로운 고용 기회를 창출했지만, 동시에 노동자의 권리, 복지 및 존엄성에 관한 복잡한 구조적 과제를 도입했다.

식별된 핵심 문제는 "알고리즘-인간 관리자(Algorithmic-Human Manager)" 역학이다. 플랫폼은 작업 할당, 성과 모니터링, 임금 결정을 위해 알고리즘을 활용하지만, 노동자들은 이러한 결정이 인간에 의해 내려진다고 인식하며, 이는 근본적인 권력 불균형을 초래한다. 이러한 불투명성은 다음과 같은 상황을 초래하여 '구조적 폭력' 상태를 만든다:

• 알고리즘의 불투명성: 작업이 어떻게 할당되는지 또는 급여가 어떻게 계산되는지 이해할 수 없음.
• 소득 은폐(Income Obfuscation): 일방적인 요율 변경과 자의적인 벌금으로 인해 주간 수입이 무효화됨.
• 적정 절차(Due Process)의 결여: 챗봇과 같은 자동화된 고충 처리 시스템이 계정 정지나 지급 분쟁과 같은 복잡한 문제를 해결하지 못해, 노동자들이 항소할 수 있는 유의미한 통로가 부재함.
• 불안정성(Precariousness): 교통, 날씨, 또는 인프라 결함과 같은 현실 세계의 변수를 무시하는 경직되고 비적응적인 알고리즘 목표치로 인해 유연성과 자율성이 침식됨.

본 논문은 사회보장법(2020)을 포함한 현재의 규제 환경이 파편화되어 있으며, 플랫폼 매개 노동의 독특한 과제들을 해결하기에는 대체로 실행력이 미비하다고 주장한다.

2. 방법론

본 연구는 존 롤스의 "공정으로서의 정의(차등 원칙)"를 기반으로 한 사회 정의 프레임워크를 활용하여, AI 기반의 배치가 가장 불리한 처지에 있는 긱 노동자들의 지위를 개선하는지 평가하는 **혼합 방법론(mixed-methods approach)**을 채택한다.

• 1차 연구:
  • 노동자 인터뷰: 뉴델리-NCR 및 벵갈루루 지역의 승차 공유, 음식/식료품 배달, 홈 서비스 분야의 블루칼라 긱 노동자 16명을 대상으로 심층 반구조화 인터뷰를 실시하였다. 노동자들의 생생한 경험, AI에 대한 인식, 일상적 업무 관행을 포착하기 위해 현지 언어(힌디어/칸나다어)를 사용하여 대면(일부는 전화)으로 진행되었다.
  • 이해관계자 인터뷰: 플랫폼 경영진, 산업 리더, 시민 사회 활동가, 정책 입안자를 포함한 21명의 주요 이해관계자와 협의를 진행하였다. 이 논의는 AI 도입의 근거, 노동자 성과, 공정성 안전장치 및 미래 기술 요구 사항에 초점을 맞추었다.
• 2차 연구: 기존 문헌, 정책 문서(NITI Aayog 보고서, 주 정부 법안 등), 그리고 저자가 인도 긱 플랫폼에서 근무했던 경험을 분석하였다.
• 관찰 현장 조사: 연구자들은 "다크 스토어(dark stores)"와 배달 경로 등 운영 현장에서 노동자들을 관찰하여 인간의 노동과 자동화된 시스템 간의 상호작용을 목격하였다.

3. 주요 기여 및 발견

A. "알고리즘-인간 관리자" 현상

본 논문은 인도의 하이브리드 거버넌스 현실을 설명하기 위해 "알고리즘-인간 관리자"라는 용어를 도입한다. 알고리즘이 업무를 경로 지정하고 최적화하지만, 노동자들은 인간 팀이 궁극적으로 규칙을 통제한다고 믿는다. 이러한 인식은 시스템의 불투명성에서 비롯되며, 노동자들은 자신들의 생계를 규정하는 알고리즘을 이해하지 못할 뿐만 아니라 신뢰하지도 못한다.

B. 노동자의 인식 및 경험

• 기회인가 선택인가: 긱 노동은 선호하는 선택이라기보다 실업에 따른 차선책인 경우가 많다. 플랫폼은 접근성을 확대하지만, 동시에 의존성을 창출한다.
• 통제의 도구로서의 앱: 노동자들은 앱을 권한을 부여하는 도구가 아닌 통제의 메커니즘으로 본다. 그들은 작업 할당(예: 신규 가입자 또는 장시간 근무자 우대) 및 임금 결정의 투명성 부족을 보고한다.
• 고충 처리 실패: 채팅 지원이 노동자들의 주요 접점이지만, 계정 정지나 벌금과 같은 복잡한 문제에는 효과적이지 않다. 노동자들은 고위험 결정에 대해 "인간 참여형(human-in-the-loop)" 에스컬레이션을 요구한다.
• 완전 자동화에 대한 저항: 노동자와 일부 이해관계자들은 인도의 인프라 복잡성(포트홀, 계단 등)과 인간의 적응 능력 필요성 때문에 AI가 인간을 완전히 대체할 수 없다고 믿는다.

C. 플랫폼 운영에 대한 이해관계자 통찰

• 디지털화된 채용: 플랫폼은 GenAI와 타겟 광고를 사용하여 노동자를 빠르게 온보딩(수일에서 수 시간 내)함으로써 비용을 절ลด하지만, 이는 디지털 문해력이 낮은 이들에게 새로운 장벽을 만든다.
• 알고리즘의 잔혹함: 이해관계자들은 소득 은폐 및 인센티브 조작(예: 노동자가 목표치에 도달할 때 주문 할당 속도를 늦추는 행위)과 같은 관행이 신뢰를 저해한다는 점을 인정한다.
• 감시 vs 안전: 셀피 인증 및 위치 추적과 같은 도구는 부정행위를 방지하지만, 과도한 감시라는 느낌을 준다. 자동화된 성과 관리는 인간의 조사 없이 계정 정지를 유발할 수 있다.
• 창고 자동화: 다크 스토어에서 기술은 처리량을 최적화하지만, 환경 조건(홍수, 폭염 등)에 적응하지 못해 노동자에게 책임을 전가하는 경우가 많다.

D. 규제 환경

본 논문은 사회보장법(2020)이 긱 노동자를 인정하고 있음에도 불구하고, 해당 조항들이 아직 공포되지 않았음을 지적한다. 투명성과 알고리즘 설명 가능성을 의무화하려는 주 정부 차원의 이니셔티브(라자스탄, 카르나타카 등)가 등장하고 있으나, 구현은 여전히 불균형하다.

4. 권고 사항 및 제안된 솔루션

본 논문은 혁신을 촉진하면서도 강력하고 디지털화된 가드레일을 구축하는 **"실용적인 중간 경로(Pragmatic Middle Path)"**를 옹호한다.

플랫폼 기업을 위한 제언:

• 알고리즘 투명성: 시스템 작동 방식(할당, 평점, 급여)에 대해 명확하고 다국어 지원이 되는 설명을 제공할 것.
• 인간 중심의 고충 처리: 복잡한 이슈가 인간 상담사에게 전달되는 다단계 시스템을 구현하고, 계정 정지와 같은 고위험 결정에는 "인간 참여형(human-in-the-loop)" 절차를 보장할 것.
• 참여적 설계: 플랫폼 기능의 생성 및 감사 과정에 노동자를 참여시킬 것.
• 마이크로 러닝: 노동자 앱 내에 맥락을 고려한 현지어 학습 모듈을 삽입할 것.

긱 노동자 및 시민 사회를 위한 제언:

• 동료 지원: 고립을 극k복하고 데이터를 집계하여 불공정한 관행에 대응하기 위한 네트워크를 구축할 것.
• 리터러시: 디지털 및 금융 문해력 교육을 확대할 것.

정부 및 정책 입안자를 위한 제언:

• 통합 노동자 인터페이스(UWI): 노동 시장을 위한 디지털 공공 인프라(DPI, UPI/ONDC와 유사한 형태)를 제안한다. UWI는 휴대 가능한 검증된 신원(UWI-ID), 플랫폼 간 평판 원장, 자동화된 사회 보장 기여 및 혜택 전달 메커니즘을 제공할 것이다.
• 설명 요구권 및 인간 검토권: 자동화된 결정에 대한 명확한 설명과 인간에 의한 검토 과정을 의무화할 것.
• 다크 패턴 공공 저장소: 임금 은폐, 허위 긴급성 등 해로운 디자인 패턴의 투명한 목록을 만들어 자기 진단 및 표적 구제를 가능하게 할 것.
• 공동 규제: 산업 협회가 공정 임금 및 데이터 윤리에 관한 행동 강령을 개발할 수 있도록 촉진할 것.

"데이터 긱(Data Gigs)" 생태계:

본 논문은 긱 노동자들이 물리적 배달과 함께 디지털 작업(데이터 어노테이션, 전사 작업)을 수행할 수 있는 새로운 생태계를 제안한다. 이는 단순한 데이터 수집에서 숙련된 어노테이션 및 안전 워크플로우 리더십으로 이어지는 발전 사다리를 만들어 소득을 다각화하고 기술을 쌓을 수 있게 한다.

5. 연구의 의의

본 논문은 논의의 틀을 "알고리즘 대 사람"에서 **"사람과 함께하는 알고리즘"**으로 재구성함으로써 그 의의를 찾는다. 효율성과 형평성은 서로 배타적인 것이 아니라, 하이브리드 거버넌스를 통해 서로를 강화할 수 있다고 주장한다.

인도의 블루칼라 노동자들의 생생한 현실에 기반을 둠으로써, 본 연구는 AI 윤리에 대한 추상적인 이론적 논의를 넘어 (UWI 및 특정 UI 개선책과 같은) 구체적이고 실행 가능한 메커니즘을 제안한다. 이는 경제적으로 역동적이면서도 사회적으로 정의로운 미래를 구축할 수 있는 인도의 독특한 기회를 강조한다. 즉, 플랫폼 경제를 움직이는 수백만 명의 노동자들이 존엄성을 유지하고 적정 절차를 보장받을 수 있도록 하는 미래를 만드는 것이다. 본 연구는 인간의 판단과 AI 역량이 협력하여 지속 가능한 웰빙 임팩트를 창출하는 "공동 지능(Co-Intelligence)" 시대로의 전환을 안내하는 정책 입안자와 산업 리더들을 위한 청사진 역할을 한다.