Algorithmic Governance and India's Constitutional Duty toward Outbound Students Facing Foreign AI Visa and Surveillance Decisions

당신의 여행, 유학, 또는 해외 취업 능력이 인간 심사관의 검토가 아니라 컴퓨터 프로그램의 찰나의 결정에 달려 있는 세상을 상상해 보십시오. 이것이 현대 국경의 현실입니다. 인공지능 시스템은 소셜 미디어 게시물을 스캔하고, 신청 패턴을 분석하며, 수백만 명의 사람들에게 위험 점수를 부여합니다. 수십 년 동안 국제법은 한 국가의 국경 내에 있는 사람들의 권리에 집중해 왔지만, 새로운 질문이 떠오르고 있습니다. 만약 외국 컴퓨터 시스템이 실수를 저질러 한 시민의 인생을 망쳤는데, 그 사람의 정부가 아무런 조치도 취하지 않는다면 어떻게 될 것인가 하는 문제입니다. 이는 인도와 해외에서 공부하는 인도 학생들, 그리고 미국, 캐나다, 영국과 같은 국가들의 자동화된 비자 시스템 사이의 관계를 조사하는 법학자들이 탐구하는 영역입니다. 핵심 쟁점은 한 국가가 자국 시민을 보호해야 할 의무가 있는지, 즉 그 오류가 자국의 영토 밖에서 발생했을 때조차 외국 정부의 보이지 않는 알고리즘적 오류로부터 자국민을 보호할 의무가 있는지 여부입니다.

두 명의 연구자, 제이키 칸(Dr. Jakey Khan) 박사와 자야슈리 라장시(Dr. Jayashri Rajbangshi) 박사는 이 문제를 부각하는 특정 사례에 초점을 맞추어 법적 공백을 조사했습니다. 2025년 3월, 뉴욕 컬럼비아 대학교에서 박사 과정을 밟고 있던 란자니 스리니바산(Ranjani Srinivasan)이라는 젊은 인도 여성이 미국 국무부에 의해 학생 비자를 갑작스럽게 취소당했습니다. 이 결정은 '캐치 앤 리보크(Catch and Revoke)'라고 불리는 새로운 자동 스크리닝 프로그램에 의해 내려졌는데, 이 프로그램은 인공지능을 사용하여 금지된 단체와의 연관성을 보여주는 징후가 있는지 소셜 미디어를 스캔합니다. 구금의 위협에 직면한 그녀는 컴퓨터가 아무런 설명이나 청문회를 제공하지 않았기 때문에 결정에 이의를 제집할 수 없었고, 결국 즉시 미국을 떠나야만 했습니다. 개입을 요청받았을 때, 인도 정부는 비자 취소는 미국의 주권적 권리이며 인도는 간섭하지 않겠다는 내용의 외교 서한을 통해 대응했습니다. 연구자들은 이러한 침묵이 의무의 실패라고 주장합니다. 그들은 인도의 헌법에 따라 정부는 자국민이 해외에 있고 외국의 기계로부터 피해를 입고 있을 때에도 그들의 자유와 권리를 보호할 의무가 있다고 제안합니다.

이 논문은 수십 년 전 인도 대법원이 여행의 권리는 개인적 자유의 근본적인 부분이라고 판결한 법적 토대 위에 논거를 구축합니다. 이 권리는 불공정하거나, 불합리하거나, 자의적인 절차에 의해 제한될 수 없습니다. 연구자들은 이러한 보호가 국경 너머까지 확장되어야 한다고 제안합니다. 그들은 '송신국 알고리즘 보호 원칙(Sending-State Algorithmic Protection Doctrine)'이라는 새로운 개념을 도입하며, 외국 정부가 인도 국민에게 해를 끼치는 자동화된 시스템을 사용할 때 인도가 위험을 평가하고, 피해를 기록하며, 외교적 조치를 취해야 할 헌법적 의무가 있다고 주장합니다. 이 연구는 인도가 다른 나라의 법을 바꾸도록 강요할 수 있다고 주장하는 것이 아니라, 인도가 불공정하고 불투명한 컴퓨터 결정으로 인해 자국민이 고통받는 것을 방관해서는 안 된다는 점을 강조합니다.

저자들은 이 문제의 심각성을 테스트하기 위해 다양한 외국의 AI 비자 도구가 초래하는 위험을 측정하는 점수 체계를 개발했습니다. 그들은 서구 국가들이 사용하는 네 가지 주요 시스템을 분석했습니다. 가장 위험한 것은 미국의 '캐치 앤 리보크' 프로그램으로, 이 프로그램은 통보 없이 즉각적으로 비자를 취소하고, 항소할 수 있는 방법을 제공하지 않으며, 소셜 미디어를 감시함으로써 표현의 자유를 위축시키기 때문에 완벽에 가까운 위험 점수를 받았습니다. 연구자들은 이 프로그램에 따른 비자 취소 사례 327건 중 약 절반이 인도인과 관련이 있다는 것을 발견했습니다. 두 번째로 위험한 시스템은 캐나다의 '치눅(Chinook)' 소프트웨어로, 이는 비자 신청을 대량으로 처리합니다. 2025년 8월, 이 시스템은 중국 신청자의 경우 24%의 거절률을 보인 반면, 인도인의 학업 허가 신청은 74%를 거절했는데, 이러한 격차는 알고리즘이 국적에 따라 사람들을 차별적으로 대우하고 있음을 시사합니다. 영국과 유럽 연합 또한 유사한 자동화 도구를 사용하지만, 약간 더 많은 절차적 안전장치가 있음에도 불구하고 인도 여행자들의 권리에 상당한 위험을 초사합니다.

연구자들은 법 이론에만 머물지 않고 실제로 사람들이 이 문제에 대해 어떻게 생각하는지도 살펴보았습니다. 그들은 해외로 여행하는 학생 인구와 매우 유사한 집단인 1,200명 이상의 디지털 문해력을 갖춘 인도인을 대상으로 설문 조사를 실시했습니다. 결과는 놀라웠습니다. 응답자의 과반수인 56%가 현재의 법이 AI 기반의 권리 침해로부터 자신을 보호할 수 있다는 확신이 없다고 답했습니다. 더욱 주목할 만한 점은, 설문에 참여한 이들 중 82%가 이러한 문제를 다루기 위한 전담 규제 시스템을 강력히 원한다는 의사를 표명했다는 것입니다. 이 데이터는 대중이 위험을 인지하고 있으며 현재의 법적 프레임워크가 불충분하다고 느끼고 있음을 시사합니다. 연구자들은 이러한 광범위한 불신과 명확한 행동 요구가 단순한 이론적 법적 공백이 아닌, 구체적인 거버넌스의 실패를 나타낸다고 주장합니다.

또한 이 논문은 이 문제를 더 넓은 역사적 맥락에서 배치하며, 현재 송신국인 인도의 침묵이 식민지적 태도의 잔재임을 시사합니다. 과거에 식민지 국가들은 강력한 목적지 국가가 정한 조건을 의문 없이 받아들여야 했습니다. 연구자들은 외국의 알고리즘 결정을 손댈 수 없는 '주권적 권리'로 취급함으로써 인도가 의도치 않게 이러한 오래된 굴종의 패턴을 지속하고 있다고 주장합니다. 그들은 이러한 태도가 다른 국가의 주권을 도전하는 방식이 아니라, 인도의 헌법적 의무를 이행함으로써 변화해야 한다고 제안합니다. 저자들은 이러한 알고리즘적 해악을 추적하기 위한 전문 정부 부처를 신설하고, 무역 협정의 일부로서 외국 정부가 자신들의 비자 알고리즘 작동 방식을 공개하도록 요구하며, 다양한 외국의 위험 점수를 모니터링하기 위한 데이터베이스를 구축하는 등의 실질적인 단계들을 제안합니다.

궁극적으로 이 연구는 '인간' 국경 관리관의 시대가 끝나고, 보이지 않는 코드가 아무런 생각 없이 한 사람의 인생을 파괴할 수 있는 시대가 오고 있음을 시사합니다. 논문은 인도와 잠재적으로 자국민을 해외로 보내는 다른 국가들이 이러한 새로운 현실에 맞춰 법적, 외교적 전략을 진화시켜야 한다고 결론짓습니다. 기존의 헌법적 원칙을 사용하여 보호 체계를 구축함으로써, 정부는 외국 컴퓨터가 실수를 저지를 때 자국민이 무방비 상태로 남겨지지 않도록 보장할 수 있습니다. 이 연구는 이것이 새로운 법을 처음부터 만드는 것이 아니라, 자동화된 국경이라는 새로운 디지털 세계에 공정성과 자유라는 기존의 확립된 약속을 적용하는 문제임을 강조합니다. 과거의 침묵은 하나의 선택이며, 저자들은 헌법이 그 침묵을 깨고 다음 세대의 글로벌 여행자들에게 실질적인 보호를 제공할 수 있는 도구를 제공한다고 주장합니다.