Understanding How University Guidelines Address Privacy and Security Issues of Generative AI in Academic Settings

기술 요약: 대학 가이드라인이 학술 환경 내 생성형 AI의 개인정보 보호 및 보안 문제를 어떻게 다루는지에 대한 이해

문제 제 정의
생성형 AI(GenAI)는 학습 패러다임을 증강하며 고등 교육을 빠르게 변화시키고 있으나, 이러한 변화를 주도하는 시스템들은 주로 불투명한 데이터 보유 관행과 제한된 사용자 제어권을 가진 민간 기업들에 의해 통제되고 있다. 학술 환경에서 GenAI의 통합은 독점적, 개인 식별 가능 및 민감한 교육 정보가 외부 플랫폼으로 노출되는 것에 대한 심각한 우려를 낳는다. 대학들은 혁신과 학술적 무결성 사이의 균형을 맞추기 위해 사용 가이드라인을 개발하고 있지만, 이러한 기관들이 GenAI에 내재된 개인정보 보호 및 보안 위험을 구체적으로 어떻게 개념화하고, 평가하며, 완화하는지에 대한 이해에는 상당한 격차가 존재한다. 기존 문헌들은 개인정보 보호와 보안을 교육적 관심사보다 부차적인 문제로 취급하거나, 대학이 GenAI 도입을 보호하기 위해 직면한 기술적 및 운영적 과제를 분석하는 데 있어 세밀함이 부족한 경우가 많다.

연구 방법론
저자들은 12개국 43개 대학이 발표한 GenAI 사용 가이드라인에 대해 심층적인 질적 내용 분석을 수행하였다. 표본은 지역적 다양성을 목표로 하되, 세계적으로 인정받는 기관들에 집중하기 위해 "2024 QS 세계 대학 순위"를 기준으로 추출되었다.

• 데이터 수집: 연구자들은 2024년 6월부터 12월 사이에 영어로 발표된 대학 수준의 가이드라인(학과별 문서 제외)을 식별하기 위해 대학 웹사이트를 수동으로 탐색하였다. 또한, 교수 학습 중심의 문서와 교차 비교하기 위해 이들 중 19개 대학의 IT 중심 보안 및 개인정보 보호 가이드라인을 추가로 수집하였다.
• 분석 과정: 본 연구는 구조화된 질적 코딩 프로세스를 채택하였다. 세 명의 연구자가 초기 대학 세트에서 문서를 독립적으로 코딩하여 코드북을 개발하였으며, 이는 반복적인 논의를 통해 정교화되었다. 이후 코드북을 나머지 문서에 적용하였으며, 코헨의 카파($\kappa$) 계수는 0.65를 기록하여 상당한 평가자 간 일치도를 나타냈다. 분석은 데이터 포화 상태에 도달할 때까지 계속되었다.
• 범위: 분석은 개인정보 보호 및 보안 위험, 위협 모델, 완화 전략, 그리고 이러한 개념이 광범위한 학술적 가치와 통합되는 방식에 관한 텍스트 내용에 초점을 맞추었다.

주요 기여 및 결과
본 연구는 대학이 위험을 어떻게 개념화하고, 완화 조치를 어떻게 평가하며, 정책 설계 내에서 개인정보 보호/보안을 어떻게 배치하는지에 관한 세 가지 연구 질문(RQ)을 다룬다. 연구 결과는 다음과 같다:

1. 위험의 개념화 (RQ1)
대학들은 GenAI 관련 개인정보 보호 및 보안 위험, 특히 민감한 학생, 연구 및 기관 데이터에 관한 위험을 폭넓게 인식하고 있다. 그러나 본 연구는 이러한 위험이 프레이밍되는 방식에서 세 가지 핵심 특징을 식별하였다:

• 다양한 데이터 정의: 가이드라인은 "민감한 데이터"를 정의하는 방식에서 큰 차이를 보인다. 어떤 곳은 구체적인 예시(예: 지식재산권 및 수출 통제 데이터를 명시한 Caltech)를 사용하는 반면, 다른 곳은 구체적인 설명 없이 모호한 용어(예: "기밀 정보")에 의존하며 종종 GDPR이나 국가 데이터 보호법과 같은 외부 정책에 위임한다.
• 위협 모델의 불균균형: 제시된 위협 모델은 부분적이다. 가이드라인은 제3자 서비스 제공업체를 통한 개인정보 노출과 학술적 무결성 위반(예: 표절, 조작)을 위한 GenAI 오용을 강조하는 경향이 있다. 반면, 탈옥(jailbreaking), 프롬프트 인젝션(prompt injection) 및 기술적 취약점(예: 모델 포이즈닝)과 같은 구체적인 적대적 행동은 충분히 명시되지 않았으며, 이러한 보안 공격을 논의하는 가이드라인은 소수에 불과하다.
• 광범위한 해악과의 불분명한 연결: 가이드라인은 개인정보 침해를 윤리적 위험(예: 차별) 및 부정적인 학습 결과(예: 과도한 의존)와 연결하지만, 기술적 보안 실패와 광범위한 교육적 해악 사이의 연결 고리는 여전히 불분명하거나 암묵적인 경우가 많다.

2. 완화 조치 및 과제 (RQ2)
대학들은 기술적 안전장치, 운영 절차, 개인의 책임을 결합하여 위험을 완화하려고 시도하지만, 명확성과 일관성 측면에서 상당한 과제에 직면해 있다:

• 기술적 안전장치: AI 탐지 도구의 신뢰성에 대해 회의적인 시각이 존재한다. 결과적으로 대학들은 새로운 GenAI 전용 탐지 메커니즘을 개발하기보다는 기존의 기술적 인프라(예: 엔터프라이즈 계정 검증, 액세스 제어)와 라이선스 버전의 GenAI 도구(예: 데이터 보호 부가 조항이 포함된 Microsoft Copilots)에 의존하는 경우가 많다.
• 개인 책임으로의 전환: 책임이 개인(학생 및 교수)에게 전가되는 경향이 지배적이다. 가이드라인은 종종 상세한 서비스별 개인정보 평가를 제공하지 않은 채, 사용자가 민감한 데이터를 업로드하지 않고, 출력물을 검토하며, 적절한 도구를 선택해야 할 책임을 지도록 규정한다.
• 운영의 복잡성: GenAI 조달을 위한 보안 검토를 구현하는 것은 복잡하며 종관 부서가 연루되는 경우가 많다. 일부 기관은 전담 감독 및 구제 메커니즘을 구축했으나, 이러한 프로세스는 성숙한 표준 프로토콜이라기보다 진행 중인 노력으로 묘사되는 경우가 많다.
• IT vs. 교수 가이드라인: IT 중심 가이드라인은 개인정보 문제를 구체적인 위험 평가 및 모니터링 관행으로 변환하는 경향이 있는 반면, 교수 중심 가이드라인은 이러한 문제를 학술적 가치와 수업 관행을 통해 프레이밍한다. 두 유형의 가이드라인 간 교차 참조 정도는 지역마다 크게 다르다.

3. 정책 설계 원칙 (RQ3)
개인정보 보호 및 보안 거버넌스는 복잡한 상호작용에 의해 형성된다:

• 규제 프레임워크: 가이드라인은 기존의 국가 및 지역 규제(예: 미국의 FERPER, 유럽의 GDPR, 싱가포르의 PDPA)에 강하게 기반하고 있다. 그러나 이러한 프레임워크는 GenAI에 특화된 규정을 결여하고 있어, 관할 구역에 따라 제3자와의 데이터 공유가 규제되는 방식에서 불일치를 초래한다.
• 학술적 가치: 개인정보 보호와 보안은 흔히 무결성, 공정성, 책임 있는 학습과 같은 광범위한 학술적 가치 아래 포함된다. 이는 규범적 무게를 부여하지만, 본 논문은 이러한 가치 기반의 프레이밍이 구현을 자의적으로 해석하게 만들어, 때로는 구체적인 지침 대신 높은 수준의 원칙만을 대체할 수 있다고 지적한다.
• 이해관계자 참여: 정책 수립 과정에서 학생과 직원의 적극적인 참여가 필요하다는 점은 인식되어 있으나, 기술적 개인정보 위험을 해결하는 데 있어 이러한 참여의 효과성은 다양하게 나타난다.

의의 및 주장
본 논문은 대학이 어떻게 체계적으로 GenAI 개인정보 보호 및 보안 위험을 관리하는지에 대한 최초의 심층적인 질적 분석을 제공한다고 주장하며, 이러한 이슈를 부차적인 관심사로 치부하는 것을 넘어선다. 저자들은 연구를 통해 현재의 제도적 환경에 존재하는 결정적인 격차를 밝혀낸다:

• 현재 프레임워크의 한계: 기존의 법적, 기술적 프레임워크는 최소한의 데이터로부터 민감한 정보를 추론하는 능력이나 "탈옥" 위험과 같은 GenAI 특유의 위협을 다루기에 불충분한 경우가 많다.
• 맞춤형 접근의 필요성: 본 연구는 대학이 일반적인 데이터 보호 정책을 넘어, GenAI의 고유한 역량과 위험에 특화된 평가 프레임워크와 기술적 안전장치를 개발해야 할 필요성을 강조한다.
• 인프라 격차: 본 연구는 기관 간의 자원 격차를 강조하며, 자원이 부족한 대학들이 전략적 파트너십과 지식 공유 없이는 상위권 대학에서 관찰되는 복잡한 안전장치를 구현하는 데 어려움을 겪을 수 있음을 시사한다.

저자들은 대학이 가이드라인을 활발히 개발하고 있으나, 고등 교육에서의 GenAI 도입을 효과적으로 보호하기 위해서는 기술적, 운영적, 교육적 관점을 통합하는 더욱 강력하고 개인정보 보호를 고려한 프레임워크가 필요하다고 결론짓는다.