Trust Boundary Design for AI-Mediated Learning Support Services in Higher Education: A Conceptual Framework for Conditional Reliance

기술 요약: AI 매개 학습 지원 서비스를 위한 신뢰 경계 설계 (Trust Boundary Design)

문제 제기
본 논문은 고등 교육에서 AI 매개 정보(예: 피드백, 평가, 예측, 튜터링)를 학습 지원 서비스에 통합하는 과정에서 발생하는 결정적인 공백을 다룬다. 기존 문헌은 AI에 대한 신뢰, 수용성, 피드백 리터러시, 학습 분석 등을 광범위하게 다루고 있으나, **조건부 의존(conditional reliance)**이라는 구체적인 문제는 해결하지 못하고 있다. 핵심 쟁점은 학습자나 교육자가 AI를 수용하느냐의 여부가 아니라, 어떤 특정 조건 하에서 특정 AI 출력물에 의존해야 하는가이다. 현재의 학술적 논의는 진입(task entry), 출력 수준의 채택(output-level adoption), 그리고 실패 후 복구(post-failure repair)라는 세 가지 뚜렷한 단계에 걸쳐 의존의 경계를 어떻게 관리할 것인가에 대한 해답을 제시하지 못하고 있다. 즉, AI 정보를 해석/검증할 책임과 중대한 실패 이후 의존 조건을 재검토할 책임을 연결하는 통합된 프로세스 프레임워크가 부재한 상황이다.

연구 방법론
본 연구는 경험적 모델 테스트나 체계적 문헌 검토가 아닌, 통합적 합성(integrative synthesis) 방식을 활용한 **개념적 논문(conceptual article)**이다. 저자는 기존 문헌의 일곱 가지 분석 흐름을 선택적으로 합성하였다:

1. 고등 교육에서의 AI (Bond et al., 2024; Luo et al., 2025).
2. 신뢰 및 적절한 의존 (Lee and See, 2004; Schemmer et al., 2023).
3. 피드백 및 평가 (Carless and Boud, 2018; Nicol, 2021).
4. 학습 분석 및 위험 예측 (Khosravi et al., 2021; Memarian and Doleck, 2024).
5. 학습자 역량 (주체성, 자기 조절, AI 리터러시).
6. 교육자의 전문적 판단.
7. 제도적 지원 및 거버넌스.

이 합성은 하나의 긴장 관계로부터 시작된다: AI 매개 정보가 교육적 행동을 형성하게 되면, 그 출처나 총체적 신뢰 척도는 의존의 정당성을 결정하지 못한다. 분석의 대상은 '시스템'에서 '사용 중인 정보(information-in-use)'로, '일반적 신뢰'에서 '상황적 의존(situated reliance)'으로 전환된다. 결과물로서 제시되는 프레임워크는 검증된 인과적 메커니즘이 아닌, 저자가 생성한 개념적 구조이다.

핵심 기여 및 프레임워크 구조
본 논문은 조건부 의존을 위한 프로세스 프레임워크로서 **신뢰 경계 설계(Trust Boundary Design)**를 제안한다. 이는 설정(setting) (AI 매개 학습 지원), 규범적 구조(normative structure) (신뢰 경계), 그리고 프로세스 프레임워크(process framework) (신뢰 경계 설계)를 구분한다.

프레임워크는 세 가지 반복되는 **경계 기능(boundary functions)**과 그에 대응하는 **경계 운영(boundary operations)**으로 구성된다:

1. 진입 (기능) / 맥락적 인식 (운영):

   • 목적: AI 매개 정보가 특정 과업이나 결정 맥락에 진입해야 하는지를 결정한다.
   • 기제: 학습 목표, 과업 유형, 학습자 상태(예: 피드백 리터러시, 자기 조절), 교수 표준 및 위험 시나리오를 평가한다.
   • 출력: 진입 조건 및 검토 요구사항 (예: 고위험 시나리오에서의 의존 차단 또는 특정 안전장치 요구).

2. 채택 (기능) / 유도된 검증 (운영):

   • 목적: 특정 AI 출력이 학습 자원으로서 조건부 채택을 할 가치가 있는지 결정한다.
   • 기제: 과업 요구사항, 표준, 증거와 대조하여 출력을 평가한다. 검증은 출력의 증거적 무게와 위험도에 비례하여 "유도된(scaffolded)" 방식으로 이루어진다. 이는 기준과의 비교, 가정 확인, 소스의 한계 식별 등을 포함한다.
   • 출력: 조건부 채택 결정 및 검증 증거 (예: 사용, 수정, 거부 또는 인간의 검토로 회부).

3. 복구 (기능) / 교정적 복구 (운영):

   • 목적: AI 정보가 해석이나 행동을 형성했을 때 발생하는 결과적 실패를 다룬다.
   • 기제: 실패 원인을 진단하고, 인간의 검토 책임을 할당하며, 학습 경로 또는 산출물을 조정하고, 향후 의존 조건을 재설정한다. 이는 즉각적인 오류를 수정하는 것과, 해당 오류가 지원 과정에 영향을 미치도록 허용한 경계 조건을 수정하는 것을 구분한다.
   • 출력: 실패 진단, 복구 조치, 향후 사용 재설정.

교차적 실행 조건
프레임워크는 학습자 주체성(Learner Agency), 교육자의 전문적 판단(Educator Professional Judgment), **제도적 지원(Institutional Support)**이 별개의 기능이 아니라, 세 가지 운영을 가능하게 하거나 제한하는 교차적 조건이라고 상정한다. 이들의 분포는 맥락과 과업에 따라 달라지며, 이 영역에서의 결핍은 프레임워크의 실행을 방해할 수 있지만, 이것이 적절한 의존을 독립적으로 보장하지는 않는다.

결과 및 명제
개념적 논문으로서, "결과"는 모델의 내부 관계를 정의하는 여섯 가지 프레임워크 명제(P1–P6)이다:

• P1 (경계 설계의 필요성): 의존의 결과가 더 크거나, 불확실성이 높거나, 되돌릴 수 없는 경우 명시적인 경계 설계가 더 필요하다.
• P2 (진입의 제한성): 과업의 이해관계가 높거나 학습자 상태로 인해 부적절한 진입이 더 큰 결과를 초래할 수 있는 경우, 맥락적 인식은 더 엄격한 진입 조건을 생성해야 한다.
• P3 (검증의 비례성): 유도된 검증의 강도는 출력의 증거적 무게, 불확실성, 잠재적 결과가 커짐에 따라 증가해야 한다.
• P4 (이중 타겟 복구): 교정적 복구는 현재의 결과뿐만 아니라 미래의 진입/채택 조건을 재설정하는 것까지 다루어야 한다. 즉각적인 오류를 고치는 것만으로는 불충분하다.
• P5 (평가적 정렬): 적절한 의존은 사용/수정/거부 행위가 할당된 역할 및 특정 경계 조건과 얼마나 일치하는지에 의해 평가된다.
• P6 (실행의 우발성): 경계 운영의 실행은 학습자, 교육자, 제도적 역량의 가용성 및 분포에 따라 달라진다.

의의 및 주장
본 논문은 세 가지 주요 이론적 기여를 주장한다:

1. 개념의 분리: 의존의 문제를 총체적 신뢰나 수용에서 분리하여, 특정 정보에 대한 상황적이고 정당한 의존으로 초점을 전환한다.
2. 프로세스 설명: 신뢰 경계 설계를 진입, 채택, 복구에 걸쳐 의존 조건을 명시하고, 조사하고, 재검토하는 프로세스로 개념화하며, 이를 고정된 단계들과 구분한다.
3. 실행의 구분: 경계 운영을 그 실행 조건(주체성, 판단, 지원)과 구분함으로써, 학습자의 경계심과 전문가 또는 제도의 책임을 혼동하는 것을 방지한다.

저자는 **적절한 의존(appropriate reliance)**이 직접적인 평가 대상이지, 학습 결과의 개선이나 신뢰의 증대가 아님을 명시한다. 프레임워크는 적절한 의존을 만들어내거나 학습을 개선하기 위한 것이 아니라, 의존이 정당한지를 평가하기 위한 구조를 제공한다. 명제들은 검증된 인과 법칙이나 보편적 구현 규칙이 아니라, 경험적 테스트와 맥락적 정교화가 가능한 개념적 관계로 제시된다. 본 논문은 교육적 질문이 "AI가 수용되는가?"에서 "특정 AI 매개 정보에 대한 의존이 어떻게 정당화되고, 검토되며, 재검토되는가?"로 전환되어야 한다고 결론짓는다.