💻 computer science

Auditable AI Ethics in Education: Developing Measurable Competencies for Sustainable Development across K-12 and University Curricula

본 연구는 고차원적인 규제 명령과 실질적인 K-12 및 대학 커리큘럼 사이를 연결하는 '감사 가능한 AI 윤리(Auditable AI Ethics)' 역량 프레임워크를 개발하고 이를 실증적으로 검증하며, 파일럿 프로그램을 통해 결과 중심적이고 행동 지향적인 교육법이 학생들을 수동적인 AI 소비자에서 비판적 검증, 편향 완화 및 법적 준수 능력을 갖춘 책임감 있는 창작자로 효과적으로 변화시킨다는 것을 입증한다.

원저자: Elena Gaevskaya, Rustam Shadiev, Nikolay Borisov, Aleksandra Pushkina, Peter Fedkin

게시일 2026-09-14

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Elena Gaevskaya, Rustam Shadiev, Nikolay Borisov, Aleksandra Pushkina, Peter Fedkin

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

현대적인 교실에서 인공지능은 미래적인 개념에서 일상적인 도구로 변화했습니다. 인공지능은 에세이를 채점하고, 학습 경로를 제안하며, 명령에 따라 이미지나 텍스트를 생성하는 것을 돕습니다. 그러나 이러한 급격한 통합은 중대한 과제를 안겨줍니다. 어떻게 하면 이 시스템들이 공정하고, 안전하며, 정직하도록 보장할 것인가 하는 점입니다. 핵심적인 문제는 많은 AI 시스템이 내부 로직이 숨겨져 있어 결정이 편향되었는지 또는 제공된 정보가 사실인지 알기 어려운 '블랙박스'처럼 작동한다는 것입니다. 이를 해결하기 위해 교육자와 연구자들은 기술에 대해 단순히 "친절하게 대하는" 규칙을 넘어 그 이상의 단계로 나아가고 있습니다. 그들은 '감사 가능한 AI(auditable AI)'라고 불리는 시스템, 즉 컴퓨터가 내린 모든 결정이 추적되고 검증되며 설명될 수 있는 학습 환경을 구축하고 있습니다. 목표는 학생들에게 단순히 이러한 도구를 사용하는 법을 가르치는 것이 아니라, 오류를 찾아내고 기계가 생성한 거짓말을 잡아내며, 기술이 인권과 문화적 가치를 존в하는지 확인할 수 있는 비판적인 감독자로서 행동하는 법을 가르치는 것입니다.

상트페테르부르크 대학교와 절강 대학교의 연구팀은 실질적인 문제, 즉 이러한 추상적인 윤리적 아이디어를 학생들이 실제로 배우고 증명할 수 있는 구체적인 기술로 어떻게 바꿀 것인가를 해결하기 위해 나섰습니다. 그들은 두 가지 매우 다른 연령대를 대상으로 '감사 가능한 AI 윤리'를 측정하는 프레임워크를 만들었습니다. 한 그룹은 12세에서 17세 사이의 13명의 학생들로 구성되었으며, 이들은 생성형 AI를 사용하여 시각 예술을 만드는 작업을 수행했습니다. 다른 그룹은 응용 정보학을 공부하는 대학교 3학년 학생들로, 러시아와 중국의 문화를 잇는 웹 리소스를 구축하는 과제를 맡았습니다. 4개월의 기간 동안 연구진은 학생들이 기술과 상호작용하는 방식을 관찰하며, 이들이 수동적인 사용자에서 AI의 출력물의 진실성과 공정성을 검증할 수 있는 능동적인 감사자로 변화하는 과정을 지켜보았습니다.

연구 결과, 어린 학생들의 기술 접근 방식에서 명확한 변화가 나타났습니다. 프로젝트 초기에는 학교 학생들은 AI가 생성한 이미지를 의심 없이 받아들였으며, 결과물이 이상하거나 신체적으로 불가능한 경우(예: 팔다리가 더 많거나 얼굴이 왜곡된 경우)에도 그러했습니다. 그러나 진행됨에 따라 그들은 편집자로서 행동하는 법을 배웠습니다. 그들은 특정 기술적 제어 기능을 사용하여 이러한 오류를 수정하는 법을 배웠으며, AI에게 무엇을 하지 말아야 하는지 알려주는 상세한 지침을 작성하는 법을 익혔습니다. 그들은 단순히 이미지를 요청하는 단계에서 벗어나, 해부학적 실수를 확인하고 최종 결과물이 안전 규칙을 위반하지 않으면서 자신의 예술적 비전에 부합하도록 하는 등 적극적으로 결과를 디버깅하는 단계로 나아갔습니다. 그들은 기계가 실수를 할 수 있으며, 그것을 잡아내는 것이 자신들의 역할임을 배웠습니다.

대학생들은 비슷하게 엄격하지만 다른 종류의 과제에 직면했습니다. 그들의 과제는 기능적일 뿐만 아니라 법적, 윤리적으로도 건전한 디지털 리소스를 구축하는 것이었습니다. 그들은 생성된 콘텐츠가 기존 저작물을 무단으로 표절하거나 개인정보 관련 법률을 위반하지 않도록 해야 했습니다. 한 프로젝트에서 학생들은 AI가 상트페테르부르크의 실제 정원에 대해 사실을 지어내며 서로 다른 국가의 건축 양식을 혼합하는 것을 발견했습니다. 학생들은 이를 그대로 받아들이는 대신, AI가 생성한 모든 사실을 신뢰할 수 있는 출처와 대조하여 교차 검증하는 로그 시스템을 만들었습니다. 그들은 법적 요구 사항을 코드에 직접 통합하여, 자신들이 구축한 소프트웨어가 자동으로 사용자 프라이버시를 보호하고 특정 집단을 차별하는 것을 방지하도록 학습했습니다.

연구진은 어린 학생들이 시각적 오류를 수정하고 예술적 표현을 관리하는 데 집중한 반면, 대학생들은 구조적 무결성과 법적 준수에 집중했다는 점을 발견했습니다. 그러나 두 그룹 모두 공통된 진화를 보였습니다. 그들은 AI를 항상 진실만을 말하는 신탁처럼 취급하는 것을 멈추고, 지속적인 감독이 필요한 도구로 취급하기 시작했습니다. 연구는 학생들에게 오류를 찾아내고 수정해야 하는 구체적인 과제를 부여함으로써, 그들이 윤리에 대한 깊고 실질적인 이해를 발달시킬 수 있음을 보여주었습니다. 이 접근 방식은 윤리적 행동이 단순히 규칙을 아는 것이 아니라, 규칙이 준수되고 있는지 검증할 수 있는 기술적 능력을 갖추는 것임을 입증했습니다.

이 4개월간의 파일럿 연구 결과는 교육의 각 단계에서 이러한 기술을 효과적으로 가르치는 것이 가능하다는 것을 시사합니다. 학교 학생들은 시각적 환각(hallucinations)을 탐지하고 수정하는 능력에서 상당한 향상을 보였으며, 대학생들은 소프트웨어 개발 과정에 법적, 윤리적 점검 사항을 성공적으로 통합했습니다. 연구진은 학생들이 반드시 작업 내용을 확인했음을 증명해야 하는 이러한 학습 방식이, 기술적으로 숙련될 뿐만 아니라 그 영향에 대해서도 책임감을 갖춘 창작자 세대를 만들어낸다고 결론지었습니다. 윤리를 측정 가능한 커리큘럼의 일부로 만듦으로써, 학교는 미래의 AI 사용자와 개발자들이 투명하고 공정하며 모두에게 안전한 디지털 세계를 구축할 수 있는 역량을 갖추도록 보장할 수 있습니다.

기술 요약: 교육 분야의 감사 가능한 AI 윤리 (Auditable AI Ethics in Education)

1. 문제 제lemnt (Problem Statement)

교육 생태계에 인공지능(AI)이 급격히 통합되면서, 추상적인 윤리 원칙을 실행 가능한 형태로 구현할 수 있는 교육적 프레임워크의 발전이 이를 따라잡지 못하고 있습니다. 현재의 디지털 리터러시 프로그램은 주로 AI 도구의 공리주의적 사용에 초점을 맞추고 있으며, 알고리즘 출력을 검증하고, 편향을 탐지하며, 규제 표준 준수를 보장하는 데 필요한 비판적 역량은 간과하고 있습니다. 이는 학생들이 AI 시스템의 의사결정 과정을 감사할 능력을 결여하게 만들어, 알고리즘 편향, 데이터 프라이버시 침해, 그리고 AI 생성 환각(hallucinations)에 대한 무비판적 수용이라는 '블랙박스' 현상을 초래합니다.

나아가, 거시적 차원의 규제 명령(EU AI 법, 러시아 국가 AI 윤리 강령, 연방법 제152-FZ호 등)과 응용 디지털 교수법 사이에는 괴리가 존재합니다. 본 연구는 이 간극을 메우기 위한 체계적이고 측정 가능한 지표의 부재를 식별하였으며, 특히 K-12 및 고등 교육 커리큘럼에서 선언적 윤리 이론에서 행동 기반의 감사 가능한 역량으로 전환하는 문제를 다루지 못하고 있음을 지적합니다.

2. 방법론 (Methodology)

본 연구는 결과 기반 교육(OBE), 가치 민감형 설계(Value-Sensitive Design), 그리고 "인간 참여형(Human-in-the-Loop)" 패러다임에 기초한 혼합 방법론을 채택합니다. 핵심적인 방법론적 혁신은 "감사 가능한 AI 윤리"를 중심으로 한 엔드 투 엔드(End-to-End) 역량 프레임워크의 개발입니다.

2.1. 연구 설계

4개월간의 파일럿 구현이 두 가지 뚜렷한 교육 궤적을 대상으로 진행되었습니다:

K-12 트랙 ( $n=13$ ): 상트페테르부르크 "어린이 창의성의 집" 소속 12~17세 학생들. 과업은 Stable Diffusion, ControlNet, OpenPose, LoRA와 같은 도구를 활용한 생성적 시각 디자인에 집중되었습니다. 프로젝트에는 주제별 시각화(예: "인간의 직업을 가진 동물들", "크로노그래프")가 포함되었습니다.
대학교 트랙 (학부 3학년 수준): 상트페테르부르크 국립대학교(SPbSU) "예술 및 인문학 분야 응용 정보학" 프로그램 학생들. 과업은 Python, LLM, API를 사용하여 인터컬처럴(intercultural) 웹 리소스를 설계하는 것이었습니다. 비디오 아트 박물관 투어, "중러 우정의 정원" 웹사이트, 인터컬처럴 "해리 포터" 플랫폼을 포함한 4개의 프로젝트가 개발되었습니다.

2.2. 평가 프레임워크

본 연구는 각 교육 수준별로 관찰 가능한 지표로 세분화된 6가지 핵심 사회-기술적 기준을 포함하는 구조화된 평가 매트릭스를 활용하였습니다:

디지털 리터러시: 프롬프트 엔지니어링(K-12)에서부터 IT 스택 입증 및 API 통합(대학교)까지.
디지털 윤리: 의식 있는 자기 표현 및 충격적 콘텐츠 회피(K-12)에서부터 연방법 제152-FZ호 준수 및 저작권 검증(대학교)까지.
전공 지식: 도메인 원칙(구도, 해부학) 준수 및 사실적/역사적 정확성.
창의성: 은유적 탐색 및 교차 문화적 인터페이스 엔지니어링.
비판적 사고 및 환각 감사: 시각적 아티팩트의 수동 완화(K-12) 및 LLM 출력/코드 감사(대학교).
교차 문화적 맥락 이해: AI 학습 가중치에서 스테레오타입을 제거하고 이중 언어 인터페이스를 설계하는 능력.

2.3. 데이터 수격 (Data Collection)

데이터는 사전/사후 테스트, 프로젝트 결과물 평가, 그리고 "디지털 발자국"(프롬프트 로그, 검증 로그, 코드 리뷰) 분석을 통해 수집되었습니다. 본 연구는 학생들이 AI 출력을 수동적으로 수용하는 단계에서 능동적으로 검증하고 안전 필터의 의미론적 탐색을 수행하는 단계로 어떻게 변화하는지를 추적했습니다.

3. 주요 기여 (Key Contributions)

본 논문은 AI 윤리를 교육에 통합하기 위한 확장 가능하고 측정 가능한 프레임워크를 제안하며, 이론적 담론을 넘어 실질적인 구현으로 나아갑니다.

감사 가능한 AI의 실행화: 본 연구는 "감사 가능한 AI"를 단순한 기술적 기능이 아닌 교육적 역량으로 정의합니다. 이는 학생들이 자신의 학습 결과에 대해 "준거 증거 기반(conformance evidence base)"을 생성할 수 있는 메커니즘을 제공합니다.
6개 기준 매트릭스: 추상적인 윤리 개념을 K-12 및 대학교 수준에서 관찰 가능하고 측정 가능한 지표로 변환하는 상세 매트릭스(표 1)를 제공합니다. 여기에는 K-12 학생들을 위한 시각적 출력을 제어하기 위한 "네거티브 프롬프팅(negative prompting)"과 대학생들을 위한 "알고리즘 영향 평가(AIA)"와 같은 구체적인 기법이 포함됩니다.
규제 준수의 통합: 본 프레임워크는 국가 및 국제 법적 표준(예: 러시아 연방법 제152-FZ호, EU AI 법, UNESCO 가이드라인)을 소프트웨어 개발 파이프라인과 창의적 워크플로우에 직접 통합합니다.
인간 참여형 페다고지(Human-in-the-Loop Pedagogy): 본 연구는 학생의 역할을 AI의 수동적 소비자에서 능동적인 검증자 및 감사자로 전환하는 과정을 보여주며, 최종 의사결정과 책임이 인간 주체에게 남아 있음을 보장합니다.

4. 결과 (Results)

4개월간의 파일럿 실시를 통한 실증적 결과는 학생들의 역량, 특히 질적 및 가치 지향적 영역에서 유의미한 긍정적 변화를 나타냅니다.

K-12 성과:
- 비판적 사고: 학생들은 신경망의 아티팩트(예: "해적" 프로젝트에서의 해부학적 왜곡)를 단순히 수용하는 단계에서 벗어나, 고급 네거티브 프롬프팅과 ControlNet 조정을 사용하여 이러한 결함을 능동적으로 감사하고 수정하는 단계로 진화했습니다.
- 디지털 윤리: 학생들은 예술적 은유를 통해 복잡한 사회문화적 주제(예: "이성의 잠")를 묘사함으로써 플랫폼 안전 필터를 성공적으로 탐색하였고, 이를 통해 콘텐츠 생태계에 대한 이해를 보여주었습니다.
- 창의성: AI 도구는 전통적인 드로잉 기술이 부족한 학생들에게 진입 장벽을 낮추어 주었으며, 복잡한 철학적 개념을 구현할 수 있게 했습니다.
대학교 성과:
- 준수 및 감사: 학부생들은 개인정보 보호에 관한 연방법 제152-FZ호 준수 명령을 웹 프로젝트의 특정 사용자 인터페이스 요소에 성공적으로 통합하여, 데이터 수집의 투명성과 책임성을 확보했습니다.
- 환각 완화: "중러 우정의 정원" 프로젝트에서 학생들은 LLM 출력을 학술 자료와 교차 검증하기 위한 내부 "검증 로그"를 구축하여 건축 및 역사에 관한 사실적 오류를 수정했습니다.
  축적된 기록을 통해 사실 관계를 바로잡았습니다.
- 윤리적 디자인: "해리 포터" 프로젝트는 견고한 법적 고지 사항을 설계하고 생성된 콘텐츠의 표절 여부를 감사하는 능력을 입증하였으며, 추상적인 윤리 권고를 검증 가능한 기술적 솔루션으로 변환했습니다.
정량적 성장:
- 디지털 윤리: K-12 그룹에서 기준을 충족하는 학생이 5명에서 13명으로 증가 (+8).
- 비판적 사고: K-12 그룹에서 2명에서 7명으로 증가 (+5).
- 교차 문화적 이해: K-12 그룹에서 4명에서 11명으로 증가 (+7).
- 참고: 전공 지식 및 창의성 분야의 기초 역량은 사전 테스트 단계에서 이미 높게 나타났습니다 (13/13).

5. 의의 및 주장 (Significance and Claims)

본 연구는 선언적 이론에서 행동 기반의 감사 가능한 디지털 포트폴리오로 전환하는 것이 책임감 있는 AI 창작자와 비판적 사고를 갖춘 사용자를 양성하는 실행 가능한 메커니즘을 제공한다고 주장합니다.

"말과 행동의 간극(Say-Do Gap)" 해소: 프로젝트 기반 접근 방식은 학생들이 AI의 한계에 직접 직면하게 함으로써, 감사를 추상적인 학술적 요구사항에서 개발 파이프라인의 필수적인 기술적 단계로 변모시켰습니다. 이는 "설계에 의한 윤리(Ethics by Design)" 개념을 입증합니다.
지속 가능한 발전에 대한 기여: 본 프레임워크는 비판적 AI 리터러시를 육성함으로써 **UN SDG 4 (양질의 교육)**에 직접적으로 기여하며, 취약 계층에 영향을 미치는 알고리즘 편향을 식별하고 완화하도록 훈련함으로써 **SDG 10 (불평등 완화)**에 기여합니다.
확장성: 제안된 엔드 투 엔드 매트릭스는 교육 기관이 기술적 엄밀함을 희생하지 않으면서 규제 준수와 윤리적 검증을 커리큘럼에 통합할 수 있는 확장 가능한 모델을 제공합니다.

저자들은 본 연구가 샘플 크기와 생성형 AI에 집중되어 있다는 한계가 있으나, 개발된 프레임워크가 자동화된 교육적 감사와 비판적 사고 기술을 훈련하기 위한 "환각 시뮬레이터" 제작을 위한 미래 연구의 토대를 마련했다고 결론짓습니다. 본 연구는 교육에서 인간의 주체성과 디지털 주권을 보존하기 위해서는 측정 가능하고 감사 가능한 역량으로의 체계적인 전환이 필요하다고 단언합니다.