Who is Responsible? The Data, Models, Users or Regulations? A Comprehensive Survey on Responsible Generative AI for a Sustainable Future

논문 개요: 책임 있는 생성형 AI 를 위한 포괄적 조사

이 논문은 생성형 AI(Generative AI, GenAI) 가 연구 단계를 넘어 실제 배포 (deployment) 단계로 빠르게 이동함에 따라, 데이터, 모델, 사용자, 규제 중 누가 책임을 져야 하는지에 대한 명확한 프레임워크를 제시합니다. 저자들은 거버넌스 원칙, 기술적 평가, 도메인 배포를 연결하는 최초의 포괄적인 조사를 수행하여 안전하고 책임 있는 AI 배포를 위한 구조화된 경로를 제안합니다.

1. 문제 정의 (Problem Statement)

• 배포와 책임의 불균형: 생성형 AI(대형 언어 모델, 비전 - 언어 모델, 확산 모델, 에이전트 파이프라인 등) 가 급속히 상용화되고 있지만, 조직의 74% 가 GenAI 를 사용함에도 불구하고 전사적인 책임 있는 AI(RAI) 전략을 가진 곳은 26% 에 불과합니다.
• 새로운 위험 양상: 예측형 시스템과 달리 생성형 모델은 개방형 출력, 확률적 비결정성, 다중 모달 합성, 도구 사용 (에이전트) 으로 인한 새로운 실패 모드 (할루시네이션, 프롬프트 인젝션, 데이터 유출, 딥페이크 등) 를 초래합니다.
• 평가의 격차 (Evaluation Gap): 기존 안전 벤치마크는 편향 (Bias) 과 유해성 (Toxicity) 평가에 집중되어 있으나, 프라이버시, 출처 (Provenance), 딥페이크, 에이전트 환경의 시스템 수준 실패에 대한 평가는 부재합니다. 또한, 평가가 정적 (static) 이고 작업 단위 (task-local) 에 국한되어 있어 규제 감사 (audit) 에 활용하기 어렵습니다.
• 규제와 실무의 괴리: NIST AI RMF, EU AI Act 등 거버넌스 프레임워크는 존재하지만, 이를 구체적인 엔지니어링 제어 수단과 연결하는 통합된 리뷰가 부족합니다.

2. 방법론 (Methodology)

• PRISMA 가이드라인 준수: 투명하고 재현 가능한 체계적 문헌 검토를 위해 PRISMA 가이드라인을 따랐습니다.
• 데이터 수집: Scopus, Web of Science, IEEE Xplore, ACM Digital Library, arXiv 등 5 개 주요 학술 데이터베이스를 대상으로 2022 년 11 월부터 2025 년 12 월까지 발표된 논문을 검색했습니다.
• 선정 기준:
  • 포함: GenAI 시스템에 대한 기술적 프레임워크, 평가 지표, 경험적 위험 평가를 제안한 논문 (LLM, VLM, 확산 모델, 에이전트 포함).
  • 제외: 단순 의견, 방법론이 부족한 단편 논문, RAI 와 무관한 도메인 적용 논문.
• 최종 결과: 초기 5,313 건의 기록 중 중복 제거 및 엄격한 스크리닝 과정을 거쳐 232 건의 연구 (초록 및 본문 분석) 를 최종 선정하여 종합했습니다.
• 분석 프레임워크: 연구 질문 (RQ1-RQ4) 을 기반으로 위험, 통제 수단, 평가 방법을 주제별로 분류하고, 10 가지 기준 (C1-C10) 의 평가 척도 (Rubric) 를 개발하여 벤치마크를 평가했습니다.

3. 주요 기여 (Key Contributions)

이 논문은 다음 네 가지 핵심 기여를 제공합니다:

1. 포괄적 조사 (Comprehensive Survey): 거버넌스 원칙, 기술적 평가, 도메인 배포를 모두 아우르는 최초의 조사로, 4 가지 시스템 유형 (LLM, VLM, 확산 모델, 에이전트) 과 4 가지 차원 (분류법, 범위, 평가, 방법론) 을 동시에 다룹니다.
2. 10 가지 기준 평가 척도 (Ten-Criterion Rubric, C1-C10) 및 정책 교차 매핑:
   • 주요 AI 안전 벤치마크를 10 가지 기준 (편향/차별, 유해성, 보안/견고성, 허위 정보, 딥페이크, 프라이버시, 시스템 실패, 악성 행위자 대응, 지표 유효성, 거버넌스 정렬) 에 따라 점수화했습니다.
   • 벤치마크가 어떤 규제 요구사항 (예: EU AI Act, NIST RMF) 을 입증할 수 있는지 매핑하는 '정책 교차표 (Policy Crosswalk)'를 개발했습니다.
3. 수명 주기 KPI 및 실행 가능한 가이드라인:
   • 12 가지 수명 주기 핵심 성과 지표 (KPI) 를 정의하여 데이터 품질, 프라이버시 준수, 편향, 견고성, 설명 가능성, 감사 빈도, 지속 가능성 등을 정량화했습니다.
   • 기초 모델 (Foundation Models) 에 특화된 설명 가능성 (XAI) 가이드와 AI 준비형 테스트베드 (Testbed) 카탈로그를 제시했습니다.
4. 도메인별 심층 분석: 의료, 금융, 교육, 예술, 농업, 국방 등 6 개 주요 도메인에서 GenAI 의 구체적인 위험과 대응 전략을 분석했습니다.

4. 주요 결과 (Key Results)

• 평가의 불균형:
  • 밀집된 영역: 편향 (Bias) 과 유해성 (Toxicity) 평가는 매우 치밀합니다.
  • 부재 영역: 프라이버시, 출처 (Provenance), 딥페이크, 에이전트 환경의 시스템 수준 실패에 대한 평가는 매우 드뭅니다.
  • 벤치마크 점수: 'Rainbow Teaming'이 가장 넓은 위험 표면 (Risk-surface) 을 커버하는 것으로 나타났으며 (0.50 점), 많은 벤치마크가 정적 테스트에 그쳐 적응형 공격 (Adaptive Attack) 에 취약합니다.
• 정적 평가의 한계: 현재 평가는 대부분 정적이고 작업 단위이므로, 실제 배포 환경에서 발생하는 동적 위협 (예: 다단계 할루시네이션, 도구 오용) 을 포착하지 못합니다.
• 문서화의 불일치: 모델 간 비교를 어렵게 만드는 문서화 부재가 발견되었습니다.
• 도메인별 위험:
  • 의료: 임상적 사실의 할루시네이션이 치명적이며, FDA/HIPAA 준수와 인간 - AI 협업 (HITL) 이 필수적입니다.
  • 금융: 대출 차별, 사기 탐지, 금융 조언의 정확성 문제가 핵심이며, SEC/OCC 보고 주기와 맞춘 감사 빈도가 필요합니다.
  • 국방: 자율 무기 시스템의 통제, 의미 있는 인간 통제 (Meaningful Human Control), 시스템 수준 실패 테스트가 가장 큰 격차로 지적되었습니다.
  • 교육/예술: 미성년자 데이터 보호, 저작권, 딥페이크, 학문적 정직성 문제가 대두됩니다.

5. 의의 및 결론 (Significance & Conclusion)

• 책임의 재정의 (Symmetric Responsibility Model):
  • 개발자는 투명성과 정렬 (Alignment) 에 책임이 있고, 사용자는 운영 무결성과 전파 (Dissemination) 에 책임이 있다는 '대칭적 책임 모델'을 제안합니다.
  • 디지털 리터러시는 단순한 기술이 아닌 핵심적인 통제 수단으로 간주되어야 합니다.
• 감사 루프 (Audit Loop) 구축:
  • 기술적 KPI 를 표준화된 감사 산출물 (모델 카드, 레드팀 로그 등) 로 변환하여 규제 기관 (EU AI Act 등) 이 요구하는 증거를 제공하는 'ResGenAI 감사 루프'를 제안했습니다.
• 미래 연구 방향:
  • 적응형 다중 모달 평가, 프라이버시 및 출처 검증, 딥페이크 위험 평가, 지속 가능성 (에너지/탄소 배출) 보고, 그리고 정적 벤치마크를 넘어선 동적 평가 체계로의 전환이 시급합니다.

이 논문은 생성형 AI 의 기술적 발전과 규제적 요구사항을 연결하는 최초의 통합 프레임워크를 제공함으로써, 안전하고 투명하며 지속 가능한 AI 배포를 위한 실질적인 로드맵을 제시한다는 점에서 큰 의의를 가집니다.