An ontological approach to foster the convergence, interoperability and operationalization of frameworks for Trustworthy AI

1. 문제 제기 (Problem Statement)

• AI 의 급속한 진화와 사회적 영향: 생성형 AI 와 에이전트 AI(Agentic AI) 와 같은 새로운 패러다임이 등장하며 AI 시스템의 능력과 자율성이 급격히 성장하고 있으며, 이는 개인 및 조직 차원에서 사회적 영향을 미치고 있습니다.
• 신뢰할 수 있는 AI (Trustworthy AI) 연구의 격차: AI 기술의 발전 속도에 비해 AI 안전성 (Safety) 연구는 상대적으로 느리게 진행되고 있습니다.
• 현황의 한계: 현재 다양한 신뢰할 수 있는 AI 를 위한 윤리 원칙과 프레임워크가 존재하지만, 전략적 합의 부족, 표준화 부재, 그리고 실제 운영화 (Operationalization) 의 어려움으로 인해 효과적으로 활용되지 못하고 있습니다.
• 핵심 과제: 서로 다른 프레임워크 간의 수렴 (Convergence), 상호운용성 (Interoperability), 그리고 실제 시스템에 적용 가능한 운영화 (Operationalization) 를 달성할 수 있는 기술적 인프라가 필요합니다.

2. 방법론 (Methodology)

저자는 AI 윤리 온톨로지 (AI-Ethics Ontology, AI-EO) 를 제안하며, 이를 구축하기 위해 시맨틱 웹 (Semantic Web) 기술과 온톨로지 엔지니어링 (Ontology Engineering, OE) 방법론을 적용했습니다.

• 개발 프로세스 (Iterative Ontology Development):
  • 단일 프레임워크 분석이 아닌, 반복적 (Iterative) 접근법을 채택했습니다.
  • 입력 데이터: 호주 AI 윤리 원칙 (Australia's AI Ethics Principles) 과 EU 의 신뢰할 수 있는 AI 를 위한 윤리 가이드라인 (EU Ethics Guidelines for Trustworthy AI) 두 가지 주요 프레임워크를 분석 대상으로 선정했습니다.
  • 4 단계 워크플로우 (Fig. 1a):
    1. 지식 구조 (Knowledge Structure): 입력된 프레임워크를 분석하여 핵심 개념을 식별하고 W3C 표준에 따라 온톨로지 구조로 변환합니다.
    2. 지식 추출 (Knowledge Extraction): 비정형 데이터를 온톨로지 스키마에 맞는 반정형 콘텐츠로 변환합니다. 키워드 추출은 AI 기반, 분류 및 조정은 감독 하에 수행됩니다.
    3. 시맨틱 풍부화 (Semantic Enrichment): 엔티티에 참조, 정의, 분석 방법 등 주석 (Annotations) 을 추가하여 추적 가능성 (Traceability) 과 투명성을 확보합니다.
    4. 지식 통합 (Knowledge Consolidation): 각 반복 주기에서 도출된 지식을 온톨로지 내에서 시맨틱 동등성 (Semantic Equivalence) 을 확립하여 통합합니다.
• 진화 모델: 초기에는 새로운 프레임워크 추가에 따라 지식이 급격히 확장되지만 (나선형), 시간이 지남에 따라 공통된 초점으로 인해 수렴 (Convergence) 이 일어나고 포화 (Saturation) 상태에 도달하는 모델을 따릅니다.

3. 주요 기여 (Key Contributions)

• AI-Ethics Ontology (AI-EO) 구현:
  • 기술 스택: OWL 2 (Web Ontology Language) 와 Protege 도구를 사용하여 구현되었으며, Pellet 및 HermiT 레저너 (Reasoner) 를 통해 검증되었습니다.
  • 구조적 특징:
    • 추상화 수준: 기존 온톨로지 (예: AIPO, TAIR) 와 달리, 구체적인 애플리케이션에 개념적으로 더 가까운 추상화된 시맨틱 인프라를 제공합니다.
    • 주요 클래스: '프레임워크', '원칙 (Principle)', '요구사항 (Requirement)', '기본권 (Fundamental Right)', 'AI 차원 (AI Dimension)' 등을 핵심 개념으로 정의했습니다.
    • 관계 정의: 객체 속성 (Object Properties) 을 통해 개념 간의 관계를 정의하고, 'Application', 'Scenario', 'UseCase' 등을 통해 추상 개념을 구체화합니다.
• 시맨틱 상호운용성 및 통합 메커니즘:
  • 시맨틱 동등성 (Semantic Equivalence): 서로 다른 프레임워크에서 동일한 개념 (예: '공정성') 이나 다른 범주에 속하지만 의미상 동일한 개념 (예: 한 프레임워크의 '원칙'과 다른 프레임워크의 '요구사항'인 '책임성') 을 owl:sameAs 등을 통해 통합하여 단일 뷰를 제공합니다.
  • 기술적 특징:
    • 기술적 제약 최소화: 지나치게 엄격한 규범적 (Prescriptive) 접근보다는 유연한 기술적 (Descriptive) 접근을 지향하여 적응성을 높였습니다.
    • 추론 규칙: 도메인 규칙보다는 범위 (Range) 기반 추론 규칙을 사용하여 유연성을 보장합니다.
• 데이터 및 통계:
  • 현재 버전 (v1.0) 은 19 개의 클래스, 10 개의 객체 속성, 192 개의 인스턴스, 1,097 개의 공리 (Axiom) 를 포함하고 있습니다.

4. 결과 및 적용 (Results & Applications)

• 복합 쿼리 및 질의 응답: 온톨로지를 통해 여러 프레임워크에 걸친 통합된 뷰 (Federated View) 를 제공하여, "어떤 원칙이 모든 프레임워크에 존재하는가?", "특정 원칙의 구체적인 사례는 무엇인가?"와 같은 복잡한 질문에 대한 답변을 생성할 수 있습니다.
• 지식 그래프 (Knowledge Graph) 시각화: 온톨로지를 지식 그래프로 시각화하여 (Fig. 4) 복잡한 관계와 구조를 직관적으로 이해할 수 있게 합니다.
• 도구 통합: Protege 등 기존 온톨로지 개발 도구와 호환되며, 규정 준수 확인 (Compliance Checking) 등 다양한 애플리케이션에 쉽게 통합될 수 있는 지식 자산으로 설계되었습니다.
• 동적 진화: 외부 변화에 자연스럽게 대응할 수 있도록 온톨로지의 반복적 진화 프로세스를 확립했습니다.

5. 의의 및 한계 (Significance & Limitations)

• 의의:
  • 표준화 및 상호운용성: 분산된 AI 윤리 프레임워크들을 시맨틱 웹 기술로 통합하여, 서로 다른 표준 간의 장벽을 해소하고 운영화를 가능하게 합니다.
  • 유연한 접근: "규범적 (Prescriptive)"인 강제보다는 "기술적 (Descriptive)"인 설명을 통해 다양한 맥락에서의 적응성을 극대화합니다.
  • 실용성: 이론적 모델에 그치지 않고, 실제 애플리케이션과 개념적으로 근접하도록 설계되어 실용적인 활용이 가능합니다.
• 한계 및 향후 과제:
  • 외부 검증 부족: 현재는 연구 프로토타입 단계이며, 실제 애플리케이션을 통한 외부 검증이 필요합니다.
  • 범위 제한: 현재는 2 가지 프레임워크 (호주, EU) 를 기반으로 한 개념 증명 (PoC) 수준이며, 더 많은 프레임워크와 외부 어휘 (Vocabularies) 로의 확장이 필요합니다.
  • 지식 엔지니어링: 현재는 인간 중심의 개입이 주를 이루고 있으나, 향후 AI 기반 도구를 활용한 하이브리드 지능 (Hybrid Intelligence) 을 통한 지식 추출 및 통합 프로세스의 자동화 및 구조화가 필요합니다.

결론

이 논문은 신뢰할 수 있는 AI 를 위한 다양한 윤리 프레임워크 간의 간극을 메우기 위해 AI-EO라는 온톨로지를 제안했습니다. 이는 시맨틱 웹 기술을 기반으로 하여 프레임워크 간의 수렴, 상호운용성, 운영화를 실현하는 기술적 인프라를 제공하며, 지속적인 반복적 개발을 통해 진화하는 동적인 지식 시스템으로서의 가치를 지닙니다.