Defining AI Models and AI Systems: A Framework to Resolve the Boundary Problem

이 논문은 AI 규제에서 모호한 'AI 모델'과 'AI 시스템'의 경계 문제를 해결하기 위해 학술 및 규제 문헌을 분석하고, 모델을 '학습된 매개변수와 아키텍처'로, 시스템을 '모델과 입출력 처리 구성요소를 포함한 전체'로 정의함으로써 규제 책임 소재를 명확히 하는 프레임워크를 제안합니다.

핵심

이 논문은 **"인공지능 (AI) 규제에서 '모델'과 '시스템'의 경계가 모호해서 생기는 혼란을 해결하자"**는 주제를 다룹니다.

너무 어렵게 들릴 수 있으니, **'레스토랑'**과 **'요리사'**에 비유해서 쉽게 설명해 드릴게요.

1. 문제 상황: "누가 뭐를 책임져야 할까?"

지금 유럽연합 (EU) 같은 곳에서는 AI 를 만들 때 **제공자 (만드는 사람)**와 **배포자 (쓰는 사람)**에게 각각 다른 책임을 지우고 있습니다. 하지만 정작 **'AI 모델'**과 **'AI 시스템'**이 정확히 무엇인지에 대한 정의가 명확하지 않아서, "이건 모델이 망가진 건데, 시스템이 망가진 건데?"라고 서로 책임을 떠넘기거나 혼란이 생깁니다.

2. 연구 과정: "역사를 뒤져보니..."

저자들은 896 편의 학술 논문과 80 개 이상의 규제 문서를 꼼꼼히 조사했습니다. 그 결과, 현재 쓰이는 많은 정의들이 과거 OECD(경제협력개발기구) 에서 나온 틀을 따라오는데, 시간이 지나면서 오히려 개념이 더 꼬이고 모호해졌다는 것을 발견했습니다.

3. 해결책: "요리사 vs 레스토랑" 비유

저자들은 이 혼란을 해결하기 위해 **'모델'**과 **'시스템'**을 명확하게 구분하는 새로운 정의를 제안합니다.

• AI 모델 = '레시피와 요리사' (The Recipe & The Chef)

  • AI 모델은 단순히 학습된 데이터와 알고리즘 그 자체입니다.
  • 비유하자면, 요리사나 완벽한 레시피입니다. 이 레시피만으로는 요리를 먹을 수 없습니다. 재료를 넣고, 불을 조절하고, 접시에 담는 과정이 필요합니다.
  • 핵심: "무엇을 배우고 어떻게 생각하는가"에 대한 부분입니다.

• AI 시스템 = '레스토랑 전체' (The Whole Restaurant)

  • AI 시스템은 그 모델 (요리사) 에다가, 손님이 주문하는 메뉴판, 주문을 받는 웨이터, 음식을 내주는 접시, 그리고 안전 장치까지 모두 합친 것입니다.
  • 비유하자면, 레스토랑 전체입니다. 요리사 (모델) 가 아무리 훌륭해도, 손님이 주문할 수 있는 시스템이 없으면 레스토랑은 운영될 수 없습니다.
  • 핵심: "모델을 실제로 어떻게 활용하고, 사람과 어떻게 소통하게 만드는가"에 대한 전체 구조입니다.

4. 왜 이 구분이 중요한가요?

이 구분이 명확해야 누가 무엇을 고쳐야 하고, 누가 책임을 져야 하는지 알 수 있습니다.

• 예시: 만약 AI 가 잘못된 답변을 했다면,
  • **모델 (요리사)**이 잘못된 레시피를 가지고 있어서라면? → 모델을 만든 회사가 고쳐야 합니다.
  • **시스템 (레스토랑)**이 잘못된 주문을 받거나, 안전 장치가 고장 나서라면? → 시스템을 운영하는 회사가 고쳐야 합니다.

5. 결론

이 논문은 "모델"과 "시스템"을 명확히 나누는 기준을 제시함으로써, 앞으로 AI 규제나 사고 발생 시 누가 어떤 책임을 져야 하는지를 훨씬 더 명확하게 만들 수 있다고 말합니다. 마치 "요리사 실수"와 "레스토랑 운영 실수"를 구분하듯이, AI 세계에서도 책임 소재를 분명히 하자는 것입니다.

기술 요약

논문 요약: AI 모델과 AI 시스템의 정의 및 경계 문제 해결 프레임워크

1. 문제 제기 (Problem)

최근 등장한 AI 규제 (예: EU AI 법안) 는 AI 가치 사슬 (Value Chain) 상의 다양한 행위자 (제공자, 배포자 등) 에게 서로 다른 의무를 부과하고 있습니다. 그러나 이러한 규제의 핵심 용어인 **'AI 모델 (AI Model)'**과 **'AI 시스템 (AI System)'**에 대한 명확하고 일관된 정의가 부재합니다.

• 경계 모호성: 모델과 시스템 사이의 경계가 불명확하여, 특정 행위자가 어떤 의무를 져야 하는지 판단하기 어렵습니다.
• 실무적 어려움: 모델에 대한 수정이 모델 자체에 국한된 것인지, 아니면 시스템의 비모델 구성 요소 (인터페이스 등) 에 영향을 미치는 것인지 구분하기 어려워 책임 소재가 불분명해집니다.
• 정의의 파생 문제: 기존 표준과 규제 정의들이 OECD 프레임워크에서 파생되었으나, 진화 과정에서 개념적 모호성이 해소되지 않고 오히려 증폭된 것으로 나타났습니다.

2. 연구 방법론 (Methodology)

저자들은 개념적 모호성을 해결하기 위해 다음과 같은 체계적인 연구를 수행했습니다.

• 시스템적 문헌 고찰 (Systematic Review): 896 편의 학술 논문을 체계적으로 검토하여 기존 정의들을 분석했습니다.
• 수동 문서 검토: 규제, 표준, 기술 및 정책 문서 등 80 여 개 이상의 관련 문서를 수동으로 심층 분석했습니다.
• 개념적 분석: 다양한 관점에서 기존 정의를 분석하고, 정의의 계보 (lineage) 와 패러다임의 변화를 추적하여 모호성이 어떻게 누적되었는지를 파악했습니다.

3. 주요 기여 및 제안 (Key Contributions)

이 논문은 기존 정의의 한계를 극복하고 규제 실행을 돕기 위해 다음과 같은 새로운 정의 체계를 제안합니다.

• 개념적 정의 (Conceptual Definitions): 모델과 시스템의 본질적 속성과 두者 간의 관계에 기반한 개념적 정의를 수립했습니다.
• 운영적 정의 (Operational Definitions): 현대의 신경망 기반 머신러닝 AI 에 적용 가능한 구체적인 운영적 정의를 제시합니다.
  • AI 모델 (AI Model): 학습된 **파라미터 (Parameters)**와 **아키텍처 (Architecture)**로 구성됨.
  • AI 시스템 (AI System): AI 모델에 입력/출력 처리 인터페이스 및 기타 추가 구성 요소를 포함한 전체 구조. 즉, 시스템은 모델을 포함하되 모델 그 자체는 아님.

4. 연구 결과 (Results)

• OECD 프레임워크의 한계: 대부분의 표준 및 규제 정의가 OECD 의 초기 프레임워크에서 비롯되었으나, 시간이 지남에 따라 개념적 혼란을 해결하기보다 복잡하게 만들었음이 확인되었습니다.
• 경계 문제의 실증적 해결: 제안된 정의 (모델 = 파라미터 + 아키텍처, 시스템 = 모델 + 인터페이스 등) 를 적용하면, AI 가치 사슬 상의 행위자 간 책임 할당 (Obligation Allocation) 이 명확해집니다.
• 사례 연구 적용: 실제 세계의 사고 사례 (Real-world incidents) 와 이론적 시나리오에 적용한 결과, 제안된 정의가 특정 수정 사항이 모델에 해당하는지 시스템에 해당하는지를 구분하여 규제 준수 여부를 판단하는 데 유효함을 입증했습니다.

5. 의의 및 중요성 (Significance)

• 규제 실행의 명확성: EU AI 법안과 같은 규제 프레임워크가 현장에서 어떻게 적용되어야 하는지에 대한 구체적인 지침을 제공합니다.
• 책임 소재의 명확화: AI 개발, 배포, 사용 과정에서 발생할 수 있는 책임 소재의 혼란을 해소하고, 각 행위자 (제공자, 배포자 등) 가 수행해야 할 의무를 명확히 구분할 수 있는 이론적 토대를 마련했습니다.
• 미래 지향적 프레임워크: 기술의 급속한 발전 (예: 신경망 기반 AI) 에 맞춰 유연하면서도 엄밀한 정의 체계를 제시함으로써, 향후 발생할 수 있는 새로운 AI 규제 쟁점에 대비할 수 있는 기반을 제공합니다.

---

결론적으로, 이 논문은 AI 규제에서 가장 핵심적이면서도 모호했던 '모델'과 '시스템'의 경계를 기술적, 개념적으로 명확히 구분함으로써, 규제 당국과 업계가 AI 가치 사슬 상의 책임을 명확히 할 수 있는 실질적인 프레임워크를 제시했다는 점에서 큰 의의를 가집니다.