LAAF: A Layered Accountability Architecture Framework for LLM Applications
본 논문은 고위험 AI 배포 시 발생하는 책임성 결여 문제를 해결하기 위해 EU AI 법 및 NIST AI RMF와 같은 글로벌 표준에 부합하도록 기술적, 인간적, 조직적, 문서화 메커니즘을 4계층 모델로 합성한, 122개의 연구 및 규제 문헌에 대한 체계적 검토로부터 도출된 LLM 애플리케이션을 위한 계층적 책임 구조 프레임워크인 LAAF를 제시한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
현대 사회에서 거대 언어 모델이라 불리는 강력한 컴퓨터 프로그램은 글쓰기, 계획 수립, 질문 답변을 위한 흔한 도구가 되었습니다. 이 시스템들은 단순히 데이터베이스에서 일치하는 사실을 검색하는 것이 아니라, 방대한 양의 텍스트로부터 학습한 패턴을 바탕으로 문장에서 다음에 올 단어를 예측합니다. 이러한 능력 덕분에 이들은 인간과 유사한 유창함을 보여주며, 종종 자신감 있고 권위 있게 들리는 문단을 생성해 냅니다. 그러나 이러한 유창함에는 숨겨진 결함이 있습니다. 시스템이 문법적으로는 완벽하지만 완전히 틀린 진술을 생성할 수 있다는 점이며, 연구자들은 이를 '환각(hallucination)'이라고 부릅니다. 일상적인 대화에서 잘못된 답변은 그저 짜증스러운 일에 불과하지만, 병원, 은행, 법원과 같은 중요한 환경에서 자신감 넘치는 실수는 실질적인 해를 끼칠 수 있습니다. 이러한 오류가 발생할 때 어려운 질문이 생깁니다. 과연 누구에게 책임이 있는가? 프롬프트를 작성한 사람인가, 소프트웨어를 만든 회사인가, 아니면 그것을 도입한 기관인가? 수년 동안 이 질문에 대한 답은 불분명했으며, 이는 기술의 급격한 발전과 이를 관리하기 위해 필요한 규칙 사이의 간극을 남겨두었습니다.
한 연구팀은 이러한 시스템에 어떻게 책임을 물을 것인지에 관한 기존 문헌들을 대규모로 검토함으로써 이 수수께끼를 풀기 위해 나섰습니다. 그들은 2022년 초부터 2026년 초 사이에 발표된 수천 건의 문서를 조사하였으며, 122개의 핵심 연구와 12개의 공식 규제 문건으로 범위를 좁혔습니다. 그들의 목표는 단순히 문제점을 나열하는 것이 아니라, 문제가 발생했을 때 책임이 정확히 어떻게 추적되고, 설명되며, 실행될 수 있는지 그 경로를 그려내는 것이었습니다. 그들은 현재의 접근 방식이 파편화되어 있다는 것을 발견했습니다. 기술 전문가들은 코드 내의 오류를 감지하는 방법에 집중하는 반면, 정책 전문가는 법과 윤리에 집중하며, 이 두 집단은 좀처럼 같은 언어로 대화하지 못합니다. 더욱이, 기존 문헌들은 단순히 인간이 결과물을 살펴보는 것만으로 충분하다고 가정하는 경우가 많으며, 정작 그 인간이 실제로 무엇을 해야 하는지, 어떤 정보가 필요한지, 혹은 잘못된 결정을 막을 수 있는 권한이 있는지에 대해서는 명시하지 않습니다.
이러한 혼란에 질서를 부여하기 위해, 연구진은 LAAF라고 불리는 새로운 프레임워크, 즉 '계층적 책임 구조 프레임워크(Layered Accountability Architecture Framework)'를 제안했습니다. 그들은 이 AI 시스템을 사용하는 전체 과정을 아래에서 위로 올라가는 네 가지 뚜렷한 계층으로 구성했습니다. 첫 번째 계층은 소프트웨어 자체의 기원을 다루며, 모델이 어디에서 왔고 어떤 데이터로 학습되었는지에 대한 명확한 기록을 요구합니다. 두 번째 계층은 특정 애플리케이션에서의 소프트웨어 사용 방식에 초점을 맞추며, 시스템이 신뢰할 수 있는 출처를 바탕으로 자신의 답변을 스스로 검증하고 모든 단계를 기록하도록 보장합니다. 세 번째 계층은 인간을 루프 안에 배치하는데, 여기서 인간은 단순히 수동적인 관찰자가 아니라, 출력값이 안전하지 않거나 부정확해 보일 경우 기계를 제어할 수 있는 권한을 가진 능동적인 검토자 역할을 합니다. 마지막 계층은 조직적 차원으로, 기업이 규칙을 수립하고, 개인에게 구체적인 역할을 할당하며, 실수를 바로잡고 피해를 입은 이들에게 보상할 수 있는 경로를 만드는 단계입니다.
연구 결과, 우리는 오류를 점검하기 위한 많은 도구를 보유하고 있지만, 이들은 종-종 고립되어 사용된다는 점이 드러났습니다. 예를 들어, 어떤 시스템은 우수한 로깅(logging) 능력을 갖추고 있을지 모르지만, 문제가 발생했을 때 누가 그 로그를 검토할지에 대한 명확한 계획이 부족할 수 있습니다. 연구진은 우리가 진정으로 책임을 지는 것을 방해하는 네 가지 주요 격차를 식별했습니다. 즉, 인간이 이러한 시스템을 어떻게 감독해야 하는지에 대한 명확한 규칙이 없고, 성공을 측정하는 공유된 방식이 부족하며, 기술 분야와 법률 분야가 여전히 단절되어 있고, 대부분의 제안된 해결책이 실제 세계가 아닌 시뮬레이션 상에서만 테스트되었다는 점입니다. 또한 그들은 투명성을 확보하여 책임을 증명하는 것과 보안 및 비즈니스 이익을 위해 정보를 비밀로 유지하는 것 사이의 갈등과 같이 해결하기 어려운 다섯 가지 깊은 긴장 관계를 강조했습니다.
연구팀이 구축한 이 프레임워크는 유럽연합(EU)의 AI 법(AI Act)이나 미국 및 국제 기구의 표준과 같은 기존 법률과 함께 작동하도록 설계되었습니다. 이 프레임워크는 사이버 보안을 책임의 핵심 요소로 취급하며, 만약 시스템이 속거나 조작될 수 있다면 그 출력물에 대해 누구도 진정으로 책임을 질 수 없다는 점을 인식합니다. 기술적 통제를 인간의 감독 및 조직적 거버넌스와 정렬함으로써, 이 프레임워크는 단 하나의 실수를 통해 계층을 거슬러 올라가 정확히 누가 왜 그런 결정을 내렸는지 찾아낼 수 있는 방법을 제시합니다. 저자들은 이것이 현재의 증거를 바탕으로 한 청사진이지, 모든 상황에서 작동함이 증명된 완성된 제품은 아니라는 점을 주의 깊게 언급하고 있습니다. 그러나 책임을라는 모호한 개념을 구조화된 4단계 시스템으로 전환함으로써, 그들은 강력한 인공지능과 그에 대해 책임을 져야 하는 인간 사이의 복잡한 관계를 탐색하기 위한 첫 번째 종합적인 지도를 제공했습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.