1. 문제 정의 (Problem Definition)

대규모 언어 모델 (LLM) 은 복잡한 소프트웨어 시스템에 통합되어 인간이 이해할 수 있는 AI 프로세스 설명 (예: 자동화된 작업 계획 설명) 을 생성하는 데 활용되고 있습니다. 그러나 이러한 설명의 품질과 신뢰성은 프롬프트 엔지니어링 (Prompt Engineering) 에 크게 의존합니다.

기존 연구들은 다음과 같은 한계를 가집니다:

• 비체계적 접근: 프롬프트 생성이 인간의 직관, 임의의 실험, 또는 단순한 휴리스틱에 의존합니다.
• 다양한 이해관계자의 요구 무시: AI 전문가, 도메인 전문가, 비전문가 등 다양한 이해관계자는 서로 다른 인지 능력, 전문성, 그리고 설명 선호도 (세부성, 어조, 구조) 를 가집니다.
• 동적 인지 상태 반영 부재: 사용자의 피로도, 주의력, 업무 부하 등 시간에 따라 변하는 인지 상태 (Cognitive State) 를 고려하지 않은 정적 (Static) 인 프롬프트는 설명의 효과성을 떨어뜨립니다.
• 명시적 피드백의 부담: 사용자에게 명시적인 선호도를 계속 요구하는 것은 인지적 부담을 주며, 실제 환경에서는 피드백 수집이 어렵거나 불완전할 수 있습니다.

따라서, 사용자의 잠재적 인지 상태 (Attention, Comprehension) 와 관찰 가능한 상호작용 피드백을 모두 고려하여 자동으로 적응형 (Adaptive) 프롬프트를 생성하고 설명을 최적화하는 체계가 필요합니다.

2. 방법론 (Methodology: COMPASS)

저자들은 COMPASS (COgnitive Modelling for Prompt Automated SynthesiS) 라는 자기 적응형 (Self-adaptive) 접근법을 제안합니다. 이는 프롬프트 엔지니어링을 확률적 의사결정 과정으로 형식화합니다.

2.1 핵심 아키텍처

COMPASS 는 MAPE-K (Monitor, Analyze, Plan, Execute, Knowledge) 루프를 기반으로 하며, 두 가지 주요 단계로 구성됩니다:

1. S1: 문제 생성 (Problem Generation)

   • 이해관계자가 제공한 자연어 기반의 계획 문제를 GenAI 를 사용하여 AI 플래너 (Adaptive-AI Planner) 가 처리할 수 있는 구조화된 형식 (예: JSON, PDDL) 으로 변환합니다.
   • 이 단계에서 생성된 계획 (Task Plan) 은 최적화 목표 (비용 최소화, 성공 확률 최대화 등) 를 만족합니다.

2. S2: 적응형 설명 합성 (Adaptive Synthesis of Plan Explanations)

   • 사용자 모니터링: 사용자 프로필, 피드백 (수락/거부), 그리고 인지 상태 예측 데이터 (Deep Learning 기반) 를 수집합니다.
   • POMDP 모델링: 사용자의 잠재적 인지 상태 (Hidden State) 를 직접 관찰할 수 없다는 점을 고려하여 부분 관찰 가능 마르코프 결정 과정 (POMDP) 을 사용합니다.
     • 상태 (State): 사용자의 실제 인지 수준 (주의력, 이해도 등) - 관찰 불가
     • 관측 (Observation): DNN 예측기로부터 얻은 인지 상태 예측치 및 사용자의 명시적 피드백 (수락/거부).
     • 행동 (Action): LLM 프롬프트의 요소 선택 (세부 수준, 어조, 포맷 등).
     • 보상 (Reward): Prospect Theory(전망 이론) 를 기반으로 정의된 '수용 확률' 및 '인지적 부하'를 고려한 유틸리티 함수.
   • 정책 합성: POMDP 를 분석하여 (PRISM 모델 체커 사용), 주어진 사용자 프로필과 인지 상태 예측에 따라 설명의 수용 확률을 최대화하는 최적의 프롬프트 정책 (Policy) 을 도출합니다.
   • 적응 (Adaptation): 새로운 피드백이나 인지 상태 변화가 감지되면 POMDP 모델을 업데이트하고 최적 정책을 재계산하여 설명을 동적으로 조정합니다.

2.2 기술적 특징

• 불확실성 처리: 사용자의 실제 인지 상태는 불확실하므로, 단일 추정치가 아닌 '신념 상태 (Belief State)' 확률 분포를 유지합니다.
• 프롬프트 슬롯 매핑: POMDP 의 최적 행동은 프롬프트 내의 슬롯 (예: <user_profile>, <tone>, <format>) 을 채우는 구체적인 텍스트로 매핑됩니다.
• 피드백 루프: 사용자의 수락/거부 이력을 통해 보상 구조를 업데이트하고, 이는 다음 설명 생성 시 반영됩니다.

3. 주요 기여 (Key Contributions)

1. POMDP 기반 프롬프트 생성 형식화: 관찰 가능한 상호작용과 관찰 불가능한 인지 상태를 모두 포착하는 프롬프트 생성 문제를 POMDP 로 형식화한 개념적 프레임워크 제시.
2. COMPASS 접근법: 사용자 피드백, 인지 예측, 맥락적 변화를 기반으로 LLM 프롬프트와 설명을 동적으로 조정하는 자기 적응형 시스템 구현.
3. 벤치마크 데이터셋: 3 가지 이해관계자 프로필 (AI 전문가, 도메인 전문가, 비전문가) 에 맞춰 72 개의 설명을 생성한 데이터셋 (톤, 세부 수준, 포맷 변형 포함).
4. 검증: 건설 및 농업 분야의 사이버 - 물리 시스템 (CPS) 사례 연구를 통한 개념 증명 (Proof-of-Concept) 및 사용자 연구 (32 명) 를 통한 정성/정량적 평가.

4. 실험 결과 (Results)

두 가지 CPS 사례 연구 (건설, 농업) 와 32 명의 참가자를 대상으로 한 사용자 연구를 수행했습니다.

• RQ1 (문제 생성 가능성): GPT-5, Gemini-2.5-Pro, DeepSeek-V3.2 등 다양한 LLM 을 사용하여 자연어 문제를 JSON 형식의 플래너 입력으로 변환하는 데 성공했습니다. (DeepSeek-V3.2 가 가장 높은 성공률을 보임).
• RQ2 (적응성): 사용자 프로필 변경, 피드백 (수락/거부) 누적, 그리고 시간대별 인지 상태 (주의력 저하) 변화에 따라 COMPASS 가 설명의 세부 수준, 어조, 포맷을 성공적으로 조정함을 시나리오 기반으로 입증했습니다.
  • 예시: 비전문가에게는 요약된 구어체 리스트를, AI 전문가에게는 상세한 기술적 단락을 제공하며, 피드백이 부정적일 경우 포맷을 변경하거나 주의력이 낮을 때는 정보를 간소화했습니다.
• RQ3 (정렬성 - Alignment): 생성된 설명이 의도된 프롬프트 속성 (톤, 세부성, 포맷) 과 일치하는지 평가했습니다. 대부분의 경우 어조와 포맷이 잘 인식되었으나, '세부 수준'의 경우 주관적 해석 차이로 인해 혼란이 발생했습니다. 적응형 설명이 비전문가와 AI 전문가의 만족도를 높이는 경향을 보였습니다.
• RQ4 (개인화 - Personalisation): 생성된 설명이 의도된 사용자 프로필 (전문가 vs 비전문가) 로 인식되는지 평가했습니다.
  • 무작위 선택 (33.3%) 보다 높은 정확도 (건설: 49.8%, 농업: 62.4%) 로 프로필이 식별되었습니다.
  • AI 전문가용 설명이 가장 잘 식별되었으나, 비전문가용 설명은 기술적 용어가 포함되어 있어 식별이 어려웠습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 인지적 고려의 자동화: 사용자의 명시적 피드백에 의존하지 않고, 잠재적 인지 상태와 행동 데이터를 결합하여 설명을 최적화함으로써, 복잡한 시스템에서의 인간-AI 협업 효율성을 높입니다.
• 확률적 접근의 가치: 사용자의 반응이 불확실하고 동적이라는 점을 POMDP 를 통해 체계적으로 모델링하여, 고정된 설명 방식의 한계를 극복합니다.
• 실용적 적용 가능성: 건설 및 농업과 같은 실제 산업 환경 (CPS) 에서 적용 가능성을 입증하여, 향후 자율 시스템의 투명성 (Transparency) 과 신뢰성 (Trustworthiness) 확보에 기여할 수 있음을 보였습니다.

이 연구는 LLM 기반 설명 생성이 단순한 텍스트 생성을 넘어, 사용자의 인지 상태와 맥락을 이해하는 적응형 의사결정 시스템으로 발전할 수 있음을 시사합니다.