What Types of Human-AI Teams Exist?

기술 요약: "어떤 유형의 인간-AI 팀이 존재하는가?"

문제 제기
인간-AI 팀워크(Human-AI Teaming) 분야는 기하급수적인 성장을 경험했으나, 결정적인 정의적 모호성이 지속되고 있다. 용어 자체는 인간과 AI가 공유된 목표를 향해 상호 의존적으로 협력하는 것을 광범위하게 의미하지만, 기존 문헌 검토에 따르면 연구들이 '팀워크'의 역동성보다는 AI의 기술적 측면에 치중되어 있음이 나타났다. 결과적으로, 언제 AI가 단순한 '도구'에서 '팀원'으로 전환되는지 구분하기 어려우며, 동일한 범주형 정의 아래 구체적으로 어떤 유형의 팀들이 연구되고 있는지 불분명하다. 이러한 구체성의 결여는 서로 다른 팀 구성(예: 다양한 과업 상호의존성, 역할 구조, 리더십 패턴 등)이 흔히 혼재되어 나타남에 따라, 연구 간의 통찰력을 전이하는 데 방해가 된다. 저자들은 명확한 팀 유형에 대한 분류 체계 없이는 연구를 종합하거나 이를 안전 필수 영역 또는 규제 프레임워크에 적용하는 것이 저해될 것이라고 주장한다.

연구 방법론
이를 해결하기 위해 저자들은 PRISMA 확장 가이드라인을 준수하여 인간-AI 팀워크에 관한 실험 연구에 대한 범위 검토(scoping review)를 수행하였다.

• 데이터 수집: ACM Digital Library, IEEE, Web of Science 검색을 통해 초기 552편의 논문을 확보하였다. 제목 및 키워드에서 "human-AI team"이라는 특정 문구를 확인하고, 비실험적 연구를 제외하며, 해당 문구가 실질적인 설명 없이 키워드로만 사용된 논문을 제거한 후, 최종 데이터셋은 53편의 실험 논문(54개의 개별 연구 분석)으로 구성되었다.
• 분석 프레임워크: 저자들은 [7]에서 제공하는 심리학적 팀워크 분류 체계를 사용하여 **연역적 내용 분석(deductive content analysis)**을 적용하였다. 이 프레임워크는 다음을 기준으로 팀을 분류한다:
  • 과업 수준 특성: 수행되는 작업의 유형 (예: 관리, 조언, 문제 해결, 정신운동적 행동).
  • 팀 수준 특성: 과업 상호의존성(결합형, 순차형, 호혜형, 집약형), 역할 구조(기능적 vs. 분업적), 리더십 구조, 커뮤니케이션 구조, 물리적 분포, 팀 수명 등 포괄적인 구조적 변수.
• 적응: 저자들은 인간 중심의 분류 체계를 AI에 적용하는 과정에서, 특히 물리적 분포(인간과 AI가 동일한 환경을 공유하는지 여부로 해석)와 팀 수명(과업이 일회성 이벤트인지 장기적 배열의 일부인지로 해석)에 대해 미세한 재해석이 필요함을 언급하였다.
• 클러스터링: 53편의 논문은 팀 수준의 특성에 따라 클러스터링되었다. 7개의 클러스터가 식별되었으나, 주요 결과로는 최소 3개의 연구를 포함하는 가장 큰 5개의 클러스터만을 보고하였다.

핵심 기여

1. 예비 분류 체계: 본 논문은 현재 문헌에서 연구되고 있는 인간-AI 팀의 5가지 뚜렷한 하위 유형을 식별하는 초기 분류 시스템을 제안한다.
2. 정의적 격차 식별: 분석 결과, "인간-AI 팀워크"라는 단일 용어 아래 그룹화된 연구들이 실제로는 고유한 특성 조합을 가진 이질적인 팀 구성을 나타내고 있음을 밝혀냈으며, 이는 이러한 유형 간에 통찰력이 직접적으로 전이 가능하다는 가정을 반박한다.
3. 보고 지침: 저자들은 미래 연구의 구체성과 명확성을 높이기 위해, 연구자들이 팀 수준의 특성을 명시적으로 정의하도록 권장하는 체크리스트를 제공한다.

연구 결과
54편의 실험 연구를 분석한 결과, 1인 인간과 1인 AI 구성(34편)에 대한 강력한 선호도가 나타났으며, 주로 게임, 객체 분류, 항공/군사/우주 영역에서 발견되었다. 식별된 5가지 팀 클러스터는 다음과 같다:

1. AI 어시스턴트 (AI Assistant) (18개 연구, 34%):

   • 구조: 순차적 과업 상호의존성, 기능적 역할, 지정된 리더십, 체인 커뮤니케이션.
   • 역동성: 인간과 AI가 차례대로 작업하며, AI는 조언이나 예측을 수행하고 인간은 최종 결정을 관리한다. 역할은 상호 교환 불가능하다.
   • 맥락: 주로 장기적이거나 임시적이며, 대개 동일 위치(colocated)에 존재한다. 분류 및 사이버 보안 과업에서 흔히 나타난다.

2. 임시적 의존성 (Ad-hoc Dependency) (11개 연구, 20%):

   • 구조: 집약적 과업 상호의존성, 기능적 역할, 분산된 리더십, 스타(star) 커뮤니케이션.
   • 역동성: 최소 3명의 구성원(인간과 AI의 혼합)으로 이루어진 그룹이 상호 교환 불가능한 역할을 가지고 하나의 단위로 작동한다. 리더십은 동시에 공유된다.
   • 맥락: 일반적으로 임시적(특정 과업 후 해체)이다. 항공, 재난 대응, 퍼즐 분야에서 흔히 나타난다.

3. 강제적 임시 의존성 (Ad-hoc Forced Dependency) (6개 연구, 11%):

   • 구조: 호혜적 과업 상호의존성, 기능적 역할, 지정된 리더십, 체인 커뮤니케이션.
   • 역동성: 인간과 AI가 상호작용을 주고받으며, 어느 한쪽이 단독으로 과업을 완수할 수 없기에(예: 보완적 정보 접근권) 상호작용이 "강제"된다.
   • 맥락: 임시적 수명을 가진다. 게임 및 재난 대응 시뮬레이션에서 흔히 나타난다.

4. 쌍의 동등성 (Paired Equanimity) (4개 연구, 7%):

   • 구조: 호혜적 과업 상호의존성, 분업적 역할, 분산된 리더십, 스타 커뮤니케이션.
   • 역동성: 인간과 AI가 동일한 역할을 함께 수행하며(상호 교환 가능), 리더십을 공유하고 자유롭게 소통한다.
   • 맥락: 임시적이다. 팀워크 게임(예: Rocket League)에서 흔히 나타난다.

5. 그룹 동등성 (Group Equanimity) (3개 연구, 6%):

   • 구조: 집약적 과업 상호의존성, 분업적 역할, 분산된 리더십, 스타 커뮤니케이션.
   • 역동성: 최소 3명의 구성원(인간과 AI의 혼합)이 모두 동일한 역할을 수행하며 리더십을 공유한다.
   • 맥락: 임시적이다. 퍼즐 및 교육 분야에서 흔히 나타난다.

또한, 분석 결과 25%의 논문은 클러스터를 형성하지 못했으며, 이는 아직 널리 연구되지 않은 고유한 특성 조합을 나타냈다. 나아가, 많은 연구(특히 클러스터 1)에서 AI가 팀원이 아닌 단순한 도구로 인식될 경우 엄밀한 의미의 "팀워크"에 부합하지 않을 수 있다는 점을 지적하며, 현재 용어 적용에 대한 의문을 제기하였다.

의의 및 주장
본 논문은 현재의 분야가 서로 다른 유형의 인간-AI 팀을 구분할 수 있는 분류학적 언어가 부족하다고 주장한다. 저자들의 주장은 다음과 같다:

• 통찰력의 비전이성: "클러스터 1(AI 어시스턴트)" 연구의 결과는 리더십, 커뮤니케이션, 상호의전성 등의 근본적인 차이로 인해 "클러스터 4(쌍의 동등성)" 연구에 확신을 가지고 적용할 수 없다.
• 정의적 모호성: 현재의 인간-AI 팀워크 정의는 너무 광범위하여, 단순한 도구 사용이나 정의가 암시하는 "고유하고 보완적인 능력"을 갖추지 못한 AI를 포함하는 연구까지 포함할 가능성이 있다.
• 안전 및 규제: 에이전트형 AI 시스템이 보편화됨에 따라, 안전 분석, 규제 프레임워크 및 도덕적 책임 할당을 위해 더 명확한 분류 체계가 필수적이다.
• 향후 방향: 분야는 광범위한 정의를 넘어 연구 중인 정확한 팀 수준의 특성을 명시하는 방향으로 나아가야 한다. 저자들은 인간-AI 팀워크의 정의를 해결했다고 주장하는 것이 아니라, 기존 연구를 분류하고 격차(예: 현재 과소 대표된 결합형 상호의존성 또는 외부 관리자 리더십 구조 등)를 식별하기 위한 프레임워크를 제공하는 것이다.

논문은 결론적으로 연구자들이 제안된 체크리스트를 사용하여 팀 특성을 명시적으로 보고함으로써, 문헌의 종합을 용이하게 하고 보다 정밀한 미래 연구를 가능하게 할 것을 촉구한다.