Agentic and Generative AI for Open-Source Intelligence and Cyber Investigations: Taxonomy, Evaluation, Challenges, and Future Directions
이 서베이는 OSINT 분야의 에이전틱 및 생성형 AI를 위한 11개 범주의 분류 체계를 구축하기 위해 74개의 연구를 체계적으로 검토하고, 환각 현상의 인지된 위험과 그 실증적 측정 사이의 결정적인 간극을 식별하며, 정보 생애 주기 전반에 걸친 현재 연구의 강점과 약점을 매핑하고, 가장 실행 가능한 단기적 배포 전략으로서 인간 참여형 코파일럿(human-in-the-loop co-pilot) 모델을 옹호하는 10개 항목의 의제를 제안한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
당신이 거대한 미스터리를 풀려는 탐정이라고 상상해 보세요. 단서들은 여기저기 흩어져 있습니다: 수백만 개의 소셜 미디어 게시물, 뉴스 기사, 숨겨진 포럼, 그리고 암호화된 메시지들 말이죠. 과거에는 이 모든 단서들을 일일이 직접 읽어야 했습니다. 그것은 느리고, 진을 빼는 일이었으며, 종종 중요한 것을 놓치기도 했습니다.
이제, 당신에게 초스마트 로봇 조수(AI)가 생겼다고 상상해 보세요. 이 로봇은 몇 초 만에 그 모든 단서들을 읽고, 점들을 연결하여 보고서를 작성할 수 있습니다. 이 논문은 이 로봇 조수가 과연 그 일을 할 준비가 되었는지 알아내기 위해 74개의 서로 다른 연구를 검토한 방대한 리뷰 논문입니다.
연구자들이 발견한 내용을 일상적인 비유를 사용하여 쉽게 정리해 드립니다:
1. 로봇은 빠르지만, 정직한지는 알 수 없다
논문은 로봇(이하 "에이전틱 AI" 또는 "생성형 AI")이 정보를 수집하고 정리하는 데 매우 뛰어나다고 말합니다. 이는 마치 당신이 존재조차 몰랐던 책들을 찾아내는 초고속 사서와 같습니다.
하지만 큰 문제가 있습니다: 우리는 이 로봇이 얼마나 자주 거짓말을 하는지 잘 모릅니다.
- "환각(Hallucination)" 문제: AI의 세계에서 "환각"이란 로봇이 사실처럼 들리는 거짓말을 자신 있게 말하는 것을 의미합니다.
- 발견된 사실: 연구자들은 74개의 연구를 살펴보았습니다. 그중 20개 이상의 연구가 "이봐요, 이 로봇은 거짓말을 할 수도 있어요"라고 인정했습니다. 하지만 실제 OSINT(공개 출처 정보) 상황에서 로봇이 얼마나 자주 거짓말을 하는지 실제로 측정하려고 시도한 연구는 단 하나뿐이었습니다. 그 한 가지 연구는 4%의 거짓말 비율을 발견했지만, 이는 완벽하고 쉬운 조건에서 수행된 것이었습니다.
- 비유: 이것은 마치 어떤 학생이 수학 시험을 통과할 수 있다고 주장하는 것과 같습니다. 20명은 "저 학생이 부정행위를 할지도 몰라"라고 말하지만, 실제로 시험지를 건네준 사람은 단 한 명뿐입니다. 나머지는 확인도 하지 않은 채 그 학생이 정직할 것이라고 가정해 버린 것입니다.
2. 로봇은 시작은 잘하지만, 마무리는 못 한다
연구자들은 탐정의 업무 흐름을 다음과 같이 정리했습니다:
- 단서 수집 (수집)
- 단서 읽기 및 분류 (분석)
- 진위 여부 확인 (검증)
- 최종 보고서 작성 (보고)
- 최종 결정 내리기 (의사결정 지원)
발견된 사실: 로봇은 1단계와 2단계에 탁월합니다. 로봇은 인간보다 더 잘 단서를 수집하고 분류할 수 있습니다. 하지만 3, 4, 5단계에서는 거의 완전히 무시됩니다.
- 비유: 이것은 로봇에게 가구 옮기는 힘든 일(수집 및 분류)을 시켜놓고, 정작 예술 작품을 벽에 배치하거나 소파를 어디에 둘지 결정하는 섬세한 작업은 인간이 하도록 기대하는 것과 같습니다. 논문은 우리가 힘든 육체노동에만 너무 집중한 나머지, 실수가 발생했을 때 가장 치명적인 섬세하고 중요한 부분들을 간과하고 있다고 지적합니다.
3. "시험 점수" vs "실제 업무"
이 로봇들을 테스트하는 방식에는 큰 차이가 있습니다.
- 객관식 테스트: 어떤 연구들은 로봇에게 간단한 객관식 질문(예: 상식 퀴즈)을 던져 테스트합니다. 여기서 로봇은 인간 전문가를 이기고 91%의 점수를 받습니다.
- 실제 업무 테스트: 다른 연구들은 로봇에게 수백 개의 문서를 읽고, 숨겨진 연결 고리를 찾아내며, 보고서를 작성해야 하는 복잡하고 실제적인 사건을 부여합니다. 이 테스트에서 로봇은 실패합니다. 로봇은 복잡성이나 불확실성을 감당하지 못합니다.
- 비유: 이것은 운전 시뮬레이터에서 만점을 받은 운전자가, 비가 오고 보행자가 있는 실제 도로에서 운전대를 잡자마자 사고를 내는 것과 같습니다. 논문은 높은 시험 점수에 속지 말라고 경고합니다.
4. "오염된 우물"의 위험
논문은 무서운 위험을 강조합니다: 만약 로봇이 찾는 단서들이 사실 가짜라면 어떻게 될까요?
- 발견된 사실: 연구자들은 악의적인 행위자들이 유사한 AI 도구를 사용하여 가짜 뉴스나 가짜 위협 보고서를 작성할 수 있음을 보여주었습니다. 로봇이 이러한 가짜 보고서를 읽게 되면, 이를 믿고 자신의 "지식 기반"에 추가합니다.
- 비유: 당신의 로봇 조수가 마실 물을 얻기 위해 강에서 물을 길어 올리고 있다고 상상해 보세요. 그런데 누군가 상류에 몰래 독을 풀어 놓았습니다. 로봇은 물이 오염되었다는 것을 모르고, 그저 물을 마신 뒤 당신에게 "이 물은 아주 좋습니다!"라고 말합니다. 논문은 로봇에게 진짜 물과 독이 든 물을 구별할 수 있는 내장 필터가 없다고 말합니다.
5. 해결책: "코파일럿(부조종사)" 모델
그렇다면 로봇을 해고해야 할까요? 아닙니다. 논문은 로봇을 계속 사용하되, 사용하는 방식을 바꾸어야 한다고 말합니다.
- 권고 사항: 우리는 "인간 참여형(Human-in-the-Loop)" 모델을 사용해야 합니다. 이것은 비행기의 **코파일럿(부조종사)**을 생각하면 쉽습니다.
- 로봇(코파일럿)은 지루하고 힘든 일을 합니다: 데이터 수집, 파일 분류, 첫 번째 초안 작성 등입니다.
- 인간(기장)은 조종석에 앉아 로봇의 작업을 검토하고, 사실을 확인하며, 최종 결정을 내립니다.
- 이유는 무엇인가? 로봇은 빠르지만 거짓말을 하거나 속기 쉽기 때문입니다. 인간은 느리지만 거짓을 찾아낼 수 있는 판단력을 가지고 있습니다. 로봇의 신뢰성을 100% 증명할 수 있을 때까지, 항상 인간이 조종간을 잡고 있어야 합니다.
요약
논문은 AI가 정보 업무를 위한 강력한 새로운 도구이긴 하지만, 현재로서는 단독으로 사용하기에는 너무 위험하다고 결론짓습니다. 이는 아직 안전 테스트가 충분히 이루어지지 않은 강력한 엔진과 같습니다. 우리는 로봇이 혼자서 자동차를 운전하게 하기 전에, 더 나은 안전 장치(거짓말 테스트, 가짜 뉴스 테스트, 법적 규칙 등)를 구축해야 합니다. 당분간 최선의 방법은 파트너십입니다. 로봇은 힘든 일을 하고, 인간은 그것이 진실인지 확인하는 역할을 하는 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.