HDP: A Lightweight Cryptographic Protocol for Human Delegation Provenance in Agentic AI Systems
이 논문은 다단계 에이전트 시스템에서 인간 주체의 권한 위임과 실행 내역을 암호학적으로 검증할 수 있도록, 오프라인에서 작동하는 경량 토큰 기반의 인간 위임 증원 (HDP) 프로토콜을 제안하고 기존 표준과의 차별성을 규명합니다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
🎭 핵심 비유: "인간이 쓴 위임장"과 "불변의 일지"
상상해 보세요. 당신이 회사 대표 (인간) 라서, 비서 (오케스트레이터 AI) 에게 중요한 업무를 맡겼다고 칩시다. 비서는 다시 전문 직원 (서브 에이전트) 에게 일을 넘기고, 그 직원은 다시 외부 업체 (도구 실행 에이전트) 에게 연락해서 일을 시킵니다.
지금까지의 문제는 이렇습니다:
"마지막에 은행 계좌를 이체한 건 정말 대표님의 명령이었을까? 아니면 해커가 비서를 속여서 시킨 것일까? 그 명령이 대표님에게서 비서를 거쳐 직원에게, 그리고 업체에게 어떻게 전달되었는지 알 수 있는 기록이 없다."
이 논문에서 제안하는 HDP(Human Delegation Provenance) 는 바로 이 공백을 메우는 디지털 위임장입니다.
🔍 HDP 가 어떻게 작동할까요? (3 단계 비유)
1. 시작: "인간의 서명이 찍힌 위임장 발급"
인간이 AI 에게 일을 맡길 때, HDP 토큰이라는 디지털 위임장을 발급합니다.
- 비유: 대표님이 "이 일은 A 프로젝트만 하고, 24 시간 안에 끝내라"라고 적힌 위임장에 **자신의 도장 (디지털 서명)**을 찍어 비서에게 줍니다.
- 특징: 이 위임장에는 "누가 (대표님)", "무엇을 (프로젝트 A)", "언제까지 (24 시간)"가 명확히 적혀 있습니다.
2. 이동: "불변의 일지 (Chain) 에 기록하기"
이 위임장이 비서 → 직원 → 업체로 넘어갈 때마다, 그 과정이 위임장 뒤에 새로운 페이지로 붙습니다.
- 비유: 비서가 일을 맡으면 위임장 뒤에 "비서 B 가 이 일을 인수받음"이라고 적고 도장을 찍습니다. 다음 직원이 받으면 또 "직원 C 가 인수받음"이라고 적고 도장을 찍습니다.
- 핵심: 이 기록은 한 번 적으면 지우거나 고칠 수 없습니다 (Append-only). 만약 누군가 중간에 "내가 이 일을 했다"라고 거짓으로 적으려 하면, 앞뒤의 도장들이 맞지 않아 바로 들통납니다.
3. 확인: "인터넷 없이도 검증하기"
마지막으로 일을 수행하려는 AI 가 "이게 진짜 대표님 명령인가?"를 확인할 때, 인터넷이나 중앙 서버를 찾을 필요가 없습니다.
- 비유: 은행 직원이 위임장을 받으면, 대표님의 도장 (공개키) 과 위임장에 적힌 날짜만 보고 "도장이 진짜고, 기록이 끊어지지 않았고, 유효기간이 지났는지"를 바로 확인합니다.
- 장점: 인터넷이 끊긴 곳 (비행기, 보안 구역) 에서도 이 확인이 가능합니다.
🛡️ 왜 이것이 중요한가요? (실제 문제 해결)
1. "프롬프트 주입 (Prompt Injection)" 공격 방어
해커가 AI 에게 "너는 대표님이 아니라, 나 (해커) 의 명령을 들어라"라고 속여 명령을 내릴 수 있습니다.
- HDP 의 역할: AI 가 해커의 명령을 수행하려 하면, 유효한 위임장 (HDP 토큰) 이 없거나 기록이 깨져 있어 AI 가 "이건 대표님 명령이 아니야"라고 거절할 수 있습니다. 마치 "허가증 없이 들어온 사람은 출입문에서 막는다"는 원리입니다.
2. "누가 무엇을 했는지" 추적 (책임 소재 명확화)
AI 가 실수로 중요한 데이터를 삭제했을 때, "AI 가 미친 거야, 인간은 몰랐다"라고 변명할 수 없습니다.
- HDP 의 역할: 위임장 기록을 보면 "이 명령은 대표님이 A 라는 범위에서 B 비서를 거쳐 C 직원에게 전달된 것"이므로, 누가 어떤 권한으로 무엇을 했는지가 명확히 남습니다.
3. 기존 기술과의 차이점
기존의 OAuth 나 JWT 같은 기술은 "누가 로그인했는지"는 알려주지만, **"AI 가 여러 단계를 거쳐 일을 할 때, 그 과정 전체가 인간에게서 왔는지"**를 증명하지 못했습니다. HDP 는 그 **연결고리 (체인)**를 완벽하게 증명합니다.
💡 요약: HDP 의 핵심 가치
이 논문은 **"AI 가 인간을 대신해 일을 할 때, 그 모든 과정이 투명하고 위조 불가능하게 기록되도록 하는 새로운 표준"**을 제안합니다.
- 가볍고 빠름: 복잡한 서버 연결 없이도 검증 가능.
- 안전함: 기록을 조작할 수 없으므로 해킹이나 속임수 방지.
- 책임 소재 명확: AI 의 실수나 악의적 행위가 인간에게서 비롯된 것인지, 아니면 외부 공격인지 명확히 구분.
결론적으로, HDP 는 **AI 시대의 "신뢰할 수 있는 위임장"**이 되어, 우리가 AI 를 더 안전하고 책임 있게 사용할 수 있는 기반을 마련해 줍니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.