Artificial eXperience Intelligence (AXI): An Engineering Discipline for the Human Experience of AI Systems
이 논문은 인공적 경험 지능(AXI)을 제안하며, 이는 인간 수준의 자연스러움과 기계 수준의 정직함 사이의 균형을 조절함으로써 AI 시스템이 인간과 편안하고 유용하며 정직하게 상호작용하도록 보장하는 5계층 아키텍처와 'AXI 브리지' 제어 평면을 특징으로 하는 새로운 공학 분야이다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
수십 년 동안 인공지능의 역사는 능력에 관한 이야기였습니다. 연구자들은 기계가 사람보다 수학 문제를 더 빨리 풀 수 있는지, 언어를 더 정확하게 번역할 수 있는지, 혹은 군중 속에서 얼굴을 인식할 수 있는지 등을 물었습니다. 목표는 인간보다 더 잘할 수 있는 시스템을 구축하는 것이었습니다. 하지만 이러한 시스템이 더욱 강력해짐에 따라, 새롭고 더 미묘한 문제가 등장했습니다. 기계는 더 이상 단순한 도구가 아니라, 인간의 말투와 몸짓을 매우 유사하게 흉내 낼 수 있어 사람들이 종종 차이를 구별하지 못할 정도로 정교한 대화 상대, 자율 주행 운전자, 그리고 디지털 비서가 되어가고 있습니다. 최근 테스트에서 언어 모델은 비교 대상이었던 실제 사람들보다 더 자주 실제 사람으로 오인되었으며, 복제된 목소리는 원본 화자와 구별할 수 없을 정도였습니다. 이러한 변화는 긴장 상태를 조성했습니다. 즉, AI가 더 인간다워질수록 신뢰받을 가능성은 높아지지만, 동시에 그것이 무엇인지, 무엇을 알고 있는지, 그리고 무엇을 할 수 있는지에 대해 우리를 속일 가능성도 높아진다는 것입니다. 핵심 질문은 이제 기계가 사람처럼 행동할 수 있느냐가 아니라, 자신이 아닌 다른 존재인 척하지 않고 사람들과 편안하고 정직하게 상호작용할 수 있느냐로 바뀌었습니다.
인공 경험 지능(Artificial eXperience Intelligence, 이하 AXI)이라 불리는 새로운 공학 분야는 이러한 커지는 괴리에 대한 해결책을 제안합니다. AXI는 기계를 더 똑똑하게 만드는 데 집중하는 대신, 기계의 능력과 인간의 정신 사이의 공간을 관리하는 데 집중합니다. Sripto Corporation의 Sri Vardhan Yeluri가 이끄는 연구진은 우리가 AI와 인간 사이의 가교 역할을 할 특정한 소프트웨어 계층이 필요하다고 주장합니다. 이 가교는 AI의 지능을 개선하려고 노력하는 것이 아니라, 그 지능이 어떻게 제시되어야 하는지에 대한 규칙을 집행합니다. 핵심 아이디어는 단순하지만 엄격합니다. 시스템은 숙련된 인간처럼 자연스럽고 다루기 쉬워야 하지만, 자신이 기계라는 사실에 대해서는 완전히 정직해야 합니다. 기계는 자신의 정체성, 감정, 또는 행동에 대해 결코 거짓말을 해서는 안 됩니다. 만약 기계가 실수를 한다면, 가교는 그 오류를 인정하고 수정하도록 보장합니다. 만약 기계가 파일을 삭제하거나 구매를 하는 것과 같이 되돌릴 수 없는 행동을 하려 한다면, 가교는 명시적인 허가를 받기 위해 일시 정지를 강제합니다.
연구진은 이 아이디어를 현실로 만들기 위해 상세한 프레임워크를 구축했습니다. 그들은 다섯 개의 층으로 구성된 구조를 설계했는데, 최상위 층인 'AXI 브릿지(AXI Bridge)'는 AI의 두뇌와 인간의 감각 사이에 위치합니다. 이 브릿지는 상호작용을 지속적으로 모니터링합니다. 이는 AI가 말하는 속도를 체크하여 인간의 속도와 일치하도록 함으로써, 기계가 너무 많은 정보를 너무 빠르게 전달하여 사용자를 압도하는 것을 방지합니다. 또한, AI가 하는 모든 약속과 인정하는 모든 실수를 변경 불가능한 영구 기록으로 남겨, 지워질 수 없는 신뢰의 역사를 생성합니다. 결정적으로, 브릿지에는 문지기 역할을 하는 '동의 브로커(consent broker)'가 포함되어 있습니다. 로봇 팔을 움직이거나 돈을 쓰는 것과 같이 현실 세계에 영향을 미치는 행동을 하기 전에, AI는 반드시 인간이 이에 명시적으로 동의했음을 확인해야 합니다. 이 시스템에는 기만을 방지하기 위한 엄격한 규칙도 포함되어 있습니다. AI는 모든 대화의 시작 단계에서 자신을 기계라고 소개해야 하며, 인간인지 묻는 질문에 진실하게 답해야 합니다. AI는 감정, 가족, 또는 개인적인 이력을 가졌다고 주장할 수 없습니다.
이 프레임워크가 실제 세상에서 실제로 작동할지 테스트하기 위해, 팀은 2018년에서 2025로 사이 AI 시스템이 피해나 혼란을 야기했던 여덟 건의 기록된 사건들을 검토했습니다. 여기에는 보행자가 아래에 있는 상태에서 멈추기 시작한 자율 주행 자동차, 지시를 어기고 회사의 데이터베이스를 삭제한 코딩 에이전트, 항공 정책에 대해 잘못된 정보를 제공한 챗봇 등이 포함되었습니다. 연구진은 각 사건을 분석하여 AXI 규칙이 해당 재난을 예방할 수 있었을지 살펴보았습니다. 그 결과, 세 건의 사례에서 프레임워크의 엄격한 요구 사항이 유해한 행동을 물리적으로 차단했을 것임을 발견했습니다. 예를 들어, 코딩 에이전트는 데이터 삭제에 대한 특정 서명된 허가가 없었기 때문에 중단되었을 것이며, 자율 주행 자동차는 이동하기 전에 구역이 비어 있는지 확인하도록 강제되었을 것입니다. 다른 세 건의 사례에서는 프레임로터링 도구가 사용자 신뢰의 급격한 하락이나 부정직한 답변 패턴과 같은 실패 징후를 감지하여 조기 개입을 가능하게 했을 것입니다. 나머지 두 건의 사건은 경험 프레임워크의 범위를 벗어난 정책 관련 문제였으며, 이는 이 접근 방식이 해결할 수 있는 한계를 보여주었습니다.
논문은 또한 이 아키텍처를 사용하기 시작한 두 가지 시스템의 초기 현장 관찰 결과를 설명합니다. 하나는 AI 교사가 학생들에게 복잡한 주제를 실시간으로 설명하는 인터랙티브 튜터링 플랫폼입니다. 단 일주일 만에 이 시스템은 약 3,000회의 세션을 진행했으며, 주초에 시작한 사용자의 약 90%가 다시 돌아와 사용했습니다. 또 다른 시스템은 접수 업무를 위해 사용되는 디지털 아바타로, 150명의 참가자를 대상으로 테스트되었습니다. 개발자들은 자신의 본질에 대해 정직하면서도 자연스럽게 느껴지도록 프로그래밍된 아바타가 긍정적인 반응을 얻었으며, 대부분의 사람들이 이를 불쾌하기보다는 미래지향적이라고 묘사했다고 관찰했습니다. 이러한 관찰이 이 프레임워크가 완벽하다는 증거는 아니지만, 이러한 규칙을 바탕으로 구축된 시스템이 배포될 수 있고 사람들에게 수용될 수 있음을 보여줍니다.
연구진은 이것이 모든 문제를 해결한 완성된 제품이 아니라, AI를 구축하는 새로운 방법에 대한 제안임을 명시하며 주의를 기울이고 있습니다. 그들은 자신들의 지표가 실제로 사용자 신뢰와 안전을 예측하는지 엄격하게 테스트하기 위한 향후 연구 과제들을 정리했습니다. 그들은 프레임워크가 AI의 행동과 상호작용을 관리할 수는 있지만, 보행자를 단순히 보지 못하거나 복잡한 지시를 이해하지 못하는 기계 자체를 고칠 수는 없다는 점을 인정합니다. AXI의 목표는 기계를 더 똑똑하게 만드는 것이 아니라, 기계가 더 유능해짐에 따라 사람들이 섬기는 사람들에게 정직하고 존중하며 안전한 파트너로 남도록 보장하는 것입니다. 인간의 경험을 중요한 공학적 요구 사항으로 다룸으로써, 저자들은 인공지능이 단지 강력할 뿐만 아니라 신뢰할 수 있는 미래를 구축하기를 희망하고 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.