단순히 주어진 과업을 수행하는 것을 넘어, 당신의 삶의 리듬을 이해하는 개인 비서가 있다고 상상해 보십시오. 수십 년 동안 인공지능의 꿈은 인간의 목표, 습관, 약속을 충분히 이해하여 우리를 대신해 행동할 수 있는 기계를 만드는 것이었습니다. 하지만 근본적인 문제가 하나 있습니다. 컴퓨터는 사람이 직접 말해주지 않는 한, 그 사람의 마음속을 들여다보거나 무엇을 진정으로 가치 있게 여기는지 알 수 없다는 점입니다. 개인용 AI의 품질은 그 시스템이 무엇을 관찰할 수 있느냐에 따라 제한됩니다. 만약 시스템이 할 일 목록만을 본다면 계획을 서투르게 세울 것입니다. 만약 건강 데이터, 캘린더 이벤트, 음성 메모의 연속적인 흐름을 볼 수 있다면 더 나은 계획을 세울 수도 있겠지만, 이는 시스템이 그것들을 볼 수 있도록 허용되었을 때만 가능한 일입니다. 연구자들에게 핵심적인 질문은 이제 단순히 어떻게 더 똑똑한 소프트웨어를 만들 것인가가 아니라, 사용자가 노출되거나 통제당한다는 느낌 없이 유용한 소프트웨어를 만들기 위해 충분한 정보를 공유할 용의가 생기도록 하는 관계를 어떻게 구축할 것인가로 바뀌었습니다.

이것이 바로 KDD 2026 컨퍼런스에서 발표된 논문에서 앨버타 대학교와 맥이완 대학교의 연구팀이 탐구한 영역입니다. 그들은 "협력적 관찰(cooperative observation)"이라는 새로운 방식의 개인용 AI를 제안합니다. 핵심 아이디어는 단순하면서도 심오합니다. 사람과 AI 사이의 정보 흐에는 기계가 데이터를 가져가는 일방통행이어서도 안 되고, 사용자가 처음에 모든 것을 제공하고 끝나는 정적인 설정이어도 안 된다는 것입니다. 대신, 그것은 피드백 루프가 되어야 합니다. 시스템은 자신이 아는 바를 바탕으로 도움을 주려 노력하고, 사용자는 그 도움이 실제로 유용했는지 판단하며, 그 판단을 바탕으로 사용자는 다음에 시스템이 더 많이 볼지, 적게 볼지, 혹은 다른 것을 볼지를 결정합니다. 이 프레임워크에서 신뢰는 당연하게 주어지는 것이 아니라 유용한 행동을 통해 얻어지는 것이며, 무엇을 관찰할지에 대한 통제권은 이 관계의 토대가 됩니다.

이 아이디어를 테스트하기 위해 연구진은 'Organizm'이라는 프로토타입 시스템을 구축했습니다. 광고나 참여 지표를 위해 데이터를 수집하는 많은 상업용 어시스턴트와 달리, Organizm은 전적으로 사용자의 소유가 되도록 설계되었습니다. 이 시스템은 사용자의 파일 위에서 실행되며, 모든 기억, 로그, 계획을 사용자가 언제든 검사, 편집 또는 삭제할 수 있는 개인 디지털 폴더에 보관합니다. 시스템은 전문화된 에이전트들로 구성된 작은 팀처럼 구조화되어 있습니다. 어떤 에이전트는 즉각적인 노트를 처리하고, 다른 에이전트는 장기적인 목표를 살피며, 세 번째 에이전트는 일일 일정을 관리할 수 있습니다. 이 에이전트들은 모두가 한꺼번에 모든 파일을 읽으려고 시도하지 않습니다. 대신, 이들은 넓은 요약에서 시작하여 작업이 요구될 때만 구체적인 세부 사항으로 파고드는 계층 구조로 작동합니다. 이 설계는 현재 순간에 관련 있는 것에 집중하면서도 성찰을 위한 더 넓은 맥락을 사용할 수 있도록 유지하는 인간의 뇌가 정보를 관리하는 방식을 모방합니다.

연구진은 이 시스템을 실제 환경에서 테스트하기 위해, 2026년 1월부터 6월까지 한 개인의 사용량을 6개월간 추적했습니다. 이것은 수십 명의 참가자를 대상으로 한 통제된 실험실 실험이 아니라, 한 개인의 AI와의 관계가 시간이 흐름에 따라 어떻게 진화하는지에 대한 심층적인 탐구였습니다. 초기에는 사용자가 주로 수동적인 보고, 즉 과업과 목표를 직접 타이핑하는 방식으로 상호작용했습니다. 몇 주가 지나면서 사용자는 시스템에 더 많은 정보원을 연결할 만큼 시스템을 신뢰하기 시작했습니다. 처음에는 스케줄된 이벤트를 볼 수 있도록 캘린더를 연결했습니다. 나중에는 마감 기한을 추적하기 위한 공유 레지스트리와 재무를 추적하기 위한 채널까지 추가했습니다. 시스템은 이러한 연결을 강요하지 않았습니다. 이전의 상호작용이 유용하다는 것이 증명되었기에 사용자가 자발적으로 추가한 것입니다.

연구진이 발견한 것은 명확한 협력 패턴이었습니다. 시스템이 사용자의 시간을 관리하거나 충돌을 포в잡는 데 도움이 되는 계획을 제공했을 때, 사용자는 새로운 정보를 공유하거나 시스템의 실수를 바로잡을 가능성이 더 높았습니다. 예를 들어, 시스템이 처음에 예산 계획에서 반복되는 지출을 놓쳤을 때 사용자가 이를 수정했고, 시스템은 향가 같은 실수를 피하기 위해 그 오류로부터 학습했습니다. 시스템이 너무 야심 찬 일일 일정을 제안했을 때 사용자는 반발했고, 시스템은 더 현실적인 계획 스타일로 조정했습니다. 이 행동, 평가, 조정의 순환이 바로 저자들이 말하는 '협력적 피드백 루프'입니다. 관찰 채널을 확장하여 시스템이 자신의 삶을 더 많이 보도록 허용하려는 사용자의 의지는, 시스템이 선을 넘지 않으면서 진정한 가치를 제공할 수 있는 능력과 직결되어 있었습니다.

연구는 또한 정보가 어떻게 다루어지는지가 중요함을 강조했습니다. 시스템이 사용자 소유의 파일들을 기반으로 구축되었기 때문에, 사용자는 AI가 무엇을 기억하고 있는지, 그리고 그 기억을 어떻게 사용하는지 정확히 볼 수 있었습니다. 이러한 투명성은 매우 중요했습니다. 시스템이 실수를 했을 때, 사용자는 특정 파일이나 잘못 해석된 메모로 거슬러 올라가 원인을 추적할 수 있었습니다. 이러한 검사 가능성 수준은 사용자가 재무 기록이나 건강 관련 목표와 같은 민감한 데이터를 공유하는 데 필요한 신뢰를 구축했습니다. 연구진은 만약 시스템이 사용자가 내부 작동 방식을 볼 수 없는 '블랙박스'였다면, 사용자가 동일한 방식으로 데이터 채널을 확장하지 않았을 것이라고 언급했습니다. 액세스를 취소하거나 특정 기억을 삭제할 수 있는 능력은 사용자에게 통제감을 주어 시스템의 확장되는 지식에 대해 안심할 수 있게 해주었습니다.

하지만 연구진은 이것이 해결된 문제라고 주장하는 데 주의를 기울이고 있습니다. 6개월간의 연구는 단 한 명의 인원을 대상으로 했으며, 결과가 고무적이긴 하지만 이 접근 방식이 모든 사람에게 작동할 것이라고 증명할 수는 없습니다. 연구의 사용자는 논문의 저자였으므로, 기술적으로 숙련되어 있고 동기 부여가 잘 된 상태였을 것이며, 이는 일반적인 사람보다 시스템에 더 적극적으로 참여하게 만들었을 가능성이 있습니다. 연구진은 다른 사용자들의 피드백이 부족하거나 불규칙할 경우, 시스템이 다음에 무엇을 관찰해야 할지 배우는 것이 더 어려워질 수 있다는 점을 인정합니다. 또한 관찰 채널이 더 풍부해짐에 따라(향후 지속적인 오디오, 비디오, 심지어 신경 신호까지 포함할 수 있음), 프라이버시와 자율성에 대한 위험도 증가할 것이라고 지적합니다. 시스템은 사람이 공유하려 의도하지 않은 건강 상태나 정신 상태 등을 추론할 수 있으며, 그러한 추론의 결과는 중대할 수 있습니다.

논문은 개인용 AI의 미래가 이 균형을 맞추는 데 달려 있다고 제안합니다. 더 많은 데이터가 항상 더 좋은 것은 아니라는 점을 주장합니다. 모든 것을 포착하지만 신뢰하거나 통제할 수 없는 시스템은 사용자에게 거부당할 가능성이 큽니다. 대신, 앞으로의 길은 처음부터 협력적으로 설계된 시스템에 있습니다. 이는 소프트웨어가 관찰되는 대상에 대한 사용자의 통제권을 존중하고, 자신의 추론 과정을 명확하게 설명하며, 사용자의 피드백에 따라 행동을 조정하도록 구축되어야 함을 의미합니다. 목표는 한 사람에 대해 모든 것을 아는 기계를 만드는 것이 아니라, 딱 필요한 만큼을 알아 도움을 줄 수 있는 파트너를 만드는 것이며, 일관되고 유용한 행동을 통해 더 알 권리를 얻는 것입니다.

연구진은 이 아이디어를 더 테스트하기 위한 몇 가지 방법을 제안합니다. 시스템이 볼 수 있는 정보량을 의도적으로 변화시켜 그것이 지원의 질에 어떤 영향을 미치는지 확인하는 연구를 수행할 것을 제안합니다. 또한 사용자가 시스템의 성능에 반응하여 공유 습관을 어떻게 바꾸는지 추적하고자 합니다. 또 다른 핵심 연구 분야는 사용자에 대한 시스템의 이해가 사용자 자신의 자기 이해를 어떻게 변화시키는지입니다. 과거의 행동과 목표에 대한 명확한 기록을 갖는 것이 사람들이 더 나은 결정을 내리는 데 도움이 될까요? 논문은 이러한 질문들을 열어둔 채, 협력적 관찰이 진정으로 개인적 지능의 표준이 될 수 있는지 결정하기 위한 추가 연구를 요청하고 있습니다.

결국, 이 논문에서 제시된 작업은 인간과 기계 사이의 다른 종류의 관계에 대한 촉구입니다. 이는 AI를 데이터를 추출하는 도구로 보는 관점에서 벗어나, 유용성을 통해 접근 권한을 얻는 파트너로 보는 관점으로 이동합니다. 프로토타입인 Organizm은 사용자가 통제권을 느끼고 실질적인 가치를 본다면 자신의 삶 속으로 시스템을 받아들일 용의가 있다는 것을 보여주었습니다. 그러나 이 관계는 취약합니다. 시스템이 투명성을 유지하고, 프라이버시를 존중하며, 자신의 이익보다 사용자의 목표를 우선시할 수 있는 능력에 달려 있기 때문입니다. 기술이 계속 발전함에 따라, 기기가 우리의 삶을 실시간으로 포착할 수 있게 됨에 따라, 협력적 관찰의 원칙은 이 강력한 도구들이 사람이 아닌 사람을 위해 봉사하도록 보장하는 로드맵을 제공합니다. 개인용 AI의 성공은 기계가 얼마나 똑똑해지느냐가 아니라, 그 기계가 섬기고자 하는 인간과 얼마나 잘 협력하는 법을 배우느냐에 달려 있을 것입니다.