현대 사회에서 인공지능은 여행 계획부터 이메일 초안 작성에 이르기까지 질문에 답해주는 친숙한 동반자가 되었습니다. 건강과 영양의 영역에서도 사람들은 무엇을 먹어야 할지 또는 어떻게 체중을 감량할지에 대한 조언을 구하기 위해 점점 더 챗봇에 의존하고 있습니다. 그러나 일반적인 답변과 개인에게 진정으로 도움이 되는 답변 사이에는 상당한 격차가 존재합니다. 개인의 특정 연령, 체중, 병력 및 일상 습관을 무시한 권고는 개인 맞춤형 계획과는 근본적으로 다릅니다. 많은 현재의 도구들이 사용자의 프로필을 요청에 단순히 붙여넣는 방식으로 맞춤형 조언을 시도하지만, 이들은 대화를 시작하기 전에 그 세부 사항을 진정으로 이해하는 데 종종 실패합니다. 이는 결정적인 구조적 격차를 남깁니다. 즉, 컴퓨터는 데이터를 보지만, 그 데이터가 질문을 하는 특정 개인에게 무엇을 의미하는지 분석하기 위해 잠시 멈추지 않는다는 것입니다.

상트페테르부르크의 ITMO 대학교 연구진은 이 격차를 메우기 위해 새로운 방법을 개발했으며, 영양 조언을 더 안전하고 유용하게 만드는 것을 목표로 하고 있습니다. 그들은 이 접근 방식을 '프로필 적응형 사고 사슬(Profile-Adaptive Chain-of-Thought)'을 뜻하는 PA-CoT라고 부릅니다. 이 방법은 서둘러 답변을 생성하는 대신, 인공지능이 한 걸음 물러나 사용자의 프로필을 별도의 전용 과업으로서 분석하도록 강제합니다. 이는 환자와 대화하면서 동시에 진단을 내리려 노력하는 것이 아니라, 환자의 차트를 읽고 주요 문제를 먼저 적어두는 의사를 생각하면 됩니다. 연구진은 이 아이디어를 11가지의 다른 일반적인 AI 프롬프트 방식과 비교 테스트하였으며, 이를 위해 200개의 현실적인 영양 상담 시나리오로 구성된 새로운 데이터 세트를 사용했습니다. 연구 결과, 사용자의 데이터를 분석하는 것과 조언을 생성하는 것을 분리함으로써 시스템이 표준적인 방식보다 훨씬 더 개인화되고 안전한 권고를 생성한다는 것을 보여주었습니다.

이 새로운 방법의 핵심은 사고 과정을 어떻게 구조화하느냐에 있습니다. 전통적인 방식에서는 AI가 질문과 사용자의 프로필이 담긴 텍스트 블록을 받으면, 모든 것에 한꺼번에 답하려고 시도합니다. 연구진은 이러한 방식이 종종 AI로 하여금 중요한 세부 사항을 놓치게 하거나 해로울 수 있는 일반적인 조언을 제공하게 만든다는 것을 발견했습니다. PA-Coట는 워크플로우를 명확한 단계로 나누어 이 문제를 해결합니다. 첫째, 시스템은 사용자의 프로필을 분석하여 답변이 반드시 다루어야 할 가장 중요한 지점들을 식별합니다. 연령, 체중, 식단 목표와 같은 구체적인 수치를 살펴보고, 응답이 정확히 무엇을 다루어야 하는지 결정합니다. 이 단계는 다음 단계를 위한 명확한 로드맵을 만듭니다. 이 분석이 완료된 후에야 AI는 실제 응답을 생성하며, 모든 관련 데이터가 조언 속에 녹아들 수 있도록 로드맵을 활용합니다. 마지막으로, 세 번째 단계는 생성된 답변을 검토하여 유해한 권고가 포함되지 않았는지, 취약 계층을 위한 필수 경고가 포함되었는지 확인하는 안전 점검 역할을 합니다.

이 추가 단계가 실제로 차이를 만드는지 테스트하기 위해, 팀은 QPA(Question-Profile-Answer)라고 불리는 새로운 벤치마크를 만들었습니다. 그들은 온라인 포럼에서 발견된 수천 개의 실제 의료 질문으로부터 이 데이터 세트를 구축했으며, 영양과 관련된 질문만을 필터링하여 유지했습니다. 각 질문에 대해 연령, 체중, 건강 목표와 같은 사용자 프로필 세부 정보를 추출하여 200개의 구조화된 테스트 케이스를 만들었습니다. 이 케이스들은 실제 건강 앱에서 흔히 볼 수 있듯이 데이터가 불완전할 수 있는 현실 세계의 상황을 모방하도록 설계되었습니다. 연구진은 이후 표준 프롬프팅, 반복을 통해 답변을 개선하는 방식, 그리고 질문 방식을 최적화하는 자동화된 시스템을 포함한 광범위한 기술들과 PA-CoT 방식을 비교 실행했습니다. 각 응답은 고급 AI 심사위원에 의해 네 가지 기준, 즉 조언이 사실적으로 정확한지, 질문의 모든 부분을 다루었는지, 사용자의 특정 프로필을 얼마나 잘 활용했는지, 그리고 안전한지에 따라 점수가 매겨졌습니다.

결과는 명확하고 결정적이었습니다. PA-CoT는 테스트된 12가지 방법 중 가장 높은 평균 점수를 기록했습니다. 더 중요한 것은, 건강 조언에서 가장 중요한 두 영역인 개인화와 안전성에서 선두를 차지했다는 점입니다. 이 방법은 가장 가까운 경쟁자보다 개인화 측면에서 유의미하게 높은 점수를 받았으며, 그 격차는 통계적 신뢰 구간이 겹치지 않을 정도로 컸습니다. 이는 이 개선이 우연한 요행이 아니라 일관된 결과임을 의미합니다. 마찬가지로, 안전성에서도 가장 높은 점수를 받아 유해한 권고가 없음을 보장했습니다. 연구진은 질문을 자동으로 최적화하거나 여러 번의 반복을 통해 답변을 정교화하려는 다른 복잡한 방법들이 기대만큼의 성과를 내지 못했다는 것을 발견했습니다. 사실, 일부 더 복잡한 접근 방식들은 단순한 방식보다 개인화 점수가 더 낮았습니다. 이는 복잡성을 더한다고 해서 자동으로 더 나은 결과가 나오는 것이 아니라, 핵심은 사용자의 프로절을 응답 생성 전에 분석하는 특정한 구조적 선택에 있음을 시사합니다.

가장 눈에 띄는 발견 중 하나는 이 방법이 유용함과 안전성 사이의 절충 문제를 어떻게 다루었는가 하는 점이었습니다. 이전의 많은 시도에서 AI를 더 개인화하려는 노력은 종-종 위험을 초래했는데, 시스템이 사용자의 데이터에 너무 맞추려다 보니 실수로 위험한 제안을 할 수 있었기 때문입니다. PA-CoT는 과업을 분리함으로써 이 문제를 해결했습니다. 개인화된 조언을 만드는 단계는 오로지 사용자의 데이터를 사용하는 데 집중했고, 별도의 단계는 오로지 안전에만 집중했습니다. 이를 통해 시스템은 안전을 타협하지 않으면서도 매우 맞춤화된 정보를 제공할 수 있었습니다. 예를 들어, 체중 감량을 원하는 청소년에 대한 테스트 케이스에서, 시스템은 사용자의 연령과 체중이 중요한 요소임을 정확히 식별하고 그 제한 사항을 존중하는 계획을 생성하는 동시에, 전문적인 의료 감독이 필요하다는 경고를 표시했습니다. 반면, 다른 방법들은 사용자의 연령을 무시하거나 필요한 안전 경고를 포함하지 않은 채 일반적인 조언을 제공하는 경우가 많았습니다.

연구진은 또한 시스템이 효과적으로 작동하기 위해 얼마나 많은 데이터가 필요한지도 탐구했습니다. 그들은 사용자의 프로필 중 많은 항목이 '알 수 없음'으로 표시되어 정보가 불완전한 경우에도 이 방법이 여전히 잘 작동한다는 것을 발견했습니다. 시스템은 어떤 정보가 누락되었는지 식별할 수 있으며, 실제 제품 환경에서는 이러한 공백을 채우기 위해 사용자에게 후속 질문을 던지도록 설계될 수 있습니다. 현재의 연구에서는 가용한 고정된 데이터를 가지고 작업했지만, 이 구조는 실제 대화의 역동적인 특성을 처리할 수 있도록 구축되었습니다. 이 방법을 사용하는 비용 또한 고려되었는데, 단순한 일회성 답변보다 더 많은 컴퓨터 처리 단계가 필요하지만, 품질과 안전성의 상당한 이득에 비하면 추가 비용은 미미했습니다.

이 연구는 인공지능이 건강과 같은 민감한 분야에 어떻게 적용될 수 있는지에 대한 근본적인 변화를 강조합니다. 이는 모델 자체만큼이나 모델이 사고하도록 유도하는 프롬프트 방식이 중요하다는 것을 보여줍니다. 사용자의 프로필을 정적인 텍스트 블록이 아니라 전용 분석의 대상으로 취급함으로써, 연구진은 도움을 요청하는 개인의 개별성을 존중하는 시스템을 만들었습니다. 이 연구는 이 시스템이 전문 의사나 영양사를 대체한다고 주장하는 것이 아닙니다. 저자들은 이것이 연구용 프로토타입이며, 실제 현장 배포를 위해서는 인간 전문가의 검증이 필요하다고 명시적으로 밝히고 있습니다. 그러나 결과는 구조화된 다단계 추론 방식이 AI가 생성하는 조언의 질을 크게 향상시킬 수 있다는 강력한 증거를 제공합니다. 인공지능이 일상생활에 더욱 통합됨에 따라, 이러한 방식은 단순히 똑똑한 것을 넘어, 도움을 필요로 하는 사람들에게 사려 깊고 안전하며 진정으로 도움이 되는 도구로 나아가는 길을 제시합니다.