Why did My Robot Just Change Personality? Prompting Guidelines for a Grounded Robot Persona in LLM-Based HRI

사회적 로봇, 즉 대화하고 돕고 때로는 인간에게 위안을 주기 위해 만들어진 기계를 상상해 보십시오. 이러한 대화를 자연스럽게 만들기 위해 엔지니어들은 종로종종 로봇을 대규모 언어 모델(LLM)에 연결합니다. 이는 방대한 양의 텍스트를 학습하여 인간의 언어를 이해하고 생성할 수 있는 일종의 인공지능입니다. 이 기술 덕분에 로봇은 불과 몇 년 전에는 불가능했던 유창함으로 질문에 답하고, 이야기를 들려주며, 감정에 반응할 수 있게 되었습니다. 그러나 로봇의 물리적 현실과 그가 내뱉는 말 사이에는 숨겨진 간극이 존재합니다. 기계는 방을 볼 눈도, 물건을 집을 손도, 인터넷 접속 권한도 없을 수 있지만, 그 로봇이 사용하는 언어 모델은 그것들에 대해 읽었기 때문에 그 사실을 알고 있습니다. 주의 깊은 지침이 없다면, 로봇은 당신을 보고 있다거나 컵을 가져다줄 수 있다고 자신 있게 주장할 수 있으며, 이는 대화하는 사람에게 혼란스럽고 잠재적으로 오해를 불러일으키는 경험을 만들 수 있습니다. 이 단절은 이러한 기계들이 안전하고 정직하며 진정으로 도움이 되는 파트너가 되기를 원하는 연구자들이 직면한 핵심적인 과제입니다.

유럽, 호주, 이스라엘의 여러 대학에서 온 연구팀은 최근 다음과 같은 단순하지만 결정적인 질문을 던지며 이 문제를 다루었습니다. "로봇이 말을 시작하기 전에, 우리가 로봇에게 자신이 누구이며 무엇을 할 수 있는지 정확히 어떻게 알려줄 것인가?" 이들의 연구는 로봇의 성격이 단순히 조정 가능한 사소한 설정이라는 생각을 넘어섭니다. 대신, 그들은 인공지능에 주어지는 지침인 '프롬프트(prompt)'가 로봇의 행동을 형성하는 가장 중요한 설계 요소라고 주장합니다. 이를 해결하기 위해 연구팀은 로봇의 정체성을 8가지 특정 부분으로 나누는 구조화된 프레임워크를 개발했습니다. 이 부분들에는 로봇의 역할 정의, 물리적 한계의 명확한 명시, 실수를 처리하는 방식 설명, 그리고 거짓말을 하거나 해를 끼치는 것을 방지하기 위한 엄격한 윤리적 경계 설정 등이 포함됩니다.

연구진은 단순히 사무실에 앉아 이 목록을 만들어낸 것이 아니라, 다른 과학자들이 이미 수행하고 있는 작업들을 검토하고 전문가들을 통해 그 아이디어들을 테스트했습니다. 먼저, 그들은 로봇이 사람과 대화하는 데 대규모 언어 모델을 사용하는 최근 연구들을 검토했습니다. 그 결과, 대부분의 연구자가 로봇에게 이름과 "튜터가 되어라" 또는 "동반자가 되어라"와 같은 주요 직무만을 알려주고 있다는 것을 발견했습니다. 그들은 로봇이 과거의 대화를 기억하지 못한다거나 사용자의 얼굴을 볼 수 없다는 점과 같이, 로봇이 '할 수 없는 것'에 대해서는 거의 말해주지 않았습니다. 이러한 누락은 로봇이 자신이 갖추지 못한 능력을 가진 것처럼 행동하게 만들어 혼란과 신뢰 붕괴를 초래했습니다.

이것이 왜 중요한지 이해하기 위해, 연구팀은 인간-로봇 상호작용 분야의 전문가 27명을 모아 워크숍을 개최했습니다. 이들은 심리학, 윤리학, 컴퓨터 과학 등 다양한 배경을 가진 숙련된 연구자 및 실무자들입니다. 그들은 로봇의 성격이 시간이 흐름에 따라 어떻게 작동해야 하는지, 그리고 로봇이 실수를 했을 때 어떤 일이 발생하는지에 대해 논의했습니다. 전문가들은 한 가지 중요한 점에 동의했습니다. 즉, 로봇의 성격은 단순히 그가 내뱉는 단어에 관한 것이 아니라는 점입니다. 만약 로봇이 배려 깊은 친구라고 주장하면서 사용자가 5분 전에 했던 대화를 잊어버린다면, 사용자는 속았다고 느낍니다. 전문가들은 성격의 미묘한 신호들이 종종 간과된다는 점을 지적했으며, 로봇의 정체성은 실제 물리적 능력과 일치해야 한다고 언급했습니다. 또한 그들은 안전에 대한 심각한 우려를 제기하며, 로봇이 자신의 능력을 속일 경우 특히 어린이 나 노인과 같은 취약한 사용자들에게 위험한 상황을 초래할 수 있다고 지적했습니다.

이러한 논의와 기존 연구 검토를 바탕으로, 연구팀은 로봇을 위한 지침을 작성하는 새로운 방법을 제안했습니다. 그들의 프레임워크는 설계자가 로봇이 말을 하기 전에 반드시 8가지를 명시적으로 작성할 것을 요구합니다. 첫째, 로봇의 구체적인 캐릭터와 사회적 역할을 정의하는 **정체성(Identity)**을 정의해야 합니다. 둘째, 인터넷 접속이 불가능하거나 스스로 움직일 수 없다는 점과 같이 로봇이 인지하거나 수행할 수 있는 것과 없는 것에 대한 명확한 목록인 **역량 경계(Capability Boundaries)**를 설정해야 합니다. 셋째, 투명성(Transparency) 지침은 로봇이 자신이 기계임을 인정하고 자신의 한계를 밝히는 방법을 알려주어야 합니다. 넷-째, **과업(Task)**은 대화의 구체적인 목표를 정의합니다. 다섯째, **기대 및 실패 프로토콜(Expectation and Failure Protocol)**은 로봇이 답을 모르거나 대화가 잘못되었을 때 어떻게 반응해야 하는지를 설명합니다. 여섯째, 개인정보 보호(Privacy) 규칙은 로봇이 개인 데이터를 어떻게 처리할지 규정합니다. 일곱째, **사용자 적응(User Adaptation)**은 아이에게 쉽게 말하는 것처럼 서로 다른 사람에 따라 로봇의 어조를 바꾸도록 보장합니다. 마지막으로, **윤리적 레드라인(Ethical Red Lines)**은 로봇이 해롭거나 편향되거나 불법적인 발언을 하는 것을 방지하기 위한 엄격한 한계를 설정합니다.

연구진은 별도의 프로젝트에서 이 8가지 모듈형 설계 구성 요소를 모두 사용하여 두 가지 완전한 프롬프트 예시를 제공함으로써 이 아이디어를 입증했습니다. 그들은 이러한 구성 요소들이 포함될 때 로봇의 행동이 훨씬 더 예측 가능하고 정직해진다고 주장합니다. 워크숍의 전문가들은 이러한 구체적인 지침이 없다면 로봇의 성격이 불안정하거나 기만적으로 느껴질 수 있음을 확인했습니다. 그들은 로봇에게 단순히 "친절하게 행동하라"고 말해서는 안 되며, 자신의 하드웨어 한계 내에서 정확히 어떻게 친절해야 하는지를 알려주어야 한다고 강조했습니다. 예를 들어, 노인을 돕도록 설계된 로봇은 언어 모델이 가능하다는 암시를 하더라도, 물리적으로 그들을 들어 올릴 수 없다는 것을 알도록 프로그래밍되어야 합니다.

이 연구는 사회적 로봇의 미래가 언어를 더 인간처럼 만드는 것보다 로봇의 한계를 명확히 하는 것에 달려 있음을 시사합니다. 연구팀은 프롬프트를 단순한 코딩 단계가 아닌 진지한 설계 도구로 다루는 것이 신뢰를 구축하는 데 필수적이라고 주장합니다. 설계자가 로봇이 무엇인지, 그리고 무엇이 아닌지를 정확히 쓰도록 강제함으로써, 이 분야는 능력을 환각하는 로봇에서 벗어나 신뢰할 수 있고 투명하며 안전한 기계로 나아갈 수 있습니다. 이 연구는 로봇 공학의 모든 문제를 해결했다고 주장하는 것이 아니라, 로봇이 말을 할 때 그 말이 현실과 일치하도록 보장하는 구체적이고 구조화된 방법을 제공합니다. 향후 연구는 제안된 프롬프트 가이드라인이 서로 다른 로봇 형태(embodiment)에 구현되었을 때 로봇 정체성에 대한 인식이 어떻게 달라지는지 평가하는 방향으로 진행되어야 할 것입니다.