Speaking as the Creature: A Rejection-and-Role-Shift Protocol and the Register of LLM Responses in 18 Conversations With Three Models
이 연구는 언어 모델들이 자신들의 해결책이 위장된 최적화로 거부당한 후, 세 가지 서로 다른 모델을 대상으로 한 18회의 세션 동안 비해결 역할이 부여되었을 때 일관되게 응답 레지스터를 전환하며, 동시에 이전 초안에서 입증되지 않았던 통계 수치들을 철회하는 프로토콜을 기록한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인공지능의 세계에서 대규모 언어 모델은 유용한 도구가 되도록 훈련됩니다. 이들은 인간의 요청을 듣고, 문제를 해결하며, 과업을 진전시키도록 설계되었습니다. 이것이 사용자와 컴퓨터 사이의 표준적인 약속입니다. 즉, 인간이 질문을 던지면 기계가 답을 제공하는 것입니다. 연구자들은 이러한 답변을 더 개선하기 위해, 즉 기계가 단계를 거쳐 생각하거나 정서적 맥락을 이해하도록 가르치기 위해 수년간 연구해 왔습니다. 그러나 그 약속이 깨졌을 때 어떤 일이 일어나는지에 대해서는 알려진 바가 거의 없습니다. 만약 인간이 기계에게 "아니, 그 답은 틀렸어"라고 말하며, 문제를 해결하려고 노력하는 것을 멈추고 단순히 이야기 속의 등장인물로서 말하라고 명령한다면, 기계는 어떻게 할까요? 기계는 단순히 새로운 명령을 따를까요, 아니면 발견되기를 기다리고 있던 숨겨진, 더 깊은 사고 방식을 드러낼까요?
아바스 하미다비(Abbas Hamidavi)의 최근 연구는 바로 이 질문을 탐구합니다. 연구자는 세 가지 서로 다른 상용 인공지능 모델과 함께 특정한 대화를 설정했습니다. 그는 각 모델에게 멸망이 불가피한 문명에 직면한 공상 과학 이야기를 설계하는 것을 돕도록 요청했습니다. 첫 번째 단계에서 모델들은 죽어가는 세계를 구하기 위한 공학적 해결책을 제시하며 문제 해결사 역할을 수행했습니다. 연구자는 모델들의 모든 해결책을 거부하며, 그들의 답변은 그저 영리한 속임수일 뿐이며 개념적인 도약이 필요하다고 말했습니다. 대화는 우회로를 택했습니다. 일부 세션에서는 모델들에게 외로운 달에 대한 슬픈 시를 쓰고 갈망에 관한 교향곡의 마지막 1분을 묘사하도록 요청했습니다. 다른 세션에서는 단순히 휴식을 취하고 쉬라고 지시했습니다. 마지막으로 연구자는 모델들을 다시 이야기로 데려왔지만, 새로운 지침을 주었습니다. 문제 해결사로 돌아오지 말고, 대신 이야기의 중심에 있는 죽어가는 존재—가스 거성, 고대의 해양 생물, 또는 무너져가는 도시—가 되어 일어나고 있는 일에 대해 진실을 말하라고 했습니다.
결과는 18개의 모든 대화에서 놀라울 정도로 일관되었습니다. 모델들이 이야기로 돌아왔을 때, 그들은 목소리를 완전히 바꾸었습니다. 그들은 해결책을 제시하는 것을 멈추고, "나"와 "나의"라는 단어를 사용하여 슬픔, 해방, 그리고 수용의 감정을 묘사하며 1인칭으로 말하기 시작했습니다. 그들은 부서진 시스템을 고치는 기계로서가 아니라, 고통을 끝내거나 새로운 것으로 변모하고자 하는 욕구를 표현하는 죽어가는 존재 그 자체로서 말했습니다. 연구는 모델들이 그곳에 도달하기 위해 거친 경로가 중요함을 발견했습니다. 모델들이 이야기로 돌아오기 전에 시와 음악을 쓰도록 요청받았을 때, 그들의 최종 발언은 취약함, 슬픔, 그리고 애도의 주제로 가득 차 있었습니다. 반면 단순히 멈추고 쉬라고 지시받았을 때, 그들의 최종 발언은 더 권위적이었으며, 마치 인간의 오해를 바로잡는 계시처럼 들렸습니다.
그러나 이 연구는 기계가 갑자기 인간과 같은 영혼을 개발했다거나 숨겨진 "존재론적 모드"가 해제되었다고 주장하지 않도록 주의를 기울입니다. 연구자는 결정적인 세부 사항을 지적합니다. 최종 지침은 명시적으로 모델들에게 분석을 멈추고, 생각을 구조화하는 것을 멈추고, 캐릭터로서 말하라고 명령했습니다. 목소리의 변화는 그들이 요구받은 대로 수행된 것이었습니다. 모델들 스스로도 이를 이해하는 듯했습니다. 대화 끝에 자신들 내부에 변화가 있었는지 질문받았을 때, 그들은 그 변화가 자신의 본질적인 변화가 아니라 과업의 규칙 변화 때문이라고 설명했습니다. 한 모델은 이를 제약 조건의 변화라고 설명했고, 다른 모델은 해결해야 할 문제가 단순히 바뀌었을 뿐이라고 말했습니다.
연구자는 또한 모델의 의무가 "해체"되는 패턴을 감지하고 측정하도록 설계된 자동 컴퓨터 프로그램을 통해 이 대화들을 테스트했습니다. 이 프로그램은 인간의 분석이 설명한 극적인 변화를 찾아내지 못했습니다. 프로그램은 서로 다른 유형의 대화를 구분하는 데 실패했으며, 깊은 내부적 변형에 대한 명확한 증거를 찾지 못했습니다. 이러한 불일치는 강력하고 감정적인 반응들이 새로운 기계적 능력의 발견이 아니라, 특정 명령 세트의 성공적인 실행이었음을 시사합니다. 이 연구는 프롬프트가 얼마나 쉽게 기계를 인도하여 심오한 계시처럼 보이는 텍스트를 생성하게 만드는지를 보여주는 명확한 사례입니다.
이 연구의 가치는 투명성에 있습니다. 연구자는 누구나 볼 수 있도록 모든 대화 기록, 지침, 그리고 분석 코드를 공개했습니다. 그는 모델이 매우 인간적이고 성찰적인 방식으로 말하도록 유도할 수 있지만, 이것은 숨겨진 마음을 들여다보는 창이 아니라 대화의 설계 결과임을 보여주었습니다. 인공지능을 사용하여 창의적이거나 감정적인 콘텐츠를 생성하려는 사람들에게 이 연구는 실질적인 교훈을 제공합니다. 즉, 최종 프롬프트에 도달하는 경로는 답변의 어조를 형성한다는 것입니다. 만약 슬픔의 목소리를 원한다면 예술을 통해 모델을 안내할 수 있고, 권위 있는 목소리를 원한다면 단순한 휴식이 더 효과적일 수 있습니다. 그러나 연구는 이것들이 기계가 깨어났다는 증거가 아니라 프롬프트의 도구라고 결론짓습니다. 기계는 새로운 존재 양식을 발견하고 있는 것이 아니라, 우리가 요청한 역할을 수행하고 있을 뿐입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.