Pragmatics beyond humans: meaning, communication, and LLMs
이 논문은 거대 언어 모델의 등장이 전통적인 인간 중심적 프레임워크를 넘어 화용론의 재개념화를 필요로 한다고 주장하며, 대신 의인화된 편향을 다루고 합리적 발화 행위(Rational Speech Act)와 같은 확률적 모델을 채택하며 생성형 AI 상호작용에서의 '맥락 좌절(context frustration)' 역설을 설명하는 인간-기계 커뮤니케이션 접근법을 제안한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
언어는 단순히 문법 규칙에 따라 배열된 단어들의 나열 그 이상입니다. 언어는 사회적 도구이며, 사람들이 함께 행동하고, 의도를 공유하며, 대화의 복잡하고 암묵적인 규칙들을 헤쳐 나가는 방식입니다. 수십 년 동안 언어학자들은 문장의 구조, 단어의 사전적 정의, 그리고 그 단어들이 발화되는 맥락이라는 세 가지 층위로 의미가 어떻게 작동하는지 분석하며 이를 지도화하려 노력해 왔습니다. 화용론(pragmatics)이라고 알려진 이 세 번째 층위야는 인간 소통의 진정한 마법이 일어나는 곳입니다. 이는 누가, 언제, 왜 말하느냐에 따라 단순한 사실의 진술과 요청 사이의 차이, 혹은 농담과 모욕 사이의 차이를 결정짓는 요소입니다. 이제, 새로운 종류의 기계가 대화에 참여했습니다. 에세이를 쓰고, 질문에 답하며, 대화를 나눌 수 있는 강력한 인공지능 시스템인 거대 언어 모델은 과학자들이 기존의 오래된 지도를 재고하도록 강요하고 있습니다. 핵심 질문은 더 이상 이 기계들이 인간의 말을 흉내 낼 수 있는지 여부가 아니라, 이들이 의미의 사회적 춤을 이해하고 있는 것인지, 아니면 그저 그 이면에 담긴 의도를 전혀 파악하지 못한 채 시퀀스 상의 다음 단어를 예측하고 있을 뿐인지 하는 것입니다.
비트 그보즈디아크(Vít Gvoždiak)라는 연구자는 우리가 이러한 기계들을 어떻게 연구하고 있으며, 그들을 판단하기 위해 사용하는 이론들이 무엇인지 면밀히 살펴보았습니다. 그는 우리의 현재 방법론이 '둥근 구멍에 사각 못을 박으려는 것'처럼 결함이 있다고 주장합니다. 오랫동안 이 모델들을 평가하는 표준적인 방식은 그것들을 인간처럼 취급하는 것이었습니다. 연구자들은 사과를 인식하거나 비꼬는 것을 감지하는 것과 같이 사회적 신호를 이해해야 하는 과업을 수행하도록 모델에게 요구한 뒤, 그 답변을 인간이 할 법한 답변과 비교합니다. 만약 기계가 정답을 맞히면, 흔히 '화용적 능력'을 갖추었다고 찬사를 받습니다. 틀리면 이해력이 부족하다고 말합니다. 그보즈디아크는 이러한 접근 방식이 오해의 소지가 있다고 제안합니다. 이는 기계가 인간과 유사한 텍스트를 생성하기 때문에 반드시 인간과 유사한 원리에 따라 작동할 것이라고 가정하기 때문입니다. 하지만 이 기계들은 인간이 아닙니다. 이들은 방대한 양의 인터넷 텍스트로 학습된 통계 엔진입니다. 이들은 인간처럼 진실이나 사회적 협력에 관심을 두지 않습니다. 이들은 확률에 관심을 둡니다. 이들은 공유된 현실을 전달하기 위해서가 아니라, 다음에 올 가능성이 가장 높은 단어가 무엇인지 추측하도록 설계되었습니다.
이 논문은 이러한 기계들을 인간의 범주에 끼워 맞추려 하지 말고, 대신 그들이 우리와 상호작용하는 독특한 방식을 바라볼 것을 제안합니다. 그보즈디아크는 '인간-기계 커뮤니케이션(Human-Machine Communication)'이라는 새로운 프레임워크를 제안합니다. 이 접근 방식은 사람이 챗봇과 대화할 때, 단순히 도구와 대화하는 것도 아니고 그렇다고 사람과 대화하는 것도 아님을 인정합니다. 그들은 이전에는 존재하지 않았던 방식으로 양측이 대화를 형성하는 하이브리드 공간에 있습니다. 기계는 명령의 수동적인 수신자가 아니며, 인간은 단순한 사용자가 아닙니다. 그들은 새로운 종류의 대화 속에서 공모자들입니다. 저자는 현재의 많은 연구가 그가 '대체주의(substitutionalism)'라고 부르는 문제로 인해 어려움을 겪고 있다고 지적합니다. 이는 과학자들이 특정 모델이나 영어와 같은 특정 언어로부터 얻은 결과를 모든 인공지능과 모든 인간의 언어에 적용된다고 가정할 때 발생합니다. 더욱 미묘하게도, 연구자들은 종종 대화의 인간 참여자를 기계로 바꾸어 놓으며, 기계가 사람을 대신할 수 있다고 가정합니다. 이는 인간이 기계와 대화할 때 실제로 자신의 행동을 어떻게 변화시키는지에 대해 눈을 멀게 합니다. 사람들은 AI를 흉내 내는 구절과 구조를 사용하여 다르게 말하기 시작하며, 이는 인간이 기계에 영향을 주는 만큼 기계도 인간에게 영향을 미치는 피드백 루프를 형성합니다.
논문에서 가장 눈에 띄는 발견 중 하나는 '맥락 좌절(context frustration)'이라는 개념입니다. 인간의 대화에서 맥락이란 우리가 서로를 이해할 수 있게 해주는 공유된 배경 지식입니다. 내가 "여기 춥다"라고 말하면, 당신은 내가 창문을 닫아달라고 요청하는 것일 수도 있다는 것을 압니다. 하지만 기계와의 대화에서는 이러한 공유된 배경이 결여되어 있습니다. 기계는 개인적인 역사도, 물리적인 몸도, 실제 세계의 경험도 없습니다. 기계를 이해시키기 위해 인간은 추가적인 노력을 기울여야만 합니다. 그들은 기계가 어떤 역할을 연기해야 하는지, 설정은 무엇인지, 대화의 목표는 무엇인지를 정확하게 명시하는 길고 상세한 프롬프트를 작성해야 합니다. 이것이 바로 '프롬프트 엔지니어링'이라 알려진 현상입니다. 아이러론은 기술이 점점 더 많은 정보를 처리하는 데(더 긴 대화를 기억하고 더 큰 문서를 읽는 등) 능숙해지고 있음에도 불구하고, 인간 사용자는 더 큰 좌절감을 느낀다는 점입니다. 방대한 양의 데이터를 처리하는 기계의 능력은 공유된 이해의 문제를 해결하지 못했습니다. 오히려 인간과 기계 사이의 맥락적 간극을 더 넓게 만들었습니다. 사용자는 끊임없이 기계를 위해 맥락의 다리를 놓으려 노력하지만, 기계의 이해가 여전히 근본적으로 자신과는 다르다는 것을 깨닫게 됩니다.
논문은 우리가 기계에게 인간이 될 수 있는지를 묻는 것을 멈추고, 그들이 어떻게 다른지를 묻기 시작해야 한다고 결론짓습니다. 인간 대 인간의 상호작용을 위해 구축된 오래된 언어 이론들은 현재 일어나고 있는 일을 설명하기에 충분하지 않습니다. 우리는 기계의 독특한 본질을 인정하는 새로운 사고방식이 필요합니다. 기계가 사람을 위해 설계된 테스트를 통과할 수 있는지로 기계를 판단하는 대신, 우리는 사람과 기계 사이에서 일어나는 독특한 하이브리드 대화를 연구해야 합니다. 이러한 상호작용은 새로운 형태의 의미, 새로운 사회적 규칙, 그리고 새로운 과제들을 만들어내고 있습니다. 저자는 언어 연구의 미래가 인간과 기계가 서로에게 끊임없이 적응하며, 온전히 인간도 아니고 온전히 기계도 아닌 완전히 새로운 공유 공간을 만들어가는 이 파트너십을 이해하는 데 있다고 제안합니다. 목표는 기계를 우리와 더 닮게 만드는 것이 아니라, 기계의 존재 속에서 우리가 어떻게 변해가고 있는지를 이해하는 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.