From form to function: an ontology of communicative influence beyond truth and intent
본 논문은 전통적인 허위 정보 프레임워크를 넘어 전략적 커뮤니케이션에 대한 정밀한 독해와 대규모 계산 분석을 모두 지원하기 위해, 관찰 가능한 단서들에 근거하여 메시지를 네 가지 직교 차원(방법, 서사, 양극화, 대상물)으로 구조화함으로써 대규모의 의사소통적 영향력을 분석하기 위한 진위 및 의도 불가지론적 온톨로지를 제안한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
현대 통신의 광활하고 소란스러운 풍경 속에서, 단 하나의 이미지나 짧은 영상 클립은 거짓을 말하지 않고도 수백만 명의 사람들을 행동하게 만들 수 있습니다. 붐비는 국경 검문소의 사진을 생각해 보십시오. 그 이미지 자체는 실제입니다. 사람들도 그곳에 있고, 울타리도 그곳에 있으며, 하늘은 보이는 그대로입니다. 그러나 그 사진이 특정 캡션과 함께 공유되거나 특정 헤드라인 옆에 놓이게 되면, 그것은 더 이상 단순히 한 장면을 찍은 사진이 아니라 하나의 도구가 됩니다. 그것은 위험을 알리고, 누가 속해 있고 누가 속하지 않는지를 정의하며, 특정한 정치적 대응을 촉구할 수 있습니다. 이것이 바로 의사소통적 영향력의 영역입니다. 메시지의 힘이 사실이 참인지 거짓인지가 아니라, 우리가 무엇을 생각하고 어떻게 느끼며 무엇을 하는지를 형성하기 위해 메시지가 어떻게 구축되었는지에 달려 있는 분야입니다. 수십 년 동안 연구자들은 거짓을 찾아내고 악의적인 행위자를 식별하는 데 집중해 왔지만, 새로운 물결의 영향력 캠페인은 목표를 달리 위해 진실된 사실, 감정적 프레이밍, 그리고 영리한 스토리텔링을 사용합니다. 인공지능이 인간 팀이 읽을 수 없는 속도와 양으로 이러한 메시지를 생성하기 시작함에 따라, 기존의 분석 방식은 더 이상 충분하지 않습니다. 우리는 이 지형을 이해하기 위한 새로운 지도가 필요합니다.
한 연구팀이 그 지도를 그려냈습니다. 그들은 어떤 형태의 의사소통이라도 그것이 진실을 말하든 기만하려고 하든 상관없이, 그것이 정확히 어떻게 작동하는지 분해하기 위한 상세한 시스템을 만들었습니다. 그들의 새로운 시스템은 "이것이 가짜인가?" 또는 "누가 이것을 만들었는가?"라고 묻는 대신, 메시지 자체에 대해 네 가지 구체적인 질문을 던집니다. 이 메시지는 어떻게 우리에게 영향을 미치려 하는가? 이야기는 어떻게 구성되어 있는가? 이 메시지는 서로 다른 집단들을 어떻게 대립시키거나 결속시키는가? 그리고 어떤 광범위한 결과를 달성하려고 하는가? 이 질문들에 답함으로써, 연구자들은 메시지의 내부 기계 장치를 설명할 수 있으며, 설득의 방법과 이야기가 되는 내용을 분리하고, 집단 역학과 궁극적인 목표를 구분할 수 있습니다. 이 접근 방식은 메시지를 하나의 독립된 객체로 취급하며, 저자의 숨겨진 의도나 주장의 진위 여부를 추측하기보다는 메시지 내에 보이는 단서들을 분석합니다.
연구진은 두 가지 단순하지만 강력한 아이디어를 바탕으로 이 시스템을 구축했습니다. 첫째, 누군가가 청중에게 영향을 미치려 할 때, 그들은 메시지의 단어, 이미지, 구조 속에 관찰 가능한 흔적을 남긴다고 가정합니다. 목수가 톱밥과 도구 자국을 남기는 것처럼, 전달자는 자신의 전략을 드러내는 특정한 패턴을 남깁니다. 둘째, 영향력은 거짓말을 필요로 하지 않는다는 점을 인식합니다. 메시지는 완전히 사실적으로 정확하면서도, 특정 사실을 강조하거나, 특정 방식으로 프레임을 짜거나, 뿌리 깊은 집단 정체성을 활성화함으로써 강력한 조작 도구가 될 수 있습니다. 이는 거짓말쟁이를 잡도록 설계된 시스템이, 진실의 범위 내에서 작동하는 방대한 양의 영향력 작업을 놓칠 수 있음을 의미합니다. 새로운 프레임워크는 사실적 정확성이나 제작자의 숨겨진 동기에 집중하는 대신, 메시지의 형식에 초점을 맞추어 두 가지 모두를 포착하도록 설계되었습니다.
이 작업을 대규모로 수행하기 위해, 연구진은 분석을 서로 독립적으로 작동하는 네 가지 뚜렷한 차원으로 나누었습니다. 첫 번째 차원인 '방법(method)'은 청중을 설득하기 위해 사용되는 구체적인 기법을 살펴봅니다. 여기에는 편향된 언어 사용, 복잡한 원인의 단순화, 또는 공포에 호소하는 것 등이 포함됩니다. 두 번째 차원인 '서사(narrative)'는 메시지가 이야기를 어떻게 조직하는지 조사합니다. 누가 영웅이나 악당으로 설정되는지, 시간이 어떻게 배열되는지, 그리고 어떤 도덕적 이해관계가 제기되는지를 살펴봅니다. 세 번째 차원인 '양극화(polarization)'는 메시지가 집단을 어떻게 배치하는지에 초점을 맞춥니다. 메시지가 사람들을 "우리 대 그들"로 나누려 하는지, 한 집단을 결속시키려 하는지, 아니면 서로 다른 측 사이의 가교 역할을 하려 하는지를 식별합니다. 마지막 차원인 '영향력 대상(influence object)'은 정책 변화, 투표율 제고, 또는 기관에 대한 신뢰 저하와 같이 메시지가 목표로 하는 더 넓은 결과를 식별합니다. 결정적으로, 이 네 가지 차원은 별개입니다. 즉, 메시지는 동일한 방법을 사용하여 매우 다른 이야기를 할 수 있고, 혹은 동일한 이야기를 하면서도 완전히 다른 결과를 목표로 할 수 있습니다.
연구팀은 영국에서 있었던 난민들의 국경 모습을 담은 유명한 정치 캠페인 이미지를 포함하여 실질적인 사례들에 이 시스템을 적용했습니다. 비록 그 이미지가 허위 진술을 포함하고 있지 않았음에도 불구하고, 시스템은 그것이 어떻게 작동하는지를 드러냈습니다. 사용된 방법은 위협 프레임이었으며, 해당 장면을 국가에 대한 위험으로 배치했습니다. 서사는 유럽연방을 외부의 적자로, 현지 주민들을 포위당한 집단으로 설정했습니다. 양극화 차원은 메시지가 세상을 취약한 "우리"와 위협적인 "그들"로 어떻게 나누는지 보여주었습니다. 마지막으로, 영향력 대상은 특정 정치적 투표를 독려하는 것으로 명확히 식별되었습니다. 이러한 요소들을 분리함으로써, 연구자들은 진실된 이미지가 어떻게 특정한 정치적 결과를 이끌어내기 위해 사용되는지 정확히 볼 수 있었으며, 이는 분석이 거짓만을 찾거나 저자의 의도를 추측하는 데 그쳤다면 놓쳤을 미묘한 차이였습니다.
시스템의 견고함을 보장하기 위해, 연구진은 네 가지 차원 각각이 정말로 필요한 것이며 다른 차원들로 대체될 수 없음을 확인했습니다. 그들은 사용된 방법을 안다고 해서 전달되는 이야기를 알 수 있는 것은 아니며, 주제를 안다고 해서 목표를 알 수 있는 것도 아님을 보여주었습니다. 예를 들어, 이민에 관한 두 메시지는 정확히 같은 감정적 전술을 사용할 수 있지만, 하나는 투표율을 높이는 것을 목표로 하고 다른 하나는 정부에 대한 신뢰를 무너뜨리는 것을 목표로 할 수 있습니다. 이야기와 목표를 위한 별도의 차원이 없다면, 이러한 결정적인 차이점들은 보이지 않을 것입니다. 또한 연구진은 자신들의 시스템 논리가 일관되게 유지되는지 확인하기 위해 공식적인 컴퓨터 검증을 구축하여, 기초적인 증거로부터 상위 수준의 레이블을 도출하는 규칙들이 일관되고 깨지지 않음을 확인했습니다.
이 새로운 프레임워크는 메시지가 참인지 거짓인지를 결정하기 위한 도구가 아니며, 누가 그것을 만들었는지 또는 실제로 누군가의 마음을 바꿨는지를 증명하기 위한 방법도 아닙니다. 이것은 측정 도구이며, 영향력의 구조를 기술하여 이를 연구하고, 비교하고, 이해할 수 있게 하는 방법입니다. 연구진은 이 시스템을 매일 생성되는 수백만 개의 메시지에 적용하려면 인간이 과정을 안내하고 결과를 확인하는 가운데 컴퓨터가 힘든 일을 수행해야 한다고 인정합니다. 또한 이 시스템은 주로 영어권 정치 사례를 사용하여 개발되었으므로, 현지의 단서와 규범을 이해하기 위해 문화적 적응 작업이 필요할 것이라고 언급합니다. 그러나 핵심 통찰은 변하지 않습니다. 인공지능 시대에 우리가 어떻게 영향을 받고 있는지 이해하려면, 진실에 대한 질문을 넘어 메시지 자체의 구조를 살펴보아야 한다는 것입니다. 영향력의 형식을 지도화함으로써, 우리는 단순한 사실의 진술과 우리를 움직이기 위해 정교하게 설계된 도구 사이를 구분하며, 커튼 뒤에 숨겨진 기계 장치를 볼 수 있는 능력을 얻게 됩니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.