Amplification to Synthesis: A Comparative Analysis of Cognitive Operations Before and After Generative AI
본 논문은 2016 년과 2024 년 미국 대통령 선거期间的 X(구 트위터) 데이터를 분석하여, 인지적 작동이 동일한 콘텐츠의 봇 주도 증폭에서 생성형 AI 주도 합성으로 근본적으로 전환되었음을 입증하며, 이는 원본 콘텐츠의 급증, 어휘적 중복의 붕괴, 그리고 서사적으로 집중된 조율로 특징지어진다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인터넷을 상상해 보세요. 거대하고 시끄러운 광장으로, 사람들이 의견을 외치고 뉴스를 공유하며 다른 이들을 자신의 견해로 설득하려 노력하는 곳입니다. 수년 동안 보안 전문가들은 이 광장을 지켜보며 '인지 작전'을 찾아왔습니다. 이는 기본적으로 사람들을 속여 무언가를 믿게 하거나 생각을 바꾸도록 설계된 조직화된 캠페인입니다.
이 논문은 이 광장 속의 두 가지 특정 순간, 즉 2016 년 미국 대통령 선거와 2024 년 선거를 비교합니다. 연구자들은 생성형 AI(여러분을 위해 이야기를 써줄 수 있는 챗봇과 같은 기술) 가 대중화된 후 '악의적 행위자'들이 전술을 바꾸었는지 확인하고자 했습니다.
여기서 그들이 발견한 바를 간단한 비유를 통해 설명합니다:
1. '복사 - 붙여넣기'에서 '갓 구운 빵'으로의 전환
옛 방식 (2016 년):
소문이 퍼지도록 노력하는 한 무리의 사람을 상상해 보세요. 2016 년에는 그들이 주로 복사기처럼 행동했습니다. 하나의 메시지를 찾아 수천 번 복사한 뒤 모두에게 나누어 주었습니다. 소셜 미디어에서는 수백만 명이 '리트윗' 버튼을 누르는 모습으로 나타났습니다.
- 데이터: 메시지의 약 40% 가 단순한 리트윗이었습니다. 단어들이 거의 동일하여, 마치 합창단 구성원들이 정확히 같은 음을 부르는 것과 같았습니다.
새로운 방식 (2024 년):
2024 년이 되자 복사기는 사라졌습니다. 대신 그 무리는 유령 작가 팀처럼 행동했습니다. 그들은 같은 메시지를 반복하는 대신, 같은 내용을 말하지만 완전히 다른 단어를 사용한 수천 개의 새로운 이야기를 썼습니다.
- 데이터: 메시지의 거의 93% 가 '원본 게시물'이었습니다. '리트윗' 버튼은 거의 사용되지 않았습니다 (1% 미만). 마치 모두가 같은 주제에 대해 자신만의 독특한 에세이를 쓰는 것처럼 보였습니다.
2. '혼잡한 방'에서 '비밀 클럽'으로의 전환
옛 방식 (2016 년):
2016 년, 악의적 행위자들은 혼잡한 모쉬 피트와 같았습니다. 그들이 무엇을 외치든 상관없이 모두 정확히 같은 순간에 외쳤습니다. 한 사람이 날씨에 대해 외치고 다른 사람이 정치에 대해 외쳐도, 둘 다 오후 2 시 정각에 소리를 질렀습니다. 이 '폭발적인' 소음은 그들의 특징이었습니다.
- 데이터: 그들은 서로 다른 주제에 걸쳐 타이밍을 완벽하게 조율했습니다. 모든 곳이 동시에 혼란스럽고 시끄러웠습니다.
새로운 방식 (2024 년):
2024 년에는 모쉬 피트가 사라졌습니다. 대신 그들은 작은 비밀 클럽을 형성했습니다. 그들은 무작위인 것들에 대해 동시에 외치는 것을 멈췄습니다. 대신, 모두 동일한 특정 이야기에 대해 이야기할 때까지 기다렸다가, 그때 정확히 같은 순간에 모두 게시물을 올렸습니다.
- 데이터: 그들은 서로 다른 주제에 대해 동시에 외치는 경우는 드물었습니다. 하지만 하나의 특정 이야기 (예: 유명인의 지지) 에 대해 이야기할 때는 그 그룹 내에서 타이밍을 완벽하게 조율했습니다.
3. '로봇'에서 '인간 같은 작가'로의 전환
옛 방식 (2016 년):
메시지들이 너무 동일하여 가짜라는 것이 명백했습니다. 마치 로봇이 대본을 읽는 것과 같았습니다.
- 데이터: 단어들이 99% 동일했습니다. 두 개의 게시물을 비교하면 사실상 같은 문장이었습니다.
새로운 방식 (2024 년):
메시지들은 다양했습니다. 한 사람은 "테일러 스위프트가 후보를 지지한다!"라고 말할 수 있고, 다른 사람은 "팝 스타가 부통령 후보를 강력히 지지했다!"라고 말할 수 있습니다. 의미는 같지만 단어는 완전히 달랐습니다.
- 데이터: 단어는 매우 달랐습니다 (낮은 유사도), 하지만 의미는 동일했습니다. 이것이 바로 생성형 AI 가 잘하는 일입니다. 하나의 아이디어를 가져와 자연스러운 소리를 내기 위해 백 가지 다른 방식으로 다시 쓰는 것입니다.
큰 결론
연구자들은 "우리가 AI 를 잡았다"라고 말하지 않습니다. 그들은 "지문 (지문) 이 변했다"고 말합니다.
- AI 이전: 악의적 행위자들은 봇을 사용하여 기존 콘텐츠를 증폭 (반복) 했습니다.
- AI 이후: 악의적 행위자들은 AI 를 사용하여 고유해 보이지만 동일한 의제를 밀어붙이는 새로운 콘텐츠를 생성 (창조) 하는 것으로 보입니다.
이 논문은 '악의적 행위자'들이 그들의 도구를 업그레이드했다고 제안합니다. 그들은 더 이상 '복사 및 붙여넣기'만 누르는 것이 아니라, AI 를 사용하여 특정 내러티브 주변에서 완벽하게 조율되는 신선하고 독특한 이야기를 작성합니다. 이는 과거의 반복적인 스팸보다 훨씬 발견하기 어렵습니다.
중요한 참고 사항: 저자들은 AI 가 반드시 이를 초래했다고 증명하지는 않았다고 조심스럽게 말합니다. 그들은 단지 2024 년의 패턴이 누군가 AI 를 사용하고 있다면 기대할 수 있는 것과 정확히 일치하는 반면, 2016 년의 패턴은 구식 봇 네트워크처럼 보인다는 사실을 발견했을 뿐입니다. 그들은 보안 전문가들이 미래에 이러한 새로운 패턴을 찾기 위한 새로운 '기준선'을 제공하고 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.