How Do LLMs Read Bug Reports? An Empirical Study of Attention in LLMs for Automated Program Repair

탐정의 딜레마: 왜 AI는 가끔 단서를 놓치는가

당신이 미스터리를 풀려는 탐정이라고 상상해 보세요. 당신의 수첩에는 목격자의 진술, 흐릿한 사진, 용의자 명단, 그리고 범죄 현장 지도가 적힌 단서들이 가득합니다. 사건을 해결하려면 모든 페이지를 읽고, 점들을 연결하며, 어떤 단서가 실제로 중요한지 파고들어야 합니다. 이제, 이 일을 대신 수행할 아주 똑똑한 로봇 탐정을 고용했다고 상상해 보세요. 당신은 로봇에게 수첩을 건네주고, 로봇은 즉시 해결책을 써 내려갑니다. 하지만 이상한 점이 있습니다. 때때로 로봇은 미스터리를 완벽하게 해결하지만, 어떤 때는 똑같은 수첩을 주었음에도 완전히 실패하기도 한다는 것입니다!

이것이 바로 **대규모 언어 모델(LLM)**과 **자동 프로그램 수정(Automated Program Repair)**의 세계입니다. LLM은 저와 같은 똑똑한 로봇과 같습니다. 방대한 양의 텍스트와 코드로 학습된 AI 시스템이죠. 이들은 이야기를 쓰고, 질문에 답하며, 심지어 컴퓨터 프로그램의 버그(오류)를 고칠 수도 있습니다. "자동 프로그램 수정"이란 AI에게 고장 난 소프트웨어와 문제 설명을 보여준 뒤, 그 문제를 해결할 코드를 작성하도록 요청하는 것을 말합니다. 하지만 개발자들은 이 AI 탐정들이 일관성이 없다는 사실에 좌절하곤 합니다. 바로 옆에 있는 거의 동일한 버그는 쉽게 고치면서도, 어떤 것은 못 고치는 식이죠. 과학자들은 알고 싶어 합니다. 왜 그럴까요? AI가 그냥 추측을 하는 걸까요, 아니면 잘못된 단서에 집중하고 있는 걸까요? 이 논문은 AI가 프로그램을 수정하려고 할 때 정확히 무엇에 주의를 기울이는지, 그 AI의 "두뇌"를 들여다봅니다.

논문의 핵심 발견: AI가 어디를 보느냐가 중요하다

이 연구에서 연구진은 AI의 주의력을 측정하기 위해 "틀린 그림 찾기" 게임을 하기로 했습니다. 그들은 인기 있는 소프트웨어 프로젝트(Python 및 Java로 작성됨)에서 추출한 319개의 실제 버그를 가져와 세 가지 서로 다른 AI 모델에게 이를 수정하도록 요청했습니다. 일부 모델은 규모가 크고 비싼 폐쇄형 모델(예: claude-4-sonnet)이었고, 다른 모델은 오픈 소스 모델(예: gpt-oss-20b, qwen-3-32b)이었습니다.

AI가 무엇을 생각하고 있는지 알아내기 위해, 연구진은 **섭동 분석(perturbation analysis)**이라는 영리한 기법을 사용했습니다. 케이크 레시피를 가지고 있다고 가정하고, 어떤 재료가 가장 중요한지 알고 싶을 때 밀가루 없이 구워보고, 그다음엔 설탕 없이 구워보며 어떤 것이 케이크를 망치는지 확인하는 것과 같습니다. 연구진은 버그 리포트에 대해서도 똑같은 작업을 수행했습니다. 버그 리포트는 보통 "무엇이 잘못되었는가", "어떻게 하면 다시 오류를 발생시킬 수 있는가", "어떤 버전의 소프트웨어를 사용했는가", "코드가 어떻게 생겼는가"와 같은 섹션으로 구성됩니다. 연구진은 이 섹션들을 하나씩 비밀리에 삭제했습니다. 그런 다음 AI에게 다시 버그를 수정해 보라고 요청했습니다. 만약 특정 섹션을 삭제했을 때 AI의 수정 방식이 크게 변했다면, 그것은 AI가 그 부분에 정말 집중하고 있었다는 뜻입니다. 반대로 수정 방식이 그대로라면, AI는 그 부분을 신경 쓰지 않았다는 의미입니다.

"확산된" 주의력 vs "국소적" 주의력 패턴

연구진은 AI가 단서를 바라보는 두 가지 매우 다른 방식을 발견했으며, 이 패턴은 수정 성공 여부를 알려주는 결정적인 단서가 되었습니다.

1. "확산된" 탐정 (승자):
AI가 성공했을 때, AI는 철저한 탐정처럼 행동했습니다. AI는 버그 리포트의 여러 부분에 주의력을 분산시켰습니다. 버그 설명(무엇이 잘못되었는지에 대한 이야기), 스택트레이스(정확한 코드 라인을 가리키는 기술적 에러 로그), 그리고 테스트 케이스(코드가 어떻게 작동해야 하는지에 대한 예시)를 모두 살펴보았습니다. 연구진은 이를 **확산된 주의력(diffused attention)**이라고 부릅니다. 이는 마치 AI가 목격자의 진술을 지도 및 사진과 연결하며 수첩 전체를 정독하는 것과 같습니다.

• 결과: AI가 이렇게 행동했을 때, 버그를 성공적으로 수정할 확률이 훨씬 높았습니다. 실제로 연구 결과, "확산된 주의력"은 성공과 강력한 상관관계가 있었습니다.

2. "터널 시야"를 가진 탐정 (패자):
AI가 실패했을 때, AI는 터널 시야(좁은 시야)를 가진 탐정처럼 행동했습니다. 아주 작고 중요하지 않은 세부 사항에 집착하며 다른 모든 것을 무시했습니다. 종종 AI는 버전 정보(예: "소프트웨어 버전 1.2.3" 또는 "운영체제: Linux")에 집착했습니다. 이는 마치 탐정이 살해 도구와 목격자는 무시한 채, 용의자의 신발 사이즈만 뚫어지게 쳐다보고 있는 것과 같습니다.

• 결과: AI가 이러한 지루한 메타데이터 세부 사항에 너무 집중했을 때, 대개 버그 수정에 실패했습니다. 연구는 "국소적 주의력(localized attention)"(한 가지에만 집중하는 것)이 수정 실패의 강력한 징후임을 보여주었습니다.

AI와 인간은 무엇이 중요한지에 대해 동의하는가?

연구진은 또한 AI가 인간 개발자가 보는 것과 같은 단서를 보고 있는지 알고 싶었습니다. 이를 확인하기 위해, 4명의 숙련된 인간 개발자에게 100개의 동일한 버그 리포트를 읽게 하고, 그들이 가장 중요하다고 생각하는 부분을 표시하게 했습니다.

결과는 희비가 엇갈렸습니다:

• 좋은 소식: AI가 성공했을 때, AI는 대개 인간이 중요하다고 생각하는 섹션을 보고 있었습니다. AI와 인간은 주요 단서(버그 설명 등)에 대해 약 **54%**의 확률로 의견이 일치했습니다.
• 나쁜 소식: AI가 실패했을 때, AI는 자주 인간이 꼽은 주요 단서를 무시하고 버전 번호와 같은 잘못된 것에 집중했습니다. 연구 결과, AI의 주의력이 인간의 주의력과 더 많이 일치할수록 성공적인 수정 확률이 높아졌습니다.

이 논문이 배제한 사실

이 연구가 밝혀내지 못한 점을 명시하는 것도 중요합니다. 연구진은 버그의 난이도가 실패의 주요 원인인지 확인했습니다. 그들은 버그를 "쉬움", "중간", "어려움" 단계로 나누어 살펴보았습니다. 그 결과, 어려운 버그가 수정하기 더 어렵기는 했지만, 버그의 난이도만으로는 왜 AI가 실패했는지 설명할 수 없었습니다. 쉬운 버그에서도 AI가 "터널 시야"를 가지고 올바른 단서를 무시한다면 실패할 수 있었습니다. 이는 문제가 단순히 버그가 너무 어렵기 때문이 아니라, AI가 가끔 엉뚱한 곳을 보고 있기 때문이라는 점을 시사합니다.

결론

이 논문은 AI가 코드를 더 잘 고치게 만드는 비결이 단순히 더 많은 데이터를 주거나 더 똑똑하게 만드는 것이 아니라는 점을 시사합니다. 그것은 AI에게 **"읽는 법"**을 가르치는 것입니다. 연구는 성공적인 수정은 AI가 지루한 세부 사항(소프트웨어 버전 등)에 갇히는 대신, 증상, 에러 로그, 기대 동작과 같은 전체 이야기에 주의력을 분산시킬 때 일어난다는 것을 보여줍니다.

AI가 "터널 시야"를 가질 수 있다는 점을 이해함으로써, 개발자들은 AI가 올바른 단서에 집중하도록 강제하는 더 나은 지시문(프롬프트)을 설계할 수 있습니다. 이는 마치 탐정에게 용의자의 신발을 쳐다보는 것을 멈추고 살해 도구를 보라고 가르치는 것과 같습니다. 연구진은 향s 미래의 AI 모델이 올바른 것에 집중할 수 있도록 돕기 위해, 인간이 주석을 달아놓은 새로운 데이터셋을 구축하였으며, 이를 통해 AI가 우리가 사는 세상을 움직이는 소프트웨어를 고치는 데 있어 더욱 신뢰할 수 있는 파트너가 되기를 기대하고 있습니다.