로봇 팔이 커피 머그잔을 향해 손을 뻗는 장면을 상상해 보십시오. 성공하기 위해서 기계는 세 가지 뚜렷한 퍼즐을 동시에 풀어야 합니다. 머그잔의 어느 부분이 중요한지(테두리가 아닌 손잡이), 그 부분이 시각적 세계의 정확히 어디에 위치하는지, 그리고 그 부분이 어떤 동작을 유도하는지(미는 것이 아니라 잡는 것)를 결정해야 합니다. 수년간 연구자들은 로봇이 물체에 대해 무엇을 해야 하는지 설명하도록 요청함으로써 인공지능 시스템을 이 과제들로 테스트해 왔습니다. 최근의 한 동반 연구는 만약 단순히 AI에게 대상 부분의 이름을 알려준다면(예를 들어, 그냥 "머그잔을 잡아"라고 하는 대신 "손잡이를 잡아"라고 말하면), 시스템의 성능이 극적으로 뛰어오른다는 점을 시사했습니다. 이는 AI가 마침내 이미지를 보고 물체의 물리적 메커니즘에 대해 추론하는 법을 배우고 있다는 희망적인 결론으로 이어졌습니다.

하지만 GroundBench라는 새로운 조사 결과는 이러한 결론이 성급할 수 있음을 시사합니다. 마니팔 대학교 자이푸어의 사티게리(Sattigeri)가 이끄는 연구진은 AI가 실제로 물체를 더 잘 보는 법을 배우고 있는 것이 아니라고 의심했습니다. 대신, 그들은 시스템이 일종의 지름길에 의존하고 있을 것이라고 가설을 세웠습니다. 즉, 이미지에 무엇이 보이든 상관없이 "손잡이"와 같은 특정 단어가 "잡다"라는 동작과 거의 항상 짝을 이룬다는 것을 단순히 암기하고 있다는 것입니다. 이를 테스트하기 위해, 그들은 이미지에서 부품을 찾아내는 능력과 단어를 바탕으로 동작을 추측하는 능력을 분리하도록 설계된 엄격하고 새로운 벤치마크를 구축했습니다. 그들은 단순히 AI에게 과제를 수행하도록 요구한 것이 아니라, 어떤 구체적인 단서가 실제 성공을 이끌어내고 있는지 확인하기 위해 정보를 하나씩 체계적으로 제거했습니다.

연구진은 세 가지 다른 버전의 선도적인 인공지능 모델을 테스트하기 위해 여섯 가지의 서로 다른 시나리오, 즉 조건들을 구성했습니다. 첫 번째 시나리오에서 AI는 텍스트 지시 없이 키보드나 문과 같은 물체의 이미지만을 보았습니다. 두 번째에서는 "키보드"와 같은 물체의 이름을 추가했습니다. 세 번째에서는 "스페이스바"와 같이 특정 부품의 이름을 지정했습니다. 네 번째에서는 화면상의 특정 지점과 박스를 통해 부품의 정확한 위치를 제공했지만, 부품의 이름은 의도적으로 숨겼습니다. 다섯 번째에서는 이름과 위치를 모두 제공했습니다. 마지막으로, 여섯 번째에서는 힌지가 경첩인지 슬라이더인지와 같이 물체가 어떻게 움직이는지에 대한 기술적 세부 사항을 추가했습니다.

결과는 놀랍고도 직관에 어긋났습니다. 연구진이 AI에게 대상 부품의 정확한 위치를 주었으나 그 부품이 무엇이라 불리는지는 알려주지 않았을 때, 시스템의 성능은 무너졌습니다. 테스트된 세 모델 모두에서, 올바른 동작을 선택하는 정확도가 무작위 추측 수준이거나 그보다 더 낮아졌습니다. 한 모델은 버튼의 위치를 받았음에도 이름을 알려주지 않자 0.26점을 기록했는데, 이는 이미지를 완전히 무시한 단순한 베이스라인 모델이 0.53점을 기록한 것보다 낮은 수치였습니다. AI는 연구진이 가리킨 곳에 자신의 "손가락"을 정확히 배치하며 주어진 위치를 완벽하게 재현할 수 있었음에도 불구하고, 그 위치를 가지고 무엇을 해야 할지는 이해하지 못했습니다. 마치 로봇이 버튼을 볼 수는 있지만, 버튼이 눌려야 한다는 사실은 전혀 모르는 것과 같았습니다.

이와 극명하게 대조적으로, 연구진이 AI에게 부품의 이름은 주되 위치는 숨겼을 때 성능은 치솟았습니다. 위치 데이터만 주어졌을 때 실패했던 동일한 모델들이, "버튼"이나 "문"이라고 이름을 알려주자 위치를 보지 못한 상태에서도 0.68에서 0.74 사이의 정확도를 기록하며 급등했습니다. 이 패턴은 전반적으로 일관되게 나타났습니다: AI에게 부품의 범주 이름을 제공하는 순간, 모델은 거의 항상 올바른 동작을 맞출 수 있었습니다. 연구진은 정교하게 큐레이션된 물체 세트에서 부품의 이름만으로도 답을 결정하기에 충분하다는 것을 발견했습니다. AI는 물리적 구조를 파악하기 위해 이미지를 보고 있는 것이 아니라, 단어를 읽고 사전 학습된 연상을 떠올리고 있었던 것입니다.

이 의구심을 확인하기 위해, 연구진은 이미지를 완전히 제거하고 텍xt만으로 답변하도록 하는 제어 테스트를 실행했습니다. 테스트된 가장 발전된 모델의 경우, 이미지를 제거해도 부품 이름이 제공되었던 조건에서의 성능에는 차이가 없었습니다. 모델은 물체를 보지 않고도 동일하거나 심지어 약간 더 나은 성적을 거두었습니다. 이는 시스템이 시각적 접지(visual grounding)—단어를 이미지의 특정 픽셀과 연결하는 과정—를 사용하고 있는 것이 아니라, 텍스트 기반의 지름길에 의존하고 있다는 강력한 증거를 제공했습니다. AI는 눈앞의 특정 문이나 버튼의 메커니즘을 이해해서가 아니라, 훈련 데이터에서 "경첩 문"은 "당기기"를, "슬라이더 버튼"은 "누르기"를 의미한다는 것을 보았기 때문에 그 조합을 알고 있었던 것입니다.

또한 연구진은 AI가 속임수 질문을 따를 수 있는지 테스트했습니다. 연구진은 키보드처럼 여러 부품이 있는 물체의 이미지를 가져와서, 흔히 쓰이지 않는 특정 키와 같은 비표준 부품에 대해 동작을 수행하도록 요청했습니다. 그들은 AI가 실제로 그 특정 키를 보는지, 아니면 전체 물체에 대한 가장 일반적인 동작을 기본값으로 사용하는지 확인하고자 했습니다. 모델들은 일반적으로 새로운 지시를 따랐지만, 요청된 동작이 특이한 경우(예를 들어, 부품을 수직으로 들어 올리는 경우)에는 크게 어려움을 겪었습니다. 이 경우 모델들은 종old종 가장 흔한 동작으로 되돌아갔는데, 이는 모델들이 진정으로 시각적 장면을 분석하기보다는 여전히 가장 흔한 연상에 의존하고 있음을 시사했습니다.

아마도 가장 놀라운 발견은 더 많은 정보가 항상 도움이 되는 것은 아니라는 점이었습니다. 연구진이 AI에게 위치와 부품의 이름을 주고, 여기에 물체가 어떻게 움직이는지에 대한 상세한 기계적 설명을 추가했을 때, 성능은 오히려 떨어졌습니다. 모델들은 개선되지 않았고, 오히려 정확도가 낮아졌습니다. 이는 추가된 정보가 시스템을 혼란스럽게 하거나, 단순히 부품의 이름을 사용하는 효과적인 지름길로부터 주의를 분산시켰음을 시사합니다. 연구진은 이러한 특정 과제에서 더 많은 데이터가 더 나은 추론을 의미하는 것은 아니라고 결론지었습니다.

이 연구의 함의는 로보틱스와 인공지능 분야에서 매우 중요합니다. 이는 특정 테스트에서의 높은 점수가 오해를 불러일으킬 수 있음을 드러냅니다. AI는 물리적 추론의 달인처럼 보일 수 있지만, 실제로는 단어 연상의 달인일 뿐입니다. 연구진은 이전 연구들에서 부품의 이름을 알려주는 것이 정확도를 크게 높였던 드라마틱한 개선이, AI가 갑자기 더 잘 보게 되었기 때문이 아니라 이름 자체가 답을 포함하고 있었기 때문이었을 가능성이 높다는 것을 발견했습니다. 이 연구는 이러한 모델들이 시각적 추론을 할 수 없다고 주장하는 것이 아니라, 이러한 특정 조건 하에서 그들이 그것을 사용하지 않고 있음을 보여주는 것입니다.

GroundBench는 AI의 성능 밑바닥에서 실제로 무엇이 일어나고 있는지 파헤치는 진단 도구 역할을 합니다. 연구진은 시각적 위치와 의미론적 이름을 분리함으로써, 모델이 하고 있는 것처럼 보이는 일과 실제로 하고 있는 일 사이의 간극을 폭로했습니다. 그들은 부품의 이름이 제거되면, 위치가 완벽하게 명확하더라도 모델이 동작을 찾아낼 수 없다는 것을 발견했습니다. 이는 이러한 시스템들에게 있어 진정한 기계적 추론으로 가는 길은 생각보다 훨씬 길다는 것을 시사합니다. 그들은 아직 물체를 보고 그 기능을 이해하는 법을 배우지 못했습니다. 그들은 지금까지 자신들에게 유리하게 작용했던 지름길에 의존하는 대신, 들리는 단어를 듣고 기능을 추측하는 법을 배웠을 뿐입니다. 이 연구는 실패에 대한 선언이 아니라, 우리가 나아가야 할 방향에 대한 더 명확한 지도를 제시하며 끝을 맺습니다. 즉, 들리는 단어를 시각적으로 보는 물리적 세계와 진정으로 연결할 수 있는 시스템을 구축하는 일입니다.