Extremely coarse learning objectives induce human-aligned representations in AI vision models
본 연구는 단 8개의 광범위한 범주를 구별하는 것과 같이 극도로 거친 학습 목표로 AI 비전 모델을 훈련시키는 것이, 미세한 수준의 작업이나 자기 지도 학습 작업으로 훈련된 모델보다 인간의 신경 반응 및 지각적 판단과 더 밀접하게 일치하는 내부 표현을 생성한다는 것을 입증한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 동료 심사를 거치지 않은 프리프린트의 AI 생성 설명입니다. 의학적 조언이 아닙니다. 이 내용을 바탕으로 건강 관련 결정을 내리지 마세요. 전체 면책 조항 읽기
수십 년 동안 과학자들은 인간의 뇌가 어떻게 빛의 범람을 세상에 대한 선명한 그림으로 바꾸는지 이해하기 위해 노력해 왔습니다. 그들은 그 답이 우리 시각 체계가 정보를 조직하는 방식, 즉 자연의 혼돈을 '동물', '도구', 또는 '탈것'과 같은 깔끔한 범주로 분류하는 방식에 있다고 오랫동안 의심해 왔습니다. 이러한 아이디어를 테스트하기 위해 연구자들은 뇌의 구조를 모방한 인공지능 시스템을 구축하고, 이들이 수천 개의 특정 객체를 인식하도록 훈련시켰습니다. 이 디지털 뇌들은 강력한 도구가 되었지만, 한 가지 의문이 남아 있었습니다. 인간과 같은 시각적 이해를 구축하기 위해 뇌가 실제로 그렇게 방대한 수의 구체적인 라벨을 학습할 필요가 있는가 하는 점이었습니다. 어쩌면 인간처럼 보는 비결은 방대한 객체의 백과사전을 암기하는 것이 아니라, 세상을 분류하는 훨씬 더 단순하고 넓은 방식을 배우는 데 있을지도 모릅니다.
존스 홉킨스 대학교의 연구진은 표준적인 AI 훈련의 복잡성을 제거함으로써 이 가능성을 테스트하기 위해 나섰습니다. 그들은 인공 신경망에 일반적인 관행처럼 1,000개의 서로 다른 이미지 카테고리를 구별하도록 가르치는 대신, 동일한 이미지들을 단 몇 개의 매우 광범위한 그룹으로 분류하도록 가르쳤습니다. 그들은 이 그룹들을 위해 사람이 만든 라벨을 사용하지 않았습니다. 대신 컴퓨터가 데이터 내에서 스스로 자연스러운 분할을 찾도록 하여, '생명체'와 '기계'를 구분하거나 '실내 장면'과 '실외 장면'을 구분할 수 있는 카테고리를 만들게 했습니다. 그런 다음 이들은 수백 개의 네트워크를 훈련시키며 그룹의 수를 최소 2개에서 최대 64개까지 변화시켰고, 그 결과로 만들어진 디지털 뇌가 실제 인간의 뇌 활동 및 인간 관찰자의 행동과 얼마나 잘 일치하는지를 비교했습니다.
결과는 놀라웠습니다. 연구진은 이처럼 극도로 단순하고 거친 카테고리로 훈련된 네트워크가 1,000개의 전체 카테고리로 훈련된 네트워크만큼이나, 혹은 종종 그보다 더 좋게 인간의 뇌 활동과 일치하는 시각 세계의 내부 지도를 개발한다는 것을 발견했습니다. 이 인공 뇌들이 인간의 시각 피질 스캔 및 마카크 원숭이의 뇌 기록과 얼마나 잘 정렬되는지 측정했을 때, 단 8개의 광범위한 그룹으로 훈련된 모델이 가장 복잡한 모델들과 대등한 성능을 보였습니다. 더욱 놀라운 점은, 이 단순한 네트워크들이 오늘날 사용 가능한 가장 진보된 인공지능 시스템을 포함하여 다른 어떤 모델보다도 객체 간의 유사성에 대한 인간의 판단을 더 잘 일치시켰다는 것입니다.
이 발견은 인간과 같은 기계를 만들기 위해 방대하고 상세한 특정 객체 명칭 목록을 훈련시켜야 한다는 기존의 생각을 뒤흔듭니다. 이 연구는 인간의 시각 체계가 정교한 세상에 대한 이해를 발달시키기 위해 미세하게 구분된 천 가지 방식의 분류 작업이 필요하지 않을 수도 있음을 시사합니다. 대신, 이미지를 광범위하고 의미 있는 클러스터로 그룹화하는 능력이 우리 자신의 시각을 반영하는 표현을 생성하기에 충분해 보입니다. 연구진은 이 효과가 오래되고 단순한 설계부터 현대의 복잡한 시스템에 이르기까지 다양한 유형의 신경망 구조 전반에 걸쳐 유효함을 입증했으며, 훈련 데이터가 제한적인 상황에서도 작동함을 보여주었습니다.
연구팀은 또한 이 광범위한 카테고리를 만드는 구체적인 방식이 중요한지도 탐구했습니다. 그들은 카테고리가 이미지 자체의 통계적 패턴에서 도출되었든, 혹은 '자연적인 것 대 인공적인 것' 또는 '작은 것 대 큰 것'과 같이 명확하고 인간이 이해할 수 있는 개념에 의해 정의되었든 상관없이 결과가 유지된다는 것을 발견했습니다. 이는 핵심 요인이 라벨의 구체적인 내용이 아니라 학습 목표 자체의 거칠기(coarseness)라는 것을 나타냅니다. 연구는 또한 이러한 거칠게 훈련된 네트워크가 단순히 복잡한 네트워크가 배우는 것을 단순화된 버전으로 배우는 것이 아니라, 인간의 지각과 더 밀접하게 일치하는 근본적으로 다른 방식으로 시각 정보를 조직한다는 것을 보여주었습니다.
놀라울 정도로 단순한 학습 목표가 인간과 일치하는 시각을 만들어낼 수 있음을 보여줌으로써, 이 연구는 기계가 보는 데 무엇이 필요한지에 대한 우리의 이해를 재정립합니다. 이는 인간의 지각을 진정으로 모방하는 인공지능으로 가는 길이 더 많은 데이터나 더 복잡한 과제를 입력하는 데 있는 것이 아니라, 세상을 더 넓고 근본적인 관점에서 보도록 가르치는 데 있을지도 모른다는 것을 시사합니다. 이 연구 결과는 더 강력할 뿐만 아니라 인간의 시각적 경험을 인식하고 조직하는 방식과 진정으로 정렬된 AI 시스템을 구축하는 새로운 길을 열어줍니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.