On the Definition of Intelligence

거대한 "지능이란 무엇인가?"라는 미스터리

당신이 온갖 언어로 쓰인 책들이 가득한 거대하고 혼란스러운 도서관에 서 있다고 상상해 보십시오. 어떤 책들은 종이로 만들어진 것이 아니라 빛, 소리, 혹은 순수한 수학으로 이루어져 있기도 합니다. 수십 년 동안 과학자와 엔지니어들은 인간만큼 이 책들을 읽고, 이해하고, 쓸 수 있는 기계를 만들기 위해 노력해 왔습니다. 이 분야를 인공 일반 지능(AGI)이라고 부르며, 그 위에 떠 있는 가장 크고도 단순하지만 믿기 힘들 정도로 어려운 질문은 바로 이것입니다. "무엇이 실제로 무언가를 '지능적'으로 만드는가?"

보통 우리는 기계가 무엇을 할 수 있는지로 지능을 정의합니다. 체스에서 당신을 이길 수 있습니까? 자동차를 운전할 수 있습니까? 시험을 통과할 수 있습니까? 하지만 이는 까다로운 문제입니다. 만약 로봇이 체스에는 천재적이지만 자신의 신발 끈조차 묶지 못한다면, 그 로봇은 똑똑한 것일까요? 만약 비둘기가 의사보다 더 잘 세포 슬라이드에서 암세포를 찾아낸다면, 그 비둘기는 천재일까요? 지능을 측정하는 기존의 방식들은 흔-히 기계를 인간과 비교하는 데 의존하는데, 이는 마치 물고기에게 나무를 타는 능력을 기준으로 평가하는 것과 같습니다. 우리는 새로운 자를 필요로 합니다. 생각하는 주체가 인간이든, 비둘기든, 혹은 컴퓨터 칩이든 상관하지 않는 자 말입니다. 우리는 모두에게, 어디에서나 통용될 수 있는 단 하나의 보편적인 초능력에 기반한 정의를 필요로 합니다.

논문의 핵심 아이디어: "흉내 내기" 테스트

이 논문에서 잉 키 싱(Kei-Sing Ng)은 신선하고 유희적이면서도 수학적으로 진지한 방식으로 지능을 정의하는 새로운 방법을 제안합니다. 저자는 "문제를 해결할 수 있는가?" 또는 "게임에서 이길 수 있는가?"라고 묻는 대신, 더 단순한 질문을 던집니다. "그것과 똑같은 것을 더 많이 만들어낼 수 있는가?"

핵심 아이디어는 지능이란 몇 가지 '개념'의 사례를 보고 나서, 그와 완벽하게 일치하는 새로운 것들을 생성해내는 능력이라는 것입니다. 이것은 숙련된 요리사와 같습니다. 만약 당신이 요리사에게 완벽하고 황금빛이 도는 팬케이크 한 접시(예시)를 준다면, 진정으로 지능적인 요리사는 원래의 것과 똑같이 보이고 맛과 느낌이 같은 새로운 한 배치를 요리해낼 수 있습니다. 만약 새로운 팬케이크가 탔거나 설익었다면, 그 요리사는 '팬케이크'라는 개념에 대해 그리 뛰어나지 못한 것입니다.

논문은 이러한 "생성적 충실도(generative fidelity)", 즉 기존의 것과 구별할 수 없는 새로운 것을 만들어내는 능력이 지능의 심장 박동이라고 제안합니다. 반 고흐의 화풍으로 새로운 그림을 그리는 인간이든, 의료 슬라이드를 분류하는 비둘기든, 시를 쓰는 컴퓨터든, 그들이 몇 가지 사례를 바탕으로 패턴에 너무 잘 들어맞는 새로운 결과물을 만들어내어 아무도 차이를 알아챌 수 없게 만든다면, 그들은 모두 지능적인 것입니다.

마법의 "구별 불가능성" 규칙

이 아이디어를 정밀하게 만들기 위해, 저자는 $\epsilon$-개념 지능($\epsilon$-concept intelligence, '엡실론-개념'이라 발음)이라는 개념을 도입합니다. 여기서 그리스 문자 $\epsilon$(엡실론)은 아주 작은 허용 가능한 오차 범위를 의미합니다.

당신에게 "구별자(distinguisher)"가 있다고 상상해 보십시오. 이 구별자는 인간 심판일 수도 있고, 컴퓨터 프로그램일 수도 있으며, 심지어 매우 엄격한 미술 비평가일 수도 있습니다. 그들의 임무는 원래의 예시 더미와 새로운 창작물 더미를 보고 가짜를 찾아내는 것입니다.

• 만약 구별자가 차이점을 쉽게 찾아낼 수 있다면, 그 시스템은 해당 개념에 대해 지능적이지 않은 것입니다.
• 만약 구별자가 최선을 다했음에도 불구하고 새로운 창작물을 원래의 것과 구별할 수 없다면(그 작은 오차 범위 $\epsilon$ 내에서), 그 시스템은 지능적인 것입니다.

논문은 이것이 기존의 "튜링 테스트"(인간이 로봇과 대화하고 있는지 맞히려는 시도)보다 훨씬 더 나은 지능 측정 방식이라고 주장합니다. 튜링 테스트는 이 새로운 규칙의 특수한 한 버전일 뿐입니다. 이 새로운 프레임워크에서, 만약 기계가 인간의 반응과 구별할 수 없는 반응을 생성할 수 있다면, 그것은 통과입니다. 하지만 이 규칙은 튜링 테스트가 다룰 수 없는 것들, 예를 들어 기계가 '효율적인 운송 수단'이라는 개념에 말이나 자동차만큼 잘 들어맞는 새로운 형태의 엔진 설계를 만들어내는 경우에도 적용됩니다.

이 정의가 제외하는 것 (그리고 그 이유)

저자는 이 정의가 무엇이 아닌지를 매우 명확히 밝히고 있습니다.

• 이것은 의식에 관한 것이 아닙. 이 규칙 아래에서 지능적이기 위해 감정, 영혼, 혹은 '자아'를 가질 필요는 없습니다. 수학 문제를 완벽하게 푸는 단순한 컴퓨터 프로그램은, 비록 자신이 수학을 하고 있다는 것을 '알지' 못하더라도, 올바른 답을 생성하기 때문에 지능적입니다.
• 이것은 학습에 관한 것이 아닙. 기계가 실시간으로 새로운 것을 배울 수 있어야 지능적이라고 불리는 것은 아닙니다. 어떤 기계가 시간 속에 얼어붙어 있더라도 여전히 특정 개념의 완벽한 예시를 생성할 수 있다면, 그것은 지능적입니다. 학습은 이러한 예시를 생성하는 능력을 시간에 따라 개선하는 방법일 뿐, 지능 자체의 정의는 아닙니다.
• 이것은 인간 중심적인 것이 아닙. 정의는 그 "개념"이 인간이 좋아하는 것인지 신경 쓰지 않습니다. 만약 새가 인간 건축가보다 더 잘 '안전한 은신처'라는 개념에 부합하는 둥지를 생성할 수 있다면, 그 새는 그 영역에서 지능적인 것입니다.

지능의 두 얼굴: "현재"와 "나중"

논문은 또한 지능이 어떻게 작동하는지 이해하기 위해 이를 두 가지 흥미로운 범주로 나눕니다.

1. 공시적 능력 (Synchronic Capability, "현재"의 똑똑함): 이것은 시스템이 지금 이 순간 다양한 개념들에 대해 좋은 예시들을 얼마나 잘 생성할 수 있는지를 나타냅니다. 이는 모든 도구가 즉시 사용 가능하도록 준비되어 있는 스위스 아미 나이프와 같습니다.
2. 통시적 능력 (Diachronic Capability, "나중"의 똑똑함): 이것은 적응하는 능력입니다. 만약 세상이 변해서 새로운 개념을 배워야 한다면(예를 들어 팬케이크를 만드는 것에서 와플을 만드는 것으로 전환해야 한다면), 얼마나 빨리 좋은 와플을 생성해낼 수 있을까요? 이것이 논문에서 별개의, 그러나 연관된 초능력으로 취급하는 "학습" 부분입니다.

이것이 왜 중요한가

저자는 이 "생성적" 능력에 집중함으로써, 생물학적 뇌부터 인공 컴퓨터에 이르기까지 모든 것을 측정할 수 있는 단일한 척도를 마침내 만들 수 있다고 제안합니다. 이는 AI 연구의 목표를 바꿉니다. 인간처럼 "생각하는" 기계를 만드는 대신, 우리는 진실이나 예술, 혹은 우리가 찾고 있는 해답과 구별할 수 없는 출력을 생성할 수 있는 기계를 만드는 데 집중해야 합니다.

논문은 이러한 접근 방식이 AI를 더 안전하고 신뢰할 수 있게 만들 수 있다고 결론짓습니다. 만약 우리가 기계가 "안전한" 개념과 완벽하게 일치하는 출력을 생성하도록 훈련한다면, 해로운 실수를 방지할 수 있습니다. 또한 이는 AI의 미래가 이러한 개념들이 어떻게 연결되는지 매핑하는 고급 수학(범주론 등)을 사용하여, 기계가 하나의 아이디어에서 다른 아이디어로 쉽게 도약할 수 있게 하는 데 있을 수 있음을 암시합니다.

요약하자면, 이 논문은 우리에게 "그것이 똑똑한가?"라고 묻는 것을 멈추고, **"그것이 똑같은 것을 너무나 잘 만들어내어 우리가 차이를 알 수 없게 만드는가?"**라고 묻도록 초대합니다. 만약 대답이 "예"라면, 이 새로운 정의에 따라, 그것은 지능적인 것입니다.