로봇에게 심장 박동, 자동차 엔진, 혹은 사람이 걷는 것과 같은 다양한 움직임 유형을 인식하도록 가르친다고 상상해 보세요. 오랫동안 우리는 이를 수행하는 두 가지 주요 방법을 사용해 왔습니다:

1. 오래된 방식: 오직 그 한 가지 작업만을 위해 작고 특화된 로봇을 하나씩 만듭니다. 심장 박동을 인식하고 싶다면 하나의 로봇을 만들고, 자동차 엔진을 인식하고 싶다면 완전히 다른 로봇을 만듭니다. 이 방식은 느리고 비효율적입니다. 왜냐하면 로봇이 심장 박동에 대해 배운 것을 자동차 엔진 작업과 공유할 수 없기 때문입니다.
2. "거대 두뇌" 방식 (기초 모델): 모든 것 (수백만 개의 다양한 데이터 스트림) 을 읽어서 시간이 지남에 따라 사물이 어떻게 변하는지에 대한 일반적인 규칙을 학습하는 하나의 거대하고 초지능적인 로봇을 만듭니다. 그런 다음 특정 업무에 특화시키기 위해 간단한 "보충 교육"만 제공하면 됩니다.

KairosHope는 미래를 예측하는 것뿐만 아니라 분류(데이터를 범주로 분류) 에 더 뛰어나도록 특별히 설계된 이 "거대 두뇌" 로봇의 새로운 차세대 버전입니다.

다음은 이를 단순한 개념으로 분해한 작동 원리입니다:

1. "거대 두뇌"의 문제점

현재의 "거대 두뇌" 모델에는 두 가지 큰 결함이 있습니다:

• 압도당함: 매우 긴 과거 데이터를 보여주면 기억이 막힙니다. 100 페이지 분량의 책에 있는 모든 단어를 한 번에 기억하려는 것과 같습니다. 작업량이 너무 많아 종종 시작 부분을 잊어버립니다.
• 상식 무시: 수십 년간 인간이 사용해 온 간단하고 입증된 통계적 규칙 (예: 심장 박동에는 리듬이 있다는 점) 을 무시한 채, 오직 깊은 수학만을 사용하여 처음부터 모든 것을 학습하려고 시도합니다.

2. 해결책: "이중 기억" 시스템 (HOPE 블록)

KairosHope 는 HOPE 블록이라는 특수한 뇌 구조로 기억 문제를 해결합니다. 모든 것을 한 번에 기억하려고 시도하는 대신, 인간의 뇌처럼 두 가지 다른 유형의 기억을 사용합니다:

• "Titans"(단기 기억): 이는 작업 기억과 같습니다. 즉각적이고 빠르게 변하는 세부 사항을 처리합니다. 자동차가 갑자기 브레이크를 밟거나 심장 박동이 뛰는 경우, Titans 모듈은 전체 역사에 혼란을 느끼지 않고 순간적인 변화를 즉시 감지합니다.
• "CMS"(장기 기억): 이는 깊고 역사적인 지식과 같습니다. 모든 단일 초를 저장하는 대신 큰 그림을 요약합니다. "자동차는 보통 순환적으로 주행한다"거나 "심장 박동은 몇 시간 동안 일정한 리듬으로 발생한다"는 점을 기억합니다.

작업을 분할함으로써 KairosHope 는 "뇌 마비"를 겪지 않고 방대한 양의 과거 데이터를 살펴볼 수 있으며, 비용을 낮게 유지하면서 장기적인 패턴을 기억합니다.

3. "하이브리드 헤드"(직관과 수학의 혼합)

로봇이 데이터를 처리한 후 결정을 내려야 합니다. 대부분의 AI 모델은 정답을 추측하기 위해 복잡한 내부 수학만 봅니다.

KairosHope 는 다릅니다. 하이브리드 의사결정 헤드를 사용합니다.

• AI 부분: 학습한 깊고 복잡한 패턴을 봅니다.
• "구식" 부분: 또한 기본 통계 (예: "이 데이터에 리듬이 있는가?" 또는 "노이즈가 있는가?") 를 확인하도록 간단한 계산기에 질문합니다.

AI 의 "직감"과 계산기의 "단단한 사실"을 결합합니다. 이 논문은 이 방식이 특히 학습할 예시가 많지 않을 때 로봇의 정확도를 훨씬 높인다고 주장합니다.

4. 학습 방법 (이 단계 훈련)

저자들은 로봇을 단순히 구축하는 데 그치지 않고, 학습한 것을 잊지 않도록 두 가지 구체적인 단계로 가르쳤습니다:

• 1 단계: "눈가리개" 게임 (사전 학습): 모델은 시계열 데이터 (날씨, 전력 사용량, 교통량 등) 의 방대한 라이브러리를 공급받았습니다. 데이터의 일부가 숨겨진 상태에서 누락된 부분을 추측해야 하는 게임을 강제로 수행하도록 하여, 시계열 데이터가 어떻게 작동하는지에 대한 "보편적 법칙"을 학습하게 했습니다.
• 2 단계: "보충 교육"(파인튜닝): 일반적인 규칙을 익힌 후, 특정 작업 (예: 특정 유형의 센서 인식) 을 보여주었습니다. LP-FT(선형 프로빙 후 전체 파인튜닝) 라는 특수 기술을 사용했습니다.
  • 비유: 마스터 셰프 (사전 학습된 모델) 를 상상해 보세요. 먼저 새로운 재료의 맛을 보게 하여 (선형 프로빙) 어떻게 어울리는지 확인합니다. 그런 다음 전체 요리를 하되 매우 신중하게 하여 새로운 것을 배우는 동안 기존 명품 레시피를 잊지 않도록 합니다. 이는 "파국적 망각"(새로운 것을 배우면 기존 지식이 지워지는 현상) 을 방지합니다.

5. 무엇이 작동했고 무엇이 작동하지 않았는지

연구자들은 이를 표준 데이터셋 목록 ("UCR 벤치마크") 에서 테스트했습니다.

• 승자: 이 모델은 시간이 정말 중요한 작업에서 놀라운 성과를 냈습니다. 예를 들어, 인간의 움직임 (HAR) 이나 센서 데이터를 인식하는 경우입니다. 이러한 것들은 엄격한 순서로 발생하기 때문에 (걷기 전에 뒤로 걸을 수 없음), 이중 기억 시스템이 빛을 발했습니다.
• 패자: 이 모델은 이미지 데이터에서는 어려움을 겪었습니다.
  • 이유: 이러한 테스트에서 2 차원 이미지 (예: 잎이나 곤충) 가 1 차원 선으로 "펼쳐졌습니다." 모델은 모양에서 "시간" 패턴을 찾으려 했습니다.
  • 교훈: 이 논문은 로봇의 "시간 기반" 뇌 (인과 관계를 기대함) 가 시작점과 끝점이 임의적인 모양에는 적합하지 않다는 것을 발견했습니다. 더 많은 예시를 가르치려고 시도했을 때도 큰 도움이 되지 않았습니다. 이는 "시간" 뇌를 "모양" 문제에 강제로 적용할 수 없으며, 서로 다른 사고 방식이 필요함을 증명합니다.

요약

KairosHope는 이전보다 시간 기반 데이터를 더 잘 이해하기 위해 "단기" 및 "장기" 기억 시스템을 결합한 새로운 AI 모델입니다. 이는 깊은 학습과 간단한 통계를 혼합하여 현명한 추측을 합니다. 이는 센서나 움직임과 같이 시간에 걸쳐 발생하는 것에는 훌륭하게 작동하지만, "시간" 뇌를 "모양" 문제 해결에 강요해서는 안 된다는 점을 상기시킵니다.