당신이 로봇에게 날씨를 예측하는 법을 가르치려 한다고 상상해 보십시오. 당신은 로봇에게 수천 장의 오래되고 먼지 쌓인 기상 지도들을 보여주며, 구름이 어떤 모양일 때 비가 왔는지를 암기하라고 시킬 수 있습니다. 이것이 오늘날 대부분의 컴퓨터 프로그램이 학습하는 방식입니다. 즉, 과거의 사례들이 담긴 정적인 도서관을 공부하며 미래가 과거와 똑같기를 바라는 것이죠. 하지만 만약 날씨가 갑자기 변한다면 어떻게 될까요? 만약 예전 책에는 없던 새로운 형태의 폭풍이 나타난다면 어떨까요? 로봇은 낡은 규칙에 의존해 추측만 하다가 갇혀버릴 것입니다. 이것이 바로 금융 뉴스를 읽어 주가를 예측하려는 컴퓨터들이 직면한 문제입니다. 현재 이들은 인간이 주석을 달아놓은 데이터셋, 즉 사람들이 뉴스를 읽고 시장에 대해 "좋음" 또는 "나쁨"이라고 적어 놓은 것에 의존하고 있습니다. 하지만 인간은 느리고 비용이 많이 들 뿐만 아니라, 그들의 의견이 혼란스럽고 빠르게 움직이는 실제 주식 시장의 상황과 일치하지 않을 수도 있습니다.

"강화 학습(Reinforcement Learning)"의 세계로 들어와 보십시오. 이것을 교과서를 공부하는 것이 아니라, 비디오 게임을 하는 것이라고 생각하십시오. 답을 암기하는 대신, 컴퓨터는 무언가를 시도하고, 실수하고, 잘했을 때 점수(보상)를 받는 과정을 통해 배웁니다. 당신이 곧 읽게 될 논문에서 저자들은 컴퓨터에게 금융 뉴스를 이해하도록 가르치는 새로운 방법을 소개합니다. 그들은 이를 FinSMART라고 부릅니다. 컴퓨터의 답변을 채점하기 위해 인간에게 요청하는 대신, 그들은 주식 시장 자체가 선생님이 되도록 합니다. 만약 컴퓨터가 주가가 오를 것이라고 예측했고 실제로 주가가 올랐다면, 높은 점수를 받습니다. 틀렸다면 낮은 점수를 받습니다. 이를 통해 컴퓨터는 조용하고 정적인 교실의 오래된 데이터가 아니라, 실제의 무질서하고 노이즈가 많은 현실로부터 직접 배울 수 있습니다.

문제점: 교과서만 읽는 로봇

오랫동안 주식 시장을 예측하려는 컴퓨터들은 작년 시험지로만 시험 공부를 하는 학생들과 같았습니다. 그들은 금융 뉴스를 스캔하기 위해 인간처럼 읽고 쓸 수 있는 초지능형 AI인 "대규모 언어 모델(LLM)"을 사용합니다. 하지만 이 AI들은 대개 "지도 학습(Supervised Learning)"을 통해 훈련됩니다. 선생님이 학생에게 뉴스 기사 뭉치를 건네주며 이미 빨간 잉크로 정답을 적어 놓은 모습을 상상해 보십시오: "이것은 좋음", "이것은 나쁨". 학생은 이 빨간 잉크 답변을 암기합니다.

문제는 주식 시장은 매초 변화하는 살아있는 생명체라는 점입니다. 작년의 "빨간 잉크" 답변은 오늘날에는 완전히 틀릴 수 있습니다. 게로 더이상의 문제는, 인간에게 그 답변을 쓰게 하는 것이 느리고 비용이 많이 든다는 것입니다. 논문은 이러한 정적인 인간 제작 라벨에 의치하는 것이, 잔잔한 호수의 지도를 가지고 폭풍우 치는 대양을 항해하려는 것과 같다고 주장합니다. 이러한 모델들은 "시장 불가지론적(market-agnostic)"입니다. 즉, 예측을 내놓은 후 실제 시장에서 어떤 일이 일어나는지에는 관심이 없고, 단지 인간의 라벨과 일치시키려고만 한다는 뜻입니다.

해결책: 시장이 선생님이 되게 하라

저자들은 판을 뒤집는 새로운 프레임워크인 FinSMART를 소개합니다. AI에게 채점을 맡기기 위해 인간에게 요청하는 대신, FinSMART는 주식 시장에게 채점을 요청합니다.

이 마법이 단계별로 일어나는 과정은 다음과 같습니다:

1. 설정: AI는 금융 뉴스 기사를 읽고 주가가 올라갈지(Positive), 내려갈지(Negative), 혹은 그대로일지(Neutral)를 추측합니다.
2. 현실 확인: 시스템은 그날 주가가 실제로 어떻게 변하는지 지켜봅니다.
3. 점수 산정: 만약 AI가 "Positive"라고 예측했고 주가가 실제로 올랐다면(구체적으로, 특정 수치만큼 시장 평균을 상회했다면), AI는 큰 보상을 받습니다. 만약 "Negative"라고 예측했고 주가가 폭락했다면, 역시 보상을 받습니다. 하지만 AI가 "Positive"라고 예측했는데 주가가 폭락했다면, 무거운 벌칙을 받습니다.
4. 필터링: 시장에는 노이즈가 많습니다. 때로는 뉴스 때문이 아니라 경제 전체가 잘 돌아가서 주가가 오르기도 합니다. 이를 해결하기 위해 FinSMART는 영리한 "이중 필터" 시스템을 사용합니다. 주가가 올바른 방향으로 움직였을 뿐만 아니라, 그 움직임이 단순한 무작위 노이즈가 아닌 실제 신호로 간 만큼 강력할 때만 보상을 줍니다. 이는 마치 당신이 정답을 맞혔을 때뿐만 아니라 풀이 과정까지 명확히 보여주었을 때만 금메달을 주고, 운 좋게 맞힌 경우는 무시하는 선생님과 같습니다.

이 과정은 **시장 정렬 강화 학습(Market-Aligned Reinforcement Learning)**이라고 불립니다. AI는 시장이 주는 점수에 따라 자신의 뇌(즉, "가중치")를 조정하며 주식 거래라는 게임을 반복해서 플레이하며 배웁니다.

핵심 비결: GRPO와 "그룹" 게임

"시장이 그렇게 노이즈가 많다면, AI가 혼란스러워하지 않을까?"라고 궁금할 수 있습니다. 저자들은 **그룹 상대 정책 최적화(Group Relative Policy Optimization, GRPO)**라는 특별한 훈련 기법을 사용합니다.

선생님이 학생에게 답이 절대적인 관점에서 "맞다" 혹은 "틀리다"라고 말해주지 않는 교실을 상상해 보십시오. 대신, 선생님은 여덟 명의 학생에게 같은 질문에 답하게 합니다. 그런 다음 선생님은 "가장 높은 점수를 받은 학생은 보너스를 받고, 가장 낮은 점수를 받은 학생은 점수를 잃는다"라고 말합니다. AI는 동일한 뉴스 기사에 대해 여덟 가지 서로 다른 추측을 생성함으로써 이 작업을 수행합니다. AI는 이 추측들을 서로 비교합니다. 만약 어떤 추측이 다른 추측들보다 더 나은 시장 결과를 이끌어낸다면, AI는 그런 종류의 추측을 더 자주 하도록 학습합니다. 이는 시장 데이터가 무질서하고 혼란스러울 때도 AI가 최선의 신호를 찾을 수 있도록 도와줍니다.

결과: 기존의 챔피언들을 이기다

저자들은 FinSMART를 현재 최고의 모델들(FinDPO 및 FinBERT 등) 및 기존의 사전 기반 방식들과 테스트했습니다. 그들은 AI가 좋아하는 주식은 사고, 싫어하는 주식은 공매도(sell short)하는 거래 전략을 시뮬레이션했습니다.

결과는 극적이었습니다:

• 수익: FinSMART 전략은 테스트 기간 동안 **264.9%**의 누적 수익률을 기록했습니다. 그다음으로 우수한 모델인 FinDPO는 **109.8%**를 기록했습니다. 이는 엄청난 차이입니다.
• 리스크: FinSMT는 단순히 돈을 더 많이 번 것이 아니라, 더 안전하게 벌었습니다. 위험 대비 수익률을 측정하는 "샤프 지수(Sharpe Ratio)"는 FinSMART가 1.97로, 그다음 모델인 1.12보다 높았습니다.
• 적응성: 저자들은 또한 독특한 실험을 했습니다. 새로운 뉴스과 새로운 시장 결과를 사용하여 AI가 6개월마다 스스로 재학습하도록 했습니다. 이 "주기적 재학습(periodically retrained)" 버전의 FinSMART는 더욱 뛰어난 성능을 보이며 **406.2%**의 누적 수익률을 달al성했습니다.

이것이 중요한 이유

이 논문은 AI에게 직접 시장이 가르치게 함으로써, 우리가 과거를 암기하는 것을 넘어 현재에 적응할 수 있는 금융 도구를 구축할 수 있음을 시사합니다. 저자들은 정적인 인간 라벨을 사용하는 기존 방식이 변화하는 시장 역학을 따라잡을 수 없기 때문에 한계가 있다고 밝혔습니다. 반면 FinSMART는 새로운 기사와 실제 시장 결과를 통해 지속적으로 학습할 수 있습니다.

요약하자면, 이 논문은 단순히 규칙을 읽는 것이 아니라 주식 시장이라는 게임을 직접 플레이하며 배우는 로봇이 훨씬 더 뛰어난 플레이어가 될 수 있음을 보여줍니다. 이는 금융 AI의 미래가 더 큰 교과서를 갖는 것이 아니라, 시장 자체가 궁극적인 스승이 되는 더 스마트한 실시간 피드백 루프에 있다는 것을 시사합니다.