Validation of a Small Language Model for DSM-5 Substance Category Classification in Child Welfare Records

이 논문은 미국 중서부 주의 아동복지 조사 기록에서 DSM-5 물질 사용 범주를 식별하기 위해 로컬로 호스팅된 200 억 파라미터 규모의 소형 언어 모델이 알코올, 대마, 오피오이드 등 주요 5 개 범주에서 인간 전문가와 거의 완벽한 일치율을 보이며 신뢰할 수 있는 분류가 가능함을 입증했습니다.

Brian E. Perron, Dragan Stoll, Bryan G. Victor, Zia Qia, Andreas Jud, Joseph P. RyanTue, 10 Ma💬 cs.CL

Breaking Training Bottlenecks: Effective and Stable Reinforcement Learning for Coding Models

이 논문은 현대 코딩 모델의 학습 병목 현상을 해결하기 위해 조건부 트렁케이션 마스킹, 다양성 기반 온도 선택, KL 손실 제거 등 세 가지 혁신을 도입한 MicroCoder-GRPO 알고리즘과 더 까다로운 학습 데이터셋, 그리고 정밀한 평가 프레임워크를 제안하여 강력한 베이스라인 대비 LiveCodeBench v6 에서 최대 17.6% 의 상대적 성능 향상을 달성했다고 요약할 수 있습니다.

Zongqian Li, Shaohan Huang, Zewen Chi, Yixuan Su, Lexin Zhou, Li Dong, Nigel Collier, Furu WeiTue, 10 Ma🤖 cs.LG

Scaling Data Difficulty: Improving Coding Models via Reinforcement Learning on Fresh and Challenging Problems

이 논문은 자동 난이도 필터링을 포함한 4 단계 데이터 처리 프레임워크를 통해 최신의 고난이도 프로그래밍 문제만 선별한 'MicroCoder' 데이터셋을 구축하고, 이를 통해 기존 데이터셋 대비 훨씬 큰 성능 향상을 이끌어낸 Reinforcement Learning 기반 코딩 모델 학습 방법을 제안합니다.

Zongqian Li, Tengchao Lv, Shaohan Huang, Yixuan Su, Qinzheng Sun, Qiufeng Yin, Ying Xin, Scarlett Li, Lei Cui, Nigel Collier, Furu WeiTue, 10 Ma🤖 cs.LG