Analysis and Prediction of At-Risk Students Using Machine Learning Algorithms

대학을 크고 북적이는 정원으로 상상해 보세요. 목표는 모든 학생(식물)이 튼튼하게 자라나 만개(졸업)할 수 있도록 돕는 것입니다. 하지만 때때로 식물들은 준비가 되기도 전에 시들거나 성장을 멈추기도 합니다. 과거에는 정원사(대학 직원)들이 식물이 이미 노랗게 변하거나 잎을 떨어뜨린 후에야 문제가 생겼음을 알아차리곤 했습니다. 그때는 이미 식물을 살리기에 너무 늦은 경우가 많았습니다.

이 논문은 그 정원을 위한 스마트 기상 예보 시스템을 구축하는 것에 관한 내용입니다. 잎이 노랗게 변하기를 기다리는 대신, 연구진은 컴퓨터 프로그램(머신러닝)을 사용하여 어떤 식물이 어려움을 겪을지 미리 예측하여 토양, 물, 그리고 식물의 이력을 살펴보았습니다.

연구진이 수행한 작업과 발견한 사실을 간단히 정리하면 다음과 같습니다.

문제점: "늦은 알람"

대학은 학생들이 중도에 학업을 그만둘 때 금전적 손실과 명성 저하를 겪습니다. 현재 학교들은 상담이나 튜터링을 제공하여 학생들을 돕고 있지만, 이는 종종 사후 대응적입니다. 이는 마치 다리가 부러진 후에야 의사에게 전화를 거는 것과 같습니다. 연구진은 골절이 일어나기 전에 미리 예측하여 (지지라는 이름의) 깁스를 제공할 방법을 찾고자 했습니다.

도구: "수정구슬" 알고리즘

연구진은 **시드니 국제 기술 상업 학교(SISTC)**의 데이터를 수집했습니다. 그들은 2,405명의 학생 기록을 모았지만, 학업을 마쳤거나 중도 탈락한 1,027명의 학생에게 집중하도록 데이터를 정제했습니다.

그들은 이 데이터를 네 가지 서로 다른 "수정구슬"(머신러닝 알고리즘)에 입력하여 어떤 것이 미래를 가장 잘 예측하는지 확인했습니다:

1. 로지스틱 회귀 (Logistic Regression): 다양한 요인들의 비중을 따지는 단순하고 직선적인 계산기입니다.
2. 랜덤 포레스트 (Random Forest): 결과에 대해 투표하는 많은 결정권자들(전문가 위원회와 같은)의 팀입니다.
3. K-최근접 이웃 (K-Nearest Neighbors, KNN): 학생의 "이웃"(성적과 배경이 유사한 학생들)을 살펴보고 그들에게 어떤 일이 일어날지 추측하는 방식입니다.
4. 서포트 벡터 머신 (Support Vector Machines, SVM): "졸업생"과 "중도 탈락자"를 구분하는 선을 긋는 방식입니다.

재료: 무엇을 살펴보았는가?

예측을 위해 컴퓨터는 다음과 같은 14가지의 구체적인 단서들을 살펴보았습니다:

• 학업 이력: 과목을 통과, 낙제 또는 건너뛴 횟수.
• 인구 통계: 연령, 성별, 국적 및 비자 유형.
  м 시간: 공부한 기간 및 코스를 시도한 횟수.

결과: 누가 경주에서 승리했는가?

연구진은 이 "수정구슬"들이 얼마나 정확한지 테스트했습니다. 결과는 놀라울 정도로 높았습니다:

• 승자: 로지스틱 회귀와 **SVM (선형 커널)**이 챔피언이었습니다. 이 모델들은 99%의 정확도를 기록했습니다. 이는 어떤 학생이 졸업하고 어떤 학생이 떠날지를 거의 완벽하게 맞혔음을 의미합니다.
• 준우승: 랜덤 포레스트 또한 **98.7%**로 매우 강력했습니다.
• 기타: KNN과 더 복잡한 버전의 SVM도 우수했지만, 정확도는 약간 낮았습니다 (약 96~97%).

"수정구슬"이 알려준 것

연구진이 승리한 모델들이 왜 그런 예측을 내놓았는지 분석했을 때, 흥미로운 패턴을 발견했습니다:

• 비자 유형: 표준 "학생 비자"를 가진 학생들은 학업을 마칠 가능성이 훨씬 높았습니다.
• 국적: 데이터에 따르면, 이 특정 데이터셋 내에서는 파키스탄 출신 학생들이 다른 학생들에 비해 중도 탈락할 가능성이 높았습니다.
• 성적: 학생이 낙제한 과목 수는 매우 큰 위험 신호였습니다. 낙제한 과목이 많을수록 떠날 위험이 높아졌습니다.
• 전공 선택: "IT 석사(Master of IT)" 과정의 학생들은 학업을 유지하고 마칠 가능성이 더 높았습니다.

안전 점검

연구진은 개인정보 보호에 주의를 기울였습니다. 그들은 모든 이름과 개인적인 세부 정보를 제거하여 학생들을 익명의 숫자로 취급했습니다. 또한, 특정 집단(예: 특정 성별이나 국적)에 대한 데이터가 충분하지 않을 경우 컴퓨터가 편향될 수 있다는 잠재적 문제를 언급했습니다. 그들은 향후 이를 점검할 것을 제안했습니다.

핵심 요약

이 연구는 단순한 수학과 컴퓨터 모델을 사용함으로써 대학이 선제적인 정원사처럼 행동할 수 있음을 증명합니다. 학생이 실패할 때까지 기다리는 대신, 데이터를 사용하여 조기에 경고 신호를 포착할 수 있습니다. 연구는 단순한 모델(로지스틱 회귀 및 선형 SVM)이 이 작업에 가장 좋은 도구이며, 학생들이 떠나기 전에 도움을 필요로 하는 학생들을 식별하는 데 99%의 정확도를 제공한다는 것을 발견했습니다.

연구진은 향후에 수업 참여도나 과제 습로와 같은 더 많은 세부 정보를 추가하여 이러한 예측을 더욱 날카롭게 만들 수 있다고 제안했지만, 현재의 데이터만으로도 이미 훌륭한 역할을 수행하고 있습니다.