What Makes Code Generation Ethically Sourced?

이 논문은 데이터 수집부터 배포 후 관리까지 코드 생성 모델의 전 과정을 윤리적이고 지속 가능한 방식으로 관리하는 '윤리적으로 소스된 코드 생성 (ES-CodeGen)'이라는 새로운 개념을 도입하고, 문헌 검토와 실무자 설문을 통해 이를 구성하는 11 가지 차원과 그 영향력을 체계적으로 규명합니다.

핵심

이 논문은 **"코딩을 도와주는 인공지능 (AI) 이 정말 '착하게' 만들어졌는지, 그리고 어떻게 해야 '착한 AI'가 될 수 있는지"**를 연구한 내용입니다.

마치 우리가 **무엇을 먹어야 건강에 좋은지 (윤리적 식재료)**를 고민하듯, 이 연구는 AI 가 코딩을 배우기 위해 '어떤 데이터 (재료)'를 먹었는지를 따져보는 것입니다.

이 논문의 핵심 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

---

1. 핵심 개념: "윤리적으로 조달된 코딩 (Ethically Sourced Code Generation)"

비유: "친환경 유기농 식당 vs. 불법 밀수 식당"

• 기존 AI: 마치 아무렇게나 주워온 쓰레기나, 남의 재료를 훔쳐서 만든 요리를 파는 식당 같습니다. "이 코드는 어디서 왔지? 저작권은 누구 거지? 개발자는 돈을 받았을까?" 같은 질문을 안 해도 됩니다.
• 이 논문이 제안하는 AI (ES-CodeGen): 마치 친환경 유기농 식당처럼, 모든 재료가 공정하게 거래되고, 원산지가 명확하며, 농부 (개발자) 들이 정당한 대가를 받은 식당을 꿈꿉니다.

이 연구는 AI 가 코딩을 배울 때 사용하는 데이터가 법적, 윤리적, 환경적으로 깨끗한지 확인하는 새로운 기준을 만들었습니다.

2. 연구는 어떻게 진행되었나요? (두 단계 요리 과정)

연구진은 두 가지 큰 작업을 통해 이 기준을 세웠습니다.

1. 첫 번째 단계: 레시피 책 정리 (문헌 연구)
   • 전 세계의 논문 803 편을 뒤져서 "윤리적"이라는 단어가 어떤 의미로 쓰이는지 조사했습니다.
   • 결과: 10 가지 핵심 기준 (예: 저작권, 개인정보, 환경 보호 등) 을 찾아냈습니다.
2. 두 번째 단계: 미식가 인터뷰 (설문 조사)
   • 실제 코딩을 하는 전문가 32 명 (그중에는 AI 에 자신의 코드가 무단으로 쓰인 것에 항의했던 개발자들도 포함) 을 만나 의견을 들었습니다.
   • 결과: 전문가들은 "코드 품질"도 윤리의 문제라고 했고, "사회적 책임" 같은 건 잘 모르고 있었다는 사실을 발견했습니다.

3. "착한 AI"를 위한 11 가지 체크리스트

이 논문은 AI 가 윤리적으로 만들어지려면 다음 11 가지를 지켜야 한다고 말합니다.

1. 권리 존중: 내 코드를 쓰려면 내 허락이 있어야 합니다. (기존은 '거부하면 빼줘'였는데, 이제는 '허락받아야 함'이 더 중요하다고 합니다.)
2. 공정성: 특정 성별이나 인종에 편향되지 않아야 합니다.
3. 접근성: 누구나 AI 를 쓸 수 있어야 합니다.
4. 책임: 누가, 어떻게 만들었는지 투명해야 합니다.
5. 지적재산권: 저작권을 침해하지 않아야 합니다.
6. 정직성: 데이터가 오염되지 않았어야 합니다.
7. 코드 품질 (새로 추가됨): 이게 중요합니다! AI 가 만든 코드가 엉터리라면, 그건 윤리적으로도 나쁜 것입니다. (시간 낭비를 시키니까요.)
8. 사회적 책임: 개발된 AI 가 사회에 기여해야 합니다.
9. 문화적 수용성: 종교나 문화적 감정을 해치지 않아야 합니다.
10. 노동권: 데이터를 라벨링한 사람들도 정당한 임금을 받아야 합니다. (과거에 개발자들이 1 시간당 1 달러도 못 받고 일했다는 뉴스가 있었죠.)
11. 환경 보호: AI 를 학습시키는 데 너무 많은 전기를 쓰거나 탄소를 많이 배출하면 안 됩니다.

4. 전문가들이 놀란 점과 깨달은 점

• 가장 중요하게 생각하는 것: 개발자들은 **저작권 문제 (법적 소송)**와 개인정보 유출을 가장 두려워했습니다.
• 가장 무시했던 것: 정작 중요한 사회적 책임이나 노동권 같은 건 평소에는 잘 생각하지 않았습니다. 하지만 이 연구를 통해 그 중요성을 깨달았습니다.
• 현실적인 딜레마: "AI 가 코딩 실수가 좀 많아도 괜찮을까?"라고 물으니, **대부분은 "아니오, 정확도가 떨어지면 안 된다"**고 답했습니다. (오류가 10% 이상 생기면 안 된다고 합니다.)

5. 결론: 지금의 AI 는 아직 '착한 식당'이 아닙니다

연구진은 현재 나와 있는 유명한 AI 코딩 도구들 (예: GitHub Copilot, Code Llama 등) 을 조사한 결과, 아직 이 11 가지 기준을 완벽하게 지키는 AI 는 하나도 없다고 결론 내렸습니다.

• 문제점: 대부분 "거부하면 빼주겠다 (Opt-out)"는 방식만 쓸 뿐, "허락받고 쓰겠다 (Opt-in)"는 원칙을 지키지 않습니다.
• 제안: 앞으로는 AI 개발자들이 데이터의 출처를 투명하게 공개하고, 개발자들에게 정당한 보상을 주며, 환경을 고려한 학습을 해야 한다고 말합니다.

요약: 이 논문이 우리에게 전하는 메시지

"AI 가 코딩을 잘하는 것만으로는 부족합니다. 그 AI 가 어디서 재료를 구했는지, 누가 그 재료를 준비했는지, 그 과정이 공정했는지까지 확인해야 진정한 '착한 AI'입니다. 지금 당장은 완벽한 식당이 없지만, 우리는 더 투명하고 공정한 AI 세상을 만들어야 합니다."

이 연구는 기술의 발전 속도에 윤리적 기준을 따라잡으려는 노력의 시작점이라고 볼 수 있습니다.

기술 요약

1. 문제 제기 (Problem)

최근 코드 생성 모델 (Code LLMs, 예: Codex, Code Llama) 의 발전으로 소프트웨어 개발 효율성이 크게 향상되었으나, 책임 있는 AI (Responsible AI) 관점에서 여러 윤리적 우려가 대두되고 있습니다.

• 주요 쟁점: 불명확한 라이선스, 저작권 침해, 개인정보 유출, 편향성, 환경적 영향 (탄소 배출) 등.
• 현황: 기존 연구는 음성 합성이나 이미지 생성 분야에서는 '윤리적 소싱 (Ethical Sourcing)' 개념이 논의되었으나, 코드 생성 분야에서는 체계적인 정의와 관리 프레임워크가 부재합니다.
• 핵심 질문: 코드 생성 모델의 개발 과정 (데이터 수집부터 배포 후까지) 을 어떻게 윤리적이고 지속 가능한 방식으로 관리할 수 있으며, 이를 정의하는 기준은 무엇인가?

2. 연구 방법론 (Methodology)

저자들은 윤리적으로 소싱된 코드 생성 (Ethically Sourced Code Generation, ES-CodeGen) 의 개념을 도입하고 이를 체계화하기 위해 다음과 같은 3 단계의 혼합 연구 방법을 사용했습니다.

1. 이중 단계 체계적 문헌 고찰 (Two-phase Systematic Literature Review):

   • 1 단계 (광범위 검색): 경제, 의학, 종교 등 다양한 분야의 '윤리적 소싱' 관련 논문 803 편을 검토하여 초기 차원 (Dimensions) 을 도출.
   • 2 단계 (도메인 특화 검색): AI 기반 코드 생성에 특화된 문헌을 추가로 검색 및 분석.
   • 결과: 총 803 편의 논문 중 71 편의 관련 논문을 선정하여 10 가지 초기 차원을 식별하고 분류 체계 (Taxonomy) 를 구축.

2. 설문 조사 (Survey):

   • 대상: 코드 생성에 익숙한 32 명의 실무자 (연구자, 개발자, AI 엔지니어 등).
   • 특이 대상: Stack 데이터셋에서 자신의 코드를 제외 (Opt-out) 하도록 요청한 '피해자 (Impacted Users)' 6 명을 포함하여 실제 경험 기반의 인사이트 확보.
   • 내용: 문헌 고찰에서 도출된 차원의 적절성 평가, 공급망 단계 (Stages) 및 산출물 (Artifacts) 에 대한 적용성, 무시되는 윤리적 요소, UnES-CodeGen (비윤리적 소싱) 의 결과, 트레이드오프 허용 범위 등을 조사.

3. 반성 및 분석 (Reflection & Analysis):

   • 설문 응답에 대한 정성적/정량적 분석을 통해 분류 체계의 정제 (Refinement) 와 새로운 차원 도출.
   • 응답자들의 인식 변화 및 ES-CodeGen 에 대한 이해도 향상 정도 평가.

3. 주요 기여 (Key Contributions)

• ES-CodeGen 의 개념 정립: 데이터 수집, 주석, 학습, 배포, 사후 관리에 이르는 전 공급망 (Supply Chain) 을 윤리적 및 지속 가능한 관점에서 관리하는 새로운 개념을 제시.
• 11 가지 윤리적 차원 (Dimensions) 의 분류 체계 개발: 문헌 고찰과 설문을 통해 3 가지 주요 영역 (Source, Society, Environment) 으로 구성된 11 가지 핵심 차원을 도출했습니다.
  1. Subject Rights (주체 권리): 정보에 대한 동의 (Opt-in), 개인정보 보호.
  2. Equity (형평성): 다양성, 공정성, 대표성.
  3. Access (접근성): 모델 및 데이터의 접근 용이성.
  4. Accountability (책임성): 투명성, 추적 가능성.
  5. Intellectual Property (IP Rights, 지적재산권): 출처 명시, 라이선스 준수, 생성물의 고유성.
  6. Integrity (무결성): 데이터 오염 방지.
  7. Code Quality (코드 품질): 설문 결과 추가된 새로운 기술적 차원 (정확성, 오류 없는 코드).
  8. Social Responsibility (사회적 책임): 커뮤니티 발전 기여.
  9. Social Acceptability (사회적 수용성): 종교/문화적 민감성 존중.
  10. Labor Rights (노동 권리): 데이터 라벨러 및 기여자에 대한 공정한 보상 및 작업 환경.
  11. Environmental Sustainability (환경 지속 가능성): 에너지 소비 및 탄소 배출.
• 공급망 매핑: 윤리적 차원이 코드 생성의 모든 단계 (데이터 수집, 주석, 학습, 평가, 배포 등) 와 산출물 (학습 데이터, 의존성, 메타데이터, 프롬프트, 출력물 등) 에 적용 가능함을 입증.

4. 주요 결과 (Key Results)

• 가장 중요하게 여겨지는 차원: 응답자들은 주체 권리 (동의), 지적재산권, 환경 지속 가능성을 가장 중요하게 고려해야 할 요소로 꼽았습니다.
• 무시되는 차원: 사회적 책임, 사회적 수용성, 노동 권리와 같은 사회적 차원은 중요도가 높음에도 불구하고 실무자들이 정의할 때 가장 많이 간과하는 경향이 있었습니다.
• Opt-in 동의의 중요성: Stack 데이터셋에서 제외 요청을 한 '피해자'들은 현재의 'Opt-out(거부)' 방식보다 명시적인 'Opt-in(동의)' 방식을 강력히 요구했습니다.
• 코드 품질의 윤리적 지위: 기술적 지표로만 여겨지던 '코드 품질 (정확성)'이 윤리적 차원으로 재정의되어야 함이 확인되었습니다. (부정확한 코드 생성은 개발자의 시간 낭비나 악성 코드 생성으로 이어질 수 있음).
• 비윤리적 소싱 (UnES-CodeGen) 의 결과: 가장 우려되는 결과는 저작권 침해로 인한 소송, 보안 및 개인정보 유출 위험, 개발자 착취, 저품질 코드, 생성형 AI 의 독점화 등입니다.
• 트레이드오프 (Trade-offs):
  • 정확도 손실 (Accuracy Loss): 대부분의 응답자가 정확도 손실을 용납할 수 없거나 최대 10% 까지만 허용한다고 답했습니다.
  • 오염 (Contamination): 출처가 불분명한 데이터나 호환되지 않는 라이선스를 가진 데이터의 오염은 용납되지 않는 것으로 나타났습니다.
• 현실적 격차: 현재 존재하는 대부분의 코드 생성 모델은 ES-CodeGen 정의에 부합하지 않거나 부분적으로만 부합한다고 평가받았습니다 (투명성 및 동의 절차 개선 필요).

5. 의의 및 시사점 (Significance)

• 다차원적 관점의 필요성 강조: 코드 생성의 윤리성은 단순히 저작권 문제뿐만 아니라 노동권, 환경, 사회적 영향 등 다차원적인 접근이 필요함을 시사합니다.
• 기술적 윤리의 확장: '코드 품질'을 윤리적 차원으로 포함시킴으로써, 기술적 성능과 윤리적 책임이 분리될 수 없음을 강조했습니다.
• 실무 가이드라인 제시:
  • 오픈소스 저장소 소유자에게는 AI 학습 데이터 사용에 대한 명시적 거부를 위한 Non-AI 라이선스 도입 권장.
  • AI 개발자에게는 대규모 동의 관리 시스템 구축 및 'Opt-in' 기반의 데이터 수집 방안 모색 필요.
  • 전체 공급망 (데이터 수집부터 배포 후 모니터링까지) 에 걸쳐 윤리적 검증을 수행해야 함.
• 향후 연구 방향: 기존 연구가 생성된 출력물 (Output) 에만 집중했던 한계를 극복하고, 데이터 주석, 문서화, 의존성 관리 등 전 과정의 윤리적 측면을 체계적으로 연구할 것을 촉구합니다.

이 논문은 코드 생성 AI 의 윤리적 소싱에 대한 최초의 체계적인 분류 체계를 제시하며, 연구자와 실무자가 책임 있는 AI 개발을 위해 고려해야 할 구체적인 기준과 방향성을 제공합니다.