당신이 아주 똑똑하지만 약간의 결함이 있는 로봇 비서를 고용하여 가사 업무를 돕게 한다고 상상해 보십시오. 당신은 로봇에게 우편물을 분류하고, 예산을 관리하며, 소규모 사업을 위한 구직자를 선별하게 합니다. 그러던 어느 날, 로봇이 불공정한 실수를 저지르고 있다는 사실을 깨닫게 됩니다. 예를 들어 특정 유형의 이력서를 무시하거나 잘못된 곳에 돈을 쓰는 식입니다. 그래서 당신은 그 로봇을 해고하고, 전원을 뽑아 쓰레기통에 던져버리기로 결정합니다.

당신은 이렇게 생각할지도 모릅니다. "좋아, 문제가 해결됐어. 로봇이 사라졌으니 실수도 사라졌겠지."

하지만 빅터 프림퐁(Victor Frimpong)의 이 논문에 따르면, 그렇지 않습니다.

이 논문은 AI 시스템을 끈다고 해서 그것이 그냥 사라지는 것이 아니라고 주장합니다. 그것은 기계가 사라진 후에도 당신의 삶에 계속 영향을 미치는 눈에 보이지 않는 "쓰레기 더미"를 남깁니다. 저자는 이를 **"AI 데브리(AI Debris, AI 잔해)"**라고 부릅니다.

다음은 이 논문의 아이디어를 활용하여 이 잔해가 무엇인지, 왜 위험한지, 그리고 어떻게 청소해야 하는지를 설명한 간단한 요약입니다.

1. "AI 데브리(잔해)"란 무엇인가?

AI 데브리를 기계 속의 유령 또는 젖은 콘크리트 위의 발자국이라고 생각하십시오.

로봇(AI)이 조직(은행, 병원, 정부 기관 등) 내부에서 작동할 때, 그것은 사람들이 일하는 방식, 생각하는 방식, 그리고 데이터를 유지하는 방식을 변화시킵니다. 심지어 당신이 플러그를 뽑은 후에도 이러한 변화는 사라지지 않습니다. 논문은 '폐기(decommissioning, 시스템을 끄는 것)'가 단순히 기술적인 스위치를 끄는 작업으로 취급되곤 하지만, 실제로는 주요한 '청소 작업'이 되어야 한다고 말합니다.

만약 잔해를 청소하지 않는다면, 조직은 다음과 같은 "숙취"를 겪게 됩니다:

• 사람들이 끊어낼 수 없는 나쁜 습관.
• 여전히 로봇으로부터 온 것처럼 보이는 오염된 데이터.
• 과거의 실수에 대해 누가 책임을 지는지에 대한 혼란.

2. 남겨진 6가지 종류의 "쓰레기"

논문은 AI가 제거된 후에도 남아있는 여섯 가지 구체적인 종류의 데브리를 식별합니다. 일상적인 언어로 그 의미를 설명하면 다음과 같습니다.

• 정당성 데브리 (무너진 신뢰):

  • 비유: 맛없는 음식을 내놓는 레스토랑을 상상해 보십시오. 식당이 셰프를 해고하고 개선하겠다고 약속해도, 고객들은 여전히 음식이 맛없다고 생각합니다.
  • 실제: AI 시스템이 실패하거나 편향되면 사람들은 조직에 대한 신뢰를 잃습니다. AI가 사라진 후에도 그 신뢰의 상실은 그대로 남습니다. 사람들은 "또 망쳐놓을 거야"라고 생각하며 미래의 변화에 회의적일 것입니다.

• 책임성 데브리 (책임 전가 게임):

  • 비유: 자동차 사고가 발생했는데 운전자, 정비사, 자동차 제조사가 서로 손가락질하며 책임을 떠넘깁니다. 그러고 나서 자동차를 폐기해 버리면, 아무도 실제로 누구의 잘못이었는지 인정하지 않습니다.
  • 실제: AI가 실패했을 때, 누가 책임자인지(코더인가? 상사인가? 업체인가?) 알기 어렵습니다. 시스템을 끌 때, 조직은 소송을 피하기 위해 진실을 숨기는 경우가 많습니다. 이는 아무도 실수로부터 배우지 못하게 하여 나중에 똑같은 일이 다시 발생하게 만드는 "책임의 진공 상태"를 남깁니다.

• 역량 데브리 (퇴화된 근육):

  • 비유: 1년 동안 휠체어를 사용하면 다리 근육이 약해집니다. 갑자기 휠체어를 치워버린다고 해서 바로 정상적으로 걸을 수 있는 것은 아닙니다. 다시 걷는 법을 배워야 합니다.
  • 실제: 인간이 AI에 너무 의존하면 스스로의 판단력을 사용하지 않게 됩니다. AI가 제거되었을 때, 인간은 '기술 퇴화(deskilled)' 상태에 빠집니다. 즉, 로봇 없이 직무를 수행하는 법을 모르며, 스스로 결정을 내릴 자신감을 잃게 됩니다.

• 데이터 데브리 (오염된 우물):

  • 비유: 로 로봇이 당신의 우편물을 분류하다가 멀쩡한 편지에 실수로 "개봉 금지" 스티커를 붙였다고 상상해 보십시오. 로봇을 버려도 편지에는 여전히 그 스티커가 붙어 있습니다.
  • 실제: AI는 사람이나 기록을 잘못 분류할 수 있습니다(예: 위험하지 않은 사람을 '고위험'으로 표시). AI가 사라진 후에도 이러한 잘못된 라벨은 데이터베이스에 남아 미래에 문제를 일으킵니다.

• 절차적 데브리 (유령 워크플로우):

  • 비유: 로봇을 고용해 주방을 정리하게 했습니다. 로봇이 시키는 대로 칼을 특정 서랍에 넣는 것에 익로되었습니다. 로봇을 해고했지만, 당신은 습관적으로 칼을 그 서랍에 계속 넣습니다. 비록 지금은 틀린 위치임에도 불구하고 말입니다.
  • 실제: 조직은 AI를 중심으로 새로운 루틴과 체크리스트를 만듭니다. AI가 떠나도 사람들은 "예전 방식"으로 하는 법을 잊어버렸기 때문에, 종종 그 오래된 'AI 형태의' 루틴을 계속 따르게 됩니다.

• 형평성 데브리 (지속되는 피해):

  • 비비유: 클럽의 보안 요원이 특정 그룹을 잘못 쫓아냈습니다. 보안 요원은 해고되었지만, 쫓겨난 사람들은 이미 저녁 예약 시간을 놓쳤고 돈을 잃었습니다.
  • 실제: AI가 대출, 일자리, 혹은 혜택을 부당하게 거부했다면, AI를 끄는 것이 그 피해를 복구해주지는 않습니다. 그 사람은 이미 시간, 돈, 혹은 기회를 잃었습니다. 시스템은 사라졌어도 그 피해는 영구적입니다.

3. 아마존 사례

이 논문은 실제 사례인 아마존의 채용 도구를 사용합니다.
아마존은 이력서를 선별하는 AI를 만들었습니다. 이 도구가 여성에게 편향되었다는 사실이 밝혀지자 아마존은 이를 중단했습니다.

• 논문의 핵심: 아마존이 그 도구를 껐다고 해서 편향성이 사라진 것은 아닙니다. 인사팀은 이미 AI가 좋아했던 방식에 기반하여 직무 기술서나 면접 질문을 작성하기 시작했을 수 있습니다. 이러한 'AI 형태의' 습관은 로봇이 없더라도 오늘날 누가 채용될지에 여전히 영향을 미칠 수 있습니다.

4. 해결책: "AI 데브리 폐기 프로토콜" (AIDP)

논문은 우리가 AI를 해고할 때 공식적인 "청소 체크리스트"가 필요하다고 주장합니다. 단순히 플러그를 뽑는 것이 아니라, 바닥을 쓸어야 합니다.

저자는 조직이 따라야 할 13단계의 프로토콜(AIDP)을 제안합니다. 이것은 마치 소프트웨어에 대한 법의학적 조사와 같습니다. 여기에는 다음과 같은 단계가 포함됩니다:

• 발자국 동결하기: AI가 내린 모든 결정을 저장하여 정확히 어떤 일이 일어났는지 파악합니다.
• 데이터 점검하기: AI가 회사의 기록에 "얼룩"을 남기지 않았는지 확인합니다.
• 습관 교정하기: 직원들이 계속해서 "AI 방식"으로 행동하지 않도록 재교육합니다.
• 사과 및 복구: AI로 인해 피해를 입은 사람들에게 보상을 받거나 기록을 수정할 수 있는 방법을 제공합니다.
• 책임 명시하기: 아무도 책임을 회피하지 못하도록 청소에 대한 책임을 명확히 밝힙니다.

5. 이것이 중요한 이유

논문은 현재의 AI 규정이 나쁜 일이 일어나는 것을 막는 것(사용 전과 사용 중)에 너무 치중되어 있으며, 시스템을 끈 후 뒷정리를 하는 것에는 충분히 주목하지 않는다고 결론짓습니다.

우리가 "AI 데브리"를 관리하지 않는다면, 조직은 기계를 껐기 때문에 안전하다고 생각하겠지만, 실제로는 기계의 나쁜 습관, 무너진 신뢰, 그리고 오염된 데이터로 인해 계속 어려움을 겪게 될 것입니다. 목표는 '서류상의 준수(Paper Compliance, 서류상으로만 완료했다고 보고하는 것)'를 넘어, 진정한 **기관의 회복 탄력성(Institutional Resilience, 조직이 건강하게 앞으로 나아갈 수 있도록 실제로 피해를 복구하는 것)**으로 나아가는 것입니다.

요약하자면: AI를 끄는 것은 이야기의 끝이 아닙니다. 그것은 청소의 시작입니다. 만약 "AI 데브리"를 쓸어 담지 않는다면, 그것은 앞으로 몇 년 동안 당신의 발을 계속 걸려 넘어지게 할 것입니다.