Beyond Abstract Compliance: Operationalising trust in AI as a moral relationship

당신이 집을 짓고 있다고 상상해 보십시오. 현재의 '신뢰할 수 있는' AI를 구축하기 위한 대부분의 규칙은 집이 탄탄한 기초를 갖추었는지, 창문 개수가 맞는지, 유효한 허가증이 있는지만을 확인하는 엄격한 건축 검사관과 같습니다. 집이 체크리스트를 통과하면, 검사관은 "이 집은 신뢰할 수 있습니다"라고 말합니다.

하지만 이 논문의 저자들은 신뢰란 단순히 체크리스트를 통과하는 것이 아니다라고 주장합니다. 신뢰는 이웃과의 관계와 더 비슷합니다. 당신이 이웃을 신뢰하는 이유는 그들이 멋진 울타리를 가졌기 때문(기술적 준수)이 아니라, 함께 식사를 나누고, 가구 옮기는 것을 도와주며, 정직함을 바탕으로 한 역사를 쌓아왔기 때문입니다.

이 논문은 우리가 AI에 대한 신뢰를 설치할 수 있는 '제품 기능'으로 취급하는 것을 멈추고, 우리가 가꾸어야 할 살아있는 관계로 취급하기 시작해야 한다고 제안합니다.

다음은 이들의 아이디어를 쉬운 비유를 사용하여 정리한 내용입니다.

1. 문제점: "체크리스트"의 함정

현재 많은 조직(예: EU)은 "투명할 것", "공정할 것", "안전할 것"과 같은 규칙을 만들어 AI를 신뢰할 수 있게 만들려고 노력합니다. 그들은 AI가 이 규칙을 따르고 있음을 증명하기 위해 체크리스트와 감사(audit) 같은 도구를 사용합니다.

• 비유: 이것은 레스토랑이 창문에 "위생 검사 통과" 스티커를 붙여 놓는 것과 같습니다. 그 스티커는 주방이 깨끗하다는 것을 알려주지만, 셰프가 실제로 당신의 식사에 신경을 쓰고 있는지, 혹은 음식이 당신의 가족 입맛에 맞는지까지는 알려주지 않습니다.
• 문제점: 이러한 접근 방식은 신뢰를 공학적으로 구현할 수 있는 정적인 것으로 가정합니다. 저자들은 신뢰가 실제로는 사람과 기술 사이의 역동적인 춤이라고 말합니다. 단순히 규칙만 따르고 사용자를 무시한다면, "준수"된 AI는 가질 수 있어도 아무도 그것을 실제로 신뢰하지는 않을 것입니다.

2. 해결책: "우분투(Ubuntu)" 철학

이를 해결하기 위해 저자들은 우분투라는 아프리카 철학을 참고합니다. 우분투의 흔한 격언은 *"우리가 있기에 내가 있다"*입니다. 이는 당신이 고립된 개인이 아니라, 공동체와의 관계를 통해 정의된다는 것을 의미합니다.

• 비유: 한 사람이 혼자 살 집을 짓는 대신(서구적 개인주의), 공동체 정원을 짓는다고 상상해 보십시오. 모두가 함께 정원을 가꿉니다. 정원의 성공 여부는 이웃들이 얼마나 잘 대화하고, 도구를 공유하며, 서로를 돌보느냐에 달려 있습니다.
• 목표: 논문은 우리가 AI를 고립된 요새가 아니라 공동체 정원처럼 구축해야 한다고 제안합니다. 우리는 단순히 마지막 단계에서가 아니라, 아주 초기 단계부터 AI를 사용할 사람들을 참여시켜야 합니다.

3. "설계에 의한 신뢰(Trust-by-Design)"의 네 가지 기둥

저자들은 이 철학을 행동으로 옮기기 위한 네 가지 주요 규칙을 제안합니다. 이것을 튼튼한 탁자의 네 다리라고 생각하십시오.

• 공동체주의 (The "We" Approach):

  • 의미: "이것이 사용자에게 도움이 되는가?"라고 묻는 대신, "이것이 전체 공동체에 도움이 되는가?"라고 물으십시오.
  • 비유: 도로를 계획할 때, 운전자에게 도로가 빠른지만 묻지 마십시오. 보행자, 지역 상인, 스쿨버스 운전사에게도 그 도로가 모두에게 안전한지 물으십시오.
  • AI 적용: 개발자는 공동체와 협력하여 AI가 무엇을 해야 할지 결정해야 하며, 이를 통해 AI가 개인뿐만 아니라 집단 전체를 돕도록 보장해야 합니다.

• 타인에 대한 존중 (The "Human Dignity" Approach):

  • 의미: 모든 사람을 단순한 데이터 포인트가 아니라, 역사와 공동체를 가진 온전한 인간으로 대하십시오.
  • 비유: 당신의 이름과 좋아하는 책, 가족 관계까지 알고 있는 사서와, 단순히 바코드를 스캔하고 책을 건네주는 로봇의 차이를 상상해 보십시오.
  • AI 적용: 사용자로부터 단순히 "체크박스" 형태의 동의를 받는 것에 그치지 마십시오. 공동체에 "이 데이터를 사용하는 것이 괜찮습니까?"라고 묻고, 사용자가 복잡한 기술을 완전히 이해하지 못하더라도 그들의 존엄성을 존중하십시오.

• 성실성 (The "Walking the Talk" Approach):

  • 의미: 아무도 보지 않을 때도 정직하고 일관되게 행동하는 것입니다.
  • 비유: 친구가 이사를 도와주겠다고 약속만 하고 나타나지 않는 것과, 실제로 트럭을 끌고 나타나는 것의 차이입니다.
  • AI 적용: 만약 AI가 실수를 했다면, 개발자는 이를 숨겨서는 안 됩니다. 실수를 인정하고, 수정하며, 왜 그런 일이 발생했는지 설명해야 합니다. 사람들이 당신이 실수를 바로잡는 모습을 볼 때 신뢰는 자라납니다.

• 설계 공개성 (The "Open Kitchen" Approach):

  • 의미: AI가 어떻게 작동하는지를 구축한 후에 설명하는 것이 아니라, 왜 처음에 그렇게 만들었는지를 설명하십시오.
  • 비유: 셰프가 주방에 숨어 있다가 완성된 요리만 보여주는 대신, 당신을 주방으로 초대하여 재료를 보여주고, 왜 그 향신료를 선택했는지 설명하며, 요리가 나오기 전에 소스를 맛보게 하는 것과 같습니다.
  • AI 적용: 개발자는 AI를 출시하기 전에 자신들의 목표, 가치, 데이터 선택을 공개적으로 공유하여, 공동체가 "그렇군요, 우리에게도 맞습니다" 또는 "아니요, 그것은 우리의 가치와 맞지 않습니다"라고 말할 수 있게 해야 합니다.

4. 실전 적용: 두 가지 현실 세계 사례

A. 의료 (항생제 예시)

• 시나리오: 의사가 환자에게 어떤 항생제를 처방할지 결정하도록 돕는 AI.
• 기존 방식: 기술 전문가들이 AI를 만들고 정확도를 테스트한 뒤 의사에게 전달합니다.
• 새로운 방식 (Trust-by-Design):
  • 공동체주의: 의사, 환자, 약사가 함께 모여 AI가 무엇을 우선순위로 둘지(예: 약물 내성 방지 vs 환자의 빠른 완치) 결정합니다.
  • 존중: AI는 환자의 데이터만 보는 것이 아니라, 환자의 이력과 의사의 판단을 존중합니다.
  • 성실성: 만약 AI가 잘못된 항생제를 제안한다면, 시스템은 완벽한 척하는 대신 실수를 인정하고 학습합니다.
  • 공개성: 의사와 환자는 AI가 왜 특정 제안을 하는지 정확히 알 수 있으므로, 블랙박스가 아닌 파트너로서 AI를 신뢰할 수 있습니다.

B. 교육 (AI 튜터 예시)

• 시나리오: 학생들의 학습을 돕는 AI 튜터.
• 기존 방식: AI가 교사를 대체하거나 단순히 지식을 전달합니다.
• 새로운 방식 (Trust-by-Design):
  • 공동체주의: 목표는 교사(아이를 키우는 '마을'의 구성원)를 대체하는 것이 아니라 그들을 지원하는 것입니다. AI는 학생을 고립시키는 것이 아니라 공동체를 결속시키도록 설계됩니다.
  • 존중: AI는 학생의 모국어로 대화하며 그들의 문화적 배경을 이해합니다. 실수를 비난하는 대신 성장을 독려합니다.
  • 성실성: 만약 AI가 질문에 틀린 답을 한다면, 학생과 교사에게 "제가 실수했습니다"라고 말하고 이를 수정합니다.
  • 공개성: 공동체가 AI가 무엇을 가르칠지 결정하도록 하여, AI가 서구적 관념만 가르치는 것이 아니라 지역적 지식을 존중하도록 합니다.

결론

이 논문은 우리가 AI에 신뢰를 '코딩'할 수 있는 기능처럼 코딩할 수 없다고 주장합니다. 신뢰는 도덕적 관계입니다. 사람들이 실제로 신뢰할 수 있는 AI를 만들기 위해서는, 공동체를 수동적인 사용자로 취급하는 것을 멈추고 공동 창조자로 대우해야 합니다. 우리는 좋은 이웃이 그러하듯, 투명하고 정직하며, 자신들이 봉사하는 사람들과 공동체에 대해 깊은 존중을 갖춘 AI를 구축해야 합니다.