To Build or Not to Build? Factors that Lead to Non-Development or Abandonment of AI Systems
본 논문은 스코핑 리뷰와 실증 사례 데이터를 종합하여 AI 시스템의 비개발 또는 폐기 요인을 규명함으로써 윤리적 우려를 넘어 자원 제약, 법적 문제, 조직 역동성 등 다양한 실용적 레버가 이러한 중요한 사전 배포 결정에 중대한 영향을 미친다는 점을 밝힌다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인공지능 (AI) 의 세계를 거대하고 분주한 건설 현장으로 상상해 보세요. 보통 우리가 AI 에 대해 들을 때의 뉴스는 완공된 건물, 솟아오른 마천루, 그리고 사람들이 그 안에서 어떻게 살고 있는지에 관한 것입니다. 우리는 이러한 완공된 구조물의 '사용'과 '영향'에 대해 이야기합니다.
하지만 이 논문은 다른 질문을 던집니다: 버려진 모든 건설 현장들은 어떻게 되었을까요? 반쯤 지어진 집들, 구겨진 설계도, 그리고 첫 번째 벽돌조차 놓이기 전에 크레인이 꺼져버린 상황들은요?
저자인 슈레야 차피디 (Shreya Chappidi) 와 자틴더 싱 (Jatinder Singh) 은 우리가 이야기의 거대한 부분을 간과하고 있다고 주장합니다. 그들은 왜 조직들이 AI 시스템을 구축하지 않기로 결정하거나, 왜 구축 도중 중단하는지를 이해하고자 합니다.
다음은 일상적인 비유를 사용하여 그들의 발견을 간략히 정리한 것입니다.
큰 오해
대부분의 사람들은 기업들이 AI 구축을 중단하는 이유는 "아, 이건 비윤리적이다!" 또는 "이건 위험하다!"라고 깨닫기 때문이라고 생각합니다.
논문에 따르면: 그것은 이야기의 일부일 뿐입니다.
윤리적 우려 (편향성이나 사생활 침해 등) 는 중요하지만, 종종 빙산의 일각에 불과합니다. 현실 세계에서는 기업들이 훨씬 더 지루하고 실용적인 이유로 AI 프로젝트를 포기하는 경우가 많습니다. 예를 들어, 자금이 떨어지거나 시간이 부족하거나, 수학적으로 해결 불가능하다는 것을 깨닫는 경우입니다.
건설이 중단되는 여섯 가지 이유 (분류 체계)
연구자들은 수백 개의 보고서를 검토하고 엔지니어들과 인터뷰하여 AI 프로젝트가 취소되는 이유의 '메뉴'를 만들었습니다. 그들은 여섯 가지 주요 범주를 발견했습니다.
윤리적 우려 (양심 점검):
- 비유: 건축가가 집이 묘지 위에 지어지거나 이웃의 햇빛을 가리게 될 것이라고 깨닫는 경우.
- 현실: 팀이 AI 가 사람들을 차별하거나 사생활을 침해하거나 나쁜 목적 (예: 무기) 으로 사용될까 봐 우려하는 경우.
이해관계자 피드백 (타운홀 회의):
- 비유: 이웃, 근로자, 또는 미래 거주자들이 모여 "우리는 여기에 이 건물을 원하지 않는다"거나 "지으면 파업을 할 것이다"라고 말하는 경우.
- 현실: 직원, 고객, 또는 활동가들이 반발합니다. 그들은 시위를 하거나 도구 사용을 거부하거나 사직을 위협하여 기업이 중단하도록 강요합니다.
개발 수명주기 문제 (설계도 문제):
- 비유: 다리를 짓려다가 강이 너무 넓거나, 강철이 너무 약하거나, 콘크리트를 부어넣는 방법을 알 수 없다는 것을 깨닫는 경우.
- 현실: 데이터가 지저분하거나 누락되었거나, 모델이 올바르게 학습하지 못하거나, 수학적으로 해결하기 너무 어려운 경우입니다. 프로젝트는 극복할 수 없는 기술적 벽에 부딪힙니다.
조직적 역학 (사무실 정치):
- 비유: 상사가 마음을 바꾸거나, 부서 예산이 삭감되거나, 누가 책임자인지 두고 싸우는 팀이 무엇을 지을지 합의하지 못하는 경우.
- 현실: 회사의 전략이 바뀌거나, 리더십이 관심을 잃거나, 다른 팀들이 상충되는 목표를 갖는 경우입니다. 프로젝트는 내부적 지지를 잃게 됩니다.
자원 제약 (빈 지갑):
- 비유: 저택을 짓기 위한 훌륭한 계획이 있지만, 돈은 sheds(작은 창고) 하나를 지을 만큼만 있는 경우. 또는 적절한 도구나 근로자가 없는 경우.
- 현실: 구축하거나 유지하는 비용이 너무 비쌉니다. 충분한 고성능 컴퓨터 (GPU), 데이터, 숙련된 엔지니어가 부족합니다. 때로는 직접 구축하는 것보다 다른 곳에서 도구를 구매하는 것이 더 저렴합니다.
법적/규제적 우려 (허가 문제):
- 비유: 도시 구역 심의위원회가 "여기서는 지을 수 없다"거나 "우리가 줄 수 없는 허가가 필요하다"고 말하는 경우.
- 현실: 새로운 법률 (예: EU AI 법) 이나 데이터 프라이버시 규정 (예: GDPR) 으로 인해 프로젝트가 너무 위험하거나 법적으로 완성이 불가능해집니다.
데이터가 실제로 보여준 것
연구자들은 실제로 어떤 일이 일어나는지 보기 위해 두 가지 다른 그룹의 이야기를 살펴보았습니다.
그룹 1: "뉴스" 이야기 (사건 데이터베이스)
- 이는 인종차별적이라서 폐쇄된 얼굴 인식 시스템과 같은 유명한 실패 사례로 헤드라인을 장식한 이야기들입니다.
- 발견: 이러한 공개된 이야기들에서는 윤리적 우려와 이해관계자 피드백이 주요한 역할을 합니다. 뉴스에 보도되는 이야기이기 때문에 당연한 결과입니다.
그룹 2: "무대 뒤" 이야기 (실무자 설문조사)
- 이는 기업 내부에서 발생하고 뉴스에 전혀 보도되지 않은 조용한 실패 사례들입니다.
- 발견: 여기서는 이야기가 완전히 다릅니다. 중단의 가장 흔한 이유는 기술적 문제 (작동하지 않음), 자원 제약 (너무 비쌈), 그리고 조직적 역학 (경영진이 마음을 바꿈) 이었습니다.
- 핵심 통찰: 많은 프로젝트는 너무 어렵거나, 너무 비싸거나, 단순히 회사에 맞지 않아 대중의 무대에 오기 전에 이미 폐기되었습니다.
"유령" 프로젝트
논문은 또한 어떤 프로젝트는 취소되었다가 나중에 다시 부활하기도 한다고 지적합니다.
- 비유: 비 때문에 건설자가 집 공사를 중단했다가, 두 해 뒤 해가 뜨면 다시 기초를 파는 경우.
- 현실: 기업들은 종종 프로젝트를 중단했다가 더 나은 기술이나 더 저렴한 비용이 나올 때까지 기다렸다가 다시 구축하려 합니다. 또는 얼굴 인식과 같은 특정 기능은 취소하되 시스템의 나머지는 유지할 수도 있습니다.
주요 교훈
저자들은 AI 커뮤니티에 이렇게 말합니다: "완공된 건물과 윤리적 스캔들만 보지 마십시오."
진정으로 안전하고 책임 있는 AI 를 만들기 위해서는 건설 단계를 이해해야 합니다. 기업들이 구축하지 않기로 결정하는 것이 유효하고, 현명하며, 때로는 필수적인 선택임을 깨닫도록 도와야 합니다.
그들은 조직들이 다음과 같은 질문을 할 수 있도록 더 나은 도구와 체크리스트가 필요하다고 제안합니다.
- "우리가 실제로 이것을 끝낼 자금과 기술이 있는가?"
- "이 기술적 문제는 해결 가능한가?"
- "이제 이것이 구축하기 좋은 시점인가?"
만약 기업들이 실용적인 이유로 "아니요, 우리는 이것을 구축해서는 안 됩니다"라고 말하기가 더 쉬워진다면, 우리는 많은 미래의 문제들을 시작되기 전에 예방할 수 있을 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.