Requirements and recommendations for human-centred human-AI collaboration design in manufacturing domain

현대 세계의 공장에서는 생산의 리듬이 변화하고 있습니다. 수십 년 동안 산업 혁신의 목표는 기계를 더 빠르고, 저렴하고, 더 자동화된 방식으로 만드는 것이었으며, 종종 인간 노동자를 로봇으로 대체되어야 할 부품으로 취급했습니다. '인더스트리 4.0'으로 알려진 이 시대는 놀라운 효율성을 가져왔지만, 현장에 있는 사람들의 안녕에 대한 우려도 불러일으켰습니다. 이제 이 균형을 바로잡기 위해 '인더스트리 5.0'이라 불리는 새로운 비전이 등장하고 있습니다. 이 비전은 기술이 단순히 인간을 대체하는 것이 아니라, 인간의 능력을 향상시키면서도 안전과 존엄성을 보호하며 인간과 함께 협력해야 한다고 제안합니다. 이러한 변화의 핵심에는 '인간 중심 인공지능'이라는 개념이 있습니다. 이 접근 방식은 AI를 단순히 명령을 실행하는 '블랙박스'로 보는 것이 아니라, 인간의 필요, 가치, 그리고 한계를 이해하도록 설계되어야 하는 파트너로 간주합니다. 엔지니어와 디자이너의 과제는 더 이상 단지 스마트한 기계를 만드는 것이 아니라, 사람과 기계 사이의 관계를 어떻게 자연스럽고 안전하며 생산적으로 구축할 것인가를 찾아내는 것입니다.

핀란드 탐페레 대학교의 연구팀은 이 구체적인 퍼즐을 풀기 위해 나섰습니다. 그들은 인간과 컴퓨터가 상호작용하는 일반적인 규칙을 넘어, 제조 현장의 무질서하고 소음이 심하며 위험 요소가 많은 환경에 특화된 실질적인 가이드를 만들고자 했습니다. 이를 위해 그들은 단 하나의 실험이나 컴퓨터 시뮬레이션에 의존하지 않았습니다. 대신, 광범위한 기존 지식을 수집하고 로봇 공학, 소프트웨어, AI 설계를 다루는 9명의 전문가로부터 얻은 새로운 통찰력을 결합했습니다. 핀란드에 기반을 둔 이 전문가들은 상세한 인터뷰를 통해 무엇이 효과적이고, 무엇이 실패하며, 현재의 공장 설계에서 무엇이 누락되었는지에 대해 자신들의 경험을 공유했습니다. 연구진은 이러한 인터뷰 내용을 학술 논문 및 산업 보고서 검토 내용과 엮어, 디자이너들을 위한 명확한 지침으로 바꿀 수 있는 패턴을 찾아냈습니다.

이 연구의 결과물은 초점을 AI 시스템 자체에서 인간과 기계 사이의 협업으로 전환하는 새로운 프레임워크입니다. 연구진은 성공적인 파트너십을 설계하기 위해서는 단순히 소프트웨어 코드가 아니라 8가지의 뚜렷한 영역, 즉 '차원'을 살펴봐야 한다는 것을 발견했습니다. 첫째, 설계를 시작하기 전에 팀은 협업의 목표를 명확히 정의해야 하며, 소음 수치나 먼지와 같이 기계 사용 방식에 영향을 줄 수 있는 요인을 포함하여 특정 공장 환경을 이해해야 합니다. 또한 기업과 노동자가 이러한 변화를 받아들일 준비가 되었는지 평가해야 하며, 노동자의 사생활 보호나 편향성 위험과 같은 윤리적 문제가 시작부터 다뤄지도록 보장해야 합니다.

기초 작업이 완료되면, 설계는 실제 업무가 어떻게 분담되는지에 집중해야 합니다. 연구는 각 파트너가 가장 잘하는 것에 따라 업무를 할당해야 한다고 제 제안합니다. 기계는 반복적이고 위험하거나 데이터가 많은 작업에 탁월하지만, 인간은 창의성, 유연성, 그리고 예기치 못한 상황을 처리하는 능력을 갖추고 있습니다. 목표는 기계가 번거로운 일을 처리하게 함으로써 인간이 단순히 화면을 지켜보는 수동적인 감시자가 아니라, 능동적이고 몰입하는 의사 결정자로 남게 하는 것입니다. 이는 두 번째 주요 발견으로 이어집니다. 즉, 인간은 반드시 '루프(loop)' 안에 머물러야 한다는 것입니다. 만약 노동자가 단순히 로봇이 일하는 것을 지켜보기만 하는 역할으로 축소된다면, 그들은 기술을 잃어버리고 직무로부터 단절감을 느낄 수 있습니다. 설계는 인간이 팀의 리더로서 남을 수 있도록 보장해야 하며, AI는 인간의 능력을 대체하는 것이 아니라 보완하는 지원적인 팀원이 되어야 합니다.

연구진은 또한 '팀' 자체가 세심하게 구축될 필요가 있다는 점을 확인했습니다. 여기에는 적절한 인간의 기술과 적절한 기계의 역량을 매칭시키는 것, 그리고 양측 모두가 효과적으로 협업할 수 있도록 교육받는 것이 포함됩니다. 이 과정의 핵심적인 부분은 기계의 '자기 설명 능력'입니다. 연구는 AI가 단순히 답을 내놓는 것에 그치지 않고, 왜 그런 결정을 내렸는지, 자신의 한계는 무엇인지, 그리고 언제 확신이 없는지를 반드시 소통할 수 있어야 한다고 강조합니다. 이러한 투명성은 신뢰를 쌓는 데 필수적입니다. 만약 노동자가 기계가 왜 특정한 방식으로 행동하는지 이해하지 못한다면, 안전하게 개입하거나 기계를 신뢰할 수 없습니다. 두 존재 사이의 의사소통은 인간이 설명을 요구할 수 있고 기계가 문제가 발생하기 전에 중요한 정보를 선제적으로 공유할 수 있는 양방향 통로가 되어야 합니다.

직접적인 상호작용을 넘어, 연구는 팀을 뒷받침하는 물리적 및 디지털 인프라의 중요성을 강조합니다. 여기에는 노동자, 기계, 그리고 공장 바닥을 연결하는 센서, 디스플레이, 데이터 네트워크가 포함됩니다. 이 인프라는 노동자에게 너무 많은 데이터를 쏟아부어 압도하지 않으면서도, 명확하고 시의적절한 정보를 제공하도록 설계되어야 합니다. 마지막으로, 연구진은 조직 자체의 책임을 강조합니다. 기업은 노동자들이 새로운 기술에 적응할 수 있도록 지속적인 교육을 제공해야 하며, 업무에 대한 책임 소재를 명확히 설정해야 합니다. 연구는 제조 분야에서의 성공적인 인간-AI 협업이 한 번에 해결되는 기술적 문제가 아니라, 지속적인 적응의 과정이라고 결론짓습니다. 이는 인간, 기계, 과업, 그리고 조직을 하나의 연결된 시스템으로 고려하는 사회 기술적 접근 방식을 요구합니다. 이러한 가이드라인을 따름으로써, 제조업체들은 기술이 인간의 웰빙을 지원하고 회복탄력성을 높이는 환경을 조성할 수 있으며, 이를 통해 일의 미래가 단순히 더 똑똑해지는 것을 넘어 더 인간적이 되도록 보장할 수 있습니다.