🤖 machine learning

Towards Migrating Neural Network Implementations

본 논문은 수동 마이그레이션의 어려움을 극복하면서 기능적 동등성을 보장하는 추상화를 생성하기 위한 피벗 모델을 활용하여 PyTorch 와 TensorFlow 와 같은 딥러닝 프레임워크 간 신경망 코드 마이그레이션을 위한 자동화된 접근법을 제안하고 검증한다.

원저자: Nadia Daoudi, Ivan Alfonso, Jordi Cabot

게시일 2026-05-19

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Nadia Daoudi, Ivan Alfonso, Jordi Cabot

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 한 나라의 특정 설계도와 도구 (예를 들어 TensorFlow) 를 사용하여 웅장하고 복잡한 기계 (신경망) 를 구축했다고 상상해 보세요. 이제 당신의 회사가 다른 나라로 이전하기로 결정했는데, 그곳의 사람들은 완전히 다른 도구를 사용하고 약간 다른 언어 (PyTorch) 를 사용합니다.

문제는 무엇일까요? 기계를 그냥 들어 옮길 수 없습니다. 기어들이 맞지 않고, 설명서가 잘못된 언어로 되어 있으며, 부품들의 모양도 다릅니다. 보통은 기계를 완전히 분해한 후 수동으로 처음부터 다시 재건해야 하는데, 이는 시간이 매우 오래 걸리고 오류 발생 가능성도 높습니다.

이 논문은 이러한 재건을 자동으로 수행하는 로봇 번역기를 제시합니다.

이 "마법 같은 번역기"가 작동하는 방식을 간단한 단계로 나누어 설명하면 다음과 같습니다:

1. "보편적 번역기" (중심 모델)

서로 너무 달라서 혼란스러운 Language A 에서 Language B 로 직접 번역하는 대신, 저자들은 보편적 언어 ( BESSER-NN 메타모델이라고 함) 을 고안했습니다.

이는 전기 플러그용 보편적 어댑터와 같습니다.

1 단계: 원래 기계 (TensorFlow 코드) 를 기본 부품 (레이어, 연결, 설정) 으로 분해합니다. 그런 다음 이 부품들을 "보편적 언어"로 번역합니다.
2 단계: 그 보편적 언어를 새로운 나라의 언어 (PyTorch 코드) 로 번역합니다.

이 방식을 통해 출발지와 도착지가 어디이든 기계의 핵심 "영혼"은 동일하게 유지됩니다.

2. 세 단계 프로세스

저자들은 그들의 방법을 3 단계 조립 라인으로 설명합니다:

1 단계: X 선 (AST 추출): 그들은 도구를 사용하여 원래 코드의 "X 선"을 촬영합니다. 이는 지저분한 텍스트 코드를 기계가 어떻게 구축되었는지 정확히 보여주는 명확하고 조직화된 트리 다이어그램 (추상 구문 트리, AST) 으로 변환합니다.
2 단계: 번역 (변환): 그들은 그 트리 다이어그램을 살펴보고 "보편적 언어" 설계도로 다시 작성합니다. 여기서 기존 코드가 명시적으로 언급하지 않았더라도 새로운 기계가 입력 데이터의 크기를 어떻게 알아야 하는지와 같은 까다로운 부분들을 처리합니다.
3 단계: 건설 (코드 생성): 마지막으로, 그들은 그 보편적 설계도를 기반으로 대상 언어 (PyTorch 또는 TensorFlow) 로 새로운 코드를 작성하기 위해 "빈칸 채우기" 양식과 같은 템플릿 시스템을 사용합니다.

3. 까다로운 장애물 (과제들)

이 논문은 이것이 쉽지 않았음을 인정합니다. 그들은 세 가지 특정 퍼즐을 해결해야 했습니다:

"누락된 조각" 퍼즐: 이전 언어 (TensorFlow) 에서는 기계의 일부가 입력되는 내용에 따라 크기를 자동으로 파악합니다. 반면 새로운 언어 (PyTorch) 에서는 크기를 명시적으로 작성해야 합니다. 저자들의 로봇은 새로운 기계가 충돌하지 않도록 누락된 크기들을 "추측"하고 채워 넣기 위해 탐정 같은 작업을 수행해야 했습니다.
"숨겨진 지시" 퍼즐: 때로는 활성화 함수 (기계를 작동시키는 스위치) 가 명확하게 작성된 것이 아니라 변수 이름 안에 숨겨져 있습니다. 로봇은 그 숨겨진 이름을 찾아내고, 새로운 언어에 맞는 정확하고 명시적인 지시어로 대체할 만큼 똑똑해야 했습니다.
"왼손잡이 대 오른손잡이" 퍼즐: 한 나라는 손잡이가 왼쪽에 있는 상자를 포장하고, 다른 나라는 손잡이가 오른쪽에 있는 상자를 포장한다고 상상해 보세요. 상자를 그대로 옮기면 선반에 맞지 않습니다. TensorFlow 와 PyTorch 는 데이터를 다르게 조직화합니다 (하나는 "색상 채널"을 끝에 배치하고, 다른 하나는 시작 부분에 배치합니다). 저자들은 실제 이미지를 변경하지 않고 새로운 기계가 데이터를 올바르게 읽을 수 있도록 데이터를 뒤집어 주는 "재배열" 단계를 추가했습니다.

4. 효과가 있었을까요? (결과)

저자들은 5 가지 유명한 신경망 설계 (AlexNet 및 VGG16 등) 에 대해 그들의 로봇을 테스트했습니다. 그들은 TensorFlow 와 PyTorch 사이를 오가며 이들을 이동시켰습니다.

구축되었나요? 네. 새로운 코드는 오류 없이 실행되었습니다.
동일하게 생각했나요? 네. 그들은 동일한 이미지와 숫자를 기존 기계와 새로운 기계에 모두 입력했습니다. 결과는 거의 동일했습니다 (10 억분의 1 퍼센트 미만의 차이).
동일하게 학습했나요? 네. 그들은 두 기계 모두를 고양이 대 개 인식이나 영화 리뷰와 같은 실제 데이터로 학습시켰을 때, 거의 동일한 정확도 점수를 달성했습니다.

결론

이 논문은 한 주요 프레임워크에서 다른 프레임워크로 신경망 코드를 자동으로 번역할 수 있는 도구를 구축했다고 주장합니다. 이는 개발자들이 수천 줄의 코드를 수동으로 다시 작성해야 하는 수고를 덜어주며, 새로운 버전이 기존 버전과 정확히 동일하게 작동하도록 보장합니다. 다만 서로 다른 "언어"를 사용할 뿐입니다.

또한 이 도구는 소프트웨어가 모델을 사용하여 설계되는 더 큰 시스템에 적합하다고 언급하지만, 그들의 주요 초점은 AI 가 병원이나 기타 구체적인 실제 응용 분야에서 어떻게 사용되는지가 아니라, 코드 번역 자체에 엄격하게 맞춰져 있습니다.

기술 요약: 신경망 구현 이동을 위한 접근

문제 제기

신경망 (NN) 의 급속한 발전으로 딥러닝 (DL) 프레임워크 (예: PyTorch, TensorFlow) 가 급증했습니다. 조직들은 특정 기능, 성능 특성, 또는 커뮤니티 지원을 활용하기 위해 이러한 프레임워크를 채택하지만, 종종 수명 주기 후반부에 기존 NN 구현을 다른 프레임워크로 이동해야 하는 필요성에 직면합니다. 이러한 이동은 성능 저하, 진화하는 요구사항, 또는 특정 프레임워크에 대한 지원 중단 (예: Hugging Face 의 TensorFlow 지원 중단) 과 같은 요인에 의해 주도됩니다.

현재 NN 코드 이동을 위해 특별히 맞춤화된 자동화 접근법의 부재가 심각합니다. 기존 문헌은 주로 훈련된 즉시 사용 가능한 모델 (아티팩트) 변환에 초점을 맞추고 있으며, 소스 코드 자체에는 초점을 맞추지 않습니다. 결과적으로 조직들은 기존 논리를 재사용하면서 새로운 기능을 채택할 유연성을 저해하는 시간 소모적이고 오류가 발생하기 쉬운 과정인 NN 코드를 처음부터 수동으로 다시 작성해야 합니다.

방법론

저자들은 DL 프레임워크 간 NN 코드를 자동으로 이동시키기 위해 모델 주도 공학 (MDE) 접근법을 제안합니다. 이 방법의 핵심은 소스 코드를 추상화한 후 목표 코드를 생성하기 위한 **중심 모델 (pivot model)**에 의존합니다. 이 과정은 세 가지 주요 단계로 구성됩니다:

1. AST 추출

이 과정은 소스 프레임워크의 코드 (Python) 를 파싱하여 추상 구문 트리 (AST) 를 추출하는 것으로 시작합니다. 저자들은 Python 의 ast 라이브러리를 활용하여 코드를 노드의 트리 형태로 표현하며, 여기서 노드는 레이어, 텐서 연산, 하이퍼파라미터와 같은 NN 구성 요소에 해당합니다. 이 단계는 PyTorch 와 TensorFlow 에서 발견되는 순차 (Sequential) 및 서브클래싱 (Subclassing) 아키텍처를 모두 지원합니다.

2. 변환 (모델 간 변환)

추출된 AST 는 BESSER-NN 메타모델을 사용하여 프레임워크와 무관한 표현으로 변환됩니다. BESSER 로우코드 플랫폼의 일부인 이 메타모델은 중심 모델 역할을 합니다.

매핑: 소스 AST 의 노드 (예: TensorFlow Dense 레이어) 는 BESSER-NN 모델의 해당 요소 (예: Linear 레이어) 로 매핑됩니다.
속성: 하이퍼파라미터, 훈련 구성, 데이터셋 정의도 중심 모델로 매핑됩니다.
아키텍처 차이 처리: 이 접근법은 네 가지 소스/목표 아키텍처 조합 (PyTorch/TensorFlow $\times$ 서브클래싱/순차) 을 처리하기 위해 네 가지 고유한 변환 모듈을 사용합니다.
기호적 추적 (Symbolic Tracing): 이 단계의 중요한 측면은 AST 에 명시적으로 정의되지 않은 속성 (예: TensorFlow 의 입력 형태) 을 추론하기 위해 소스 코드를 기호적으로 추적하는 것으로, 이를 통해 중심 모델이 목표 프레임워크에 필요한 모든 정보를 포함하도록 보장합니다.

3. 코드 생성 (모델에서 텍스트로)

BESSER-NN 중심 모델이 채워지면, 코드 생성기가 목표 프레임워크에서 최종 구현을 생성합니다.

전처리: Python 스크립트가 레이어 간의 교차 참조 및 종속성을 해결하기 위해 BESSER-NN 모델을 처리합니다.
템플릿 엔진: Jinja 템플릿 엔진을 사용하여 중심 모델의 추상 개념을 목표 프레임워크 (PyTorch 또는 TensorFlow) 의 특정 구문으로 매핑합니다.
아키텍처 지원: 복잡한 설계 (예: 다른 클래스 내에서 네트워크 정의) 가 보존되도록 모든 아키텍처 조합을 지원하는 네 가지 코드 생성기가 개발되었습니다.

주요 기여 및 기술적 과제

이 논문은 프레임워크 간 이동에 내재된 몇 가지 특정 기술적 과제를 다룹니다:

누락된 속성 (입력 형태): TensorFlow 에서는 입력 형태가 종종 자동으로 추론되는 반면, PyTorch 는 명시적 정의를 요구합니다. 저자들은 변환 단계 동안 기호적 추적 단계를 추가하여 PyTorch 코드 생성 전에 중심 모델에 누락된 입력 형태 속성 (예: in_features, in_channels) 을 추론하고 채우는 방식으로 이를 해결했습니다.
동적 활성화 함수: TensorFlow 는 활성화 함수를 변수에 동적으로 할당하여 레이어에 전달할 수 있지만, PyTorch 는 일반적으로 명시적 레이어 정의를 기대합니다. 이동 접근법은 활성화 함수 값을 검증함으로써 이를 처리합니다. 알려진 문자열인 경우 표준 레이어를 생성하고, 동적인 경우 런타임에 활성화를 해결하는 사용자 정의 함수 호출을 생성하여 원래 논리를 보존합니다.
채널 순서 규칙: TensorFlow 는 "채널 마지막 (channel-last)" 순서를 사용하는 반면, PyTorch 는 "채널 첫 번째 (channel-first)"를 사용합니다. 입력 데이터 형식을 변경하지 않고 기능적 동등성을 유지하기 위해 이 접근법은 permute 텐서 연산을 삽입합니다. 이러한 연산은 목표 코드에서 합성곱 레이어 앞뒤로 텐서 차원을 재배열하여 프레임워크의 기본 규칙에 맞추면서도 데이터 흐름을 소스와 일치시킵니다.
시스템 통합: 이 논문은 BESSER-NN 메타모델을 UML 과 같은 일반적인 소프트웨어 모델링 언어와 통합하는 방법을 보여줍니다. 이를 통해 NN 을 더 넓은 시스템 모델 내의 행동 구현 (예: 상태 기계의 메서드) 으로 정의할 수 있어, 더 큰 스마트 시스템 이동의 일부로서 NN 이동을 용이하게 합니다.

실험적 평가

저자들은 문헌의 다섯 가지 다른 신경망 (AlexNet, VGG16, LSTM, CNN-RNN, TF-Tutorial) 을 사용하여 접근법을 평가했습니다. 이러한 네트워크는 12 가지 다른 레이어 유형과 순차 및 서브클래싱 아키텍처의 혼합을 다룹니다.

평가에서는 두 가지 연구 질문 (RQ) 을 다뤘습니다:

RQ1 (이동 성공): 이 접근법은 지원되는 모든 시나리오 (PyTorch $\leftrightarrow$ TensorFlow, 순차 $\leftrightarrow$ 서브클래싱) 에서 다섯 가지 네트워크를 성공적으로 이동시켰습니다. 생성된 코드는 더미 입력 데이터를 입력받았을 때 구조적 오류 없이 실행되었습니다.
RQ2 (기능 보존): 저자들은 이동된 네트워크가 원래 것과 기능적으로 동등한 출력을 생성하는지 검증했습니다.
- 무작위 입력: 동일한 가중치와 무작위 입력을 사용하여 소스 및 목표 출력 간의 최대 절대 차이 (MAD) 는 미미했습니다 (최대 $5.96 \times 10^{-8}$ ).
- 벤치마크 데이터셋: 네트워크를 CIFAR-10, SVHN, IMDB, SST-2 에서 훈련시켰습니다. 이동된 네트워크의 예측 정확도는 소스 네트워크와 매우 일치했으며, 관찰된 가장 큰 차이는 CIFAR-10 의 VGG16 에서 0.022 였습니다.

중요성 및 주장

이 논문은 주요 중요성이 훈련된 모델의 이동에서 소스 코드의 이동으로 초점을 전환하는 데 있다고 주장합니다. ONNX, MMdnn, CoreML 과 같은 기존 도구가 정적 훈련 아티팩트를 변환하는 것과 달리, 이 접근법은 네트워크 자체의 정의를 이동합니다.

이 차이는 다음과 같은 이유로 중요합니다:

반복적 실험 가능: 개발자가 새로운 프레임워크 내에서 모델을 검사, 수정, 재훈련할 수 있게 합니다.
모델 주도 파이프라인 지원: NN 을 더 넓은 소프트웨어 엔지니어링 워크플로우 내에서 1 급 시민으로 취급할 수 있게 합니다.
아티팩트 변환의 "블랙박스" 성 회피: 목표 프레임워크의 새로운 기능과 모범 사례를 활용할 수 있는 능력을 보존합니다.

저자들은 그들의 접근법이 DL 프레임워크 간의 간극을 효과적으로 메우며, 기능적 동등성을 유지하면서 현대화에 필요한 수동 노력을 줄인다고 결론지었습니다. 그들은 향후 작업이 메타모델을 확장하여 더 고급 AI 개념 (예: Transformer, 그래프 신경망) 을 지원하고 NN 구조를 개선하기 위한 리팩토링 변환을 개발하는 데 초점을 맞출 것이라고 언급했습니다.