⚡ electrical engineering

Graph Signal Denoising Using Regularization by Denoising and Its Parameter Estimation

본 논문은 다양한 그래프 노이즈 제거 기법, 그래프 신경망을 포함하여 활용하는 정규화를 통한 노이즈 제거 (RED) 기반의 해석 가능한 그래프 신호 노이즈 제거 방법을 제안하며, 심층 알고리즘 언롤링을 통한 지도 및 비지도 매개변수 추정 기법을 도입하여 기존 방법보다 우수한 노이즈 제거 정확도를 달성합니다.

원저자: Hayate Kojima, Hiroshi Higashi, Yuichi Tanaka

게시일 2026-05-27

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Hayate Kojima, Hiroshi Higashi, Yuichi Tanaka

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

도시의 모든 건물이 점이고, 그들을 연결하는 도로가 선인 도시 지도를 상상해 보세요. 이제 누군가가 이 지도에 무작위 정적 잡음을 뿌려 건물의 실제 형태나 거리 배치를 알아보기 어렵게 만들었다고 가정해 봅시다. 당신의 목표는 중요한 세부 사항을 지우지 않으면서 이 지도를 정리하는 것입니다.

이 논문은 이러한 "잡음 섞인 지도"(저자들이 그래프 신호라고 부름) 를 정리하는 새로운 더 지능적인 방법을 제시합니다. 그들이 어떻게 했는지 간단히 설명해 드리겠습니다:

1. 문제: 혼란을 정리하는 두 가지 방법

보통 사람들은 잡음이 섞인 데이터를 정리할 때 다음 두 가지 방법 중 하나를 사용합니다:

"규칙책" 접근법 (모델 기반): "이웃은 서로 비슷해야 한다"와 같은 엄격한 수학적 규칙을 따릅니다. 매우 논리적이고 이해하기 쉽지만, 때로는 너무 경직되어 날카로운 모서리나 고유한 특징과 같은 중요한 세부 사항을 과도하게 부드럽게 만들어 버릴 수 있습니다.
"학습" 접근법 (데이터 기반): 수천 개의 깨끗한 예시를 컴퓨터 뇌 (신경망) 에 학습시켜 "좋은 것"이 무엇인지 배우게 합니다. 매우 강력하지만, 학습할 완벽한 예시의 거대한 라이브러리가 필요합니다. 만약 그런 완벽한 예시가 없다면 어려움을 겪습니다.

2. 해결책: "잡음 제거를 통한 정규화" (RED)

저자들은 RED라는 기법을 사용하여 두 세계의 장점을 결합했습니다.

RED 를 지능적인 감독관으로 생각하세요.

감독관은 경직된 규칙책만 따르는 대신, 지저분한 지도를 살펴볼 "정리 전문가"(잡음 제거기) 를 고용합니다.
감독관은 전문가에게 이렇게 묻습니다: "네가 이걸 정리한다면 무엇을 바꿀 건가?"
전문가는 이렇게 답합니다: "여기 있는 이 톱니 모양의 가장자리는 부드럽게 만들겠지만, 저기 있는 날카로운 모서리는 그대로 두겠습니다."
감독관은 그 조언을 받아 지도를 업데이트합니다.

이 논문의 마법은 이 "감독관" 방식이 사진 (흐린 사진 정리하기 등) 에만 적용되는 것이 아니라, 이러한 복잡한 "도시 지도"(그래프) 에도 작동한다는 것을 증명했다는 점입니다. 그들은 다양한 종류의 "정리 전문가"(복잡한 AI 네트워크 포함) 가 지도의 크기를 변경하지 않는 등 몇 가지 간단한 규칙만 지키면 이 역할에 사용될 수 있음을 보여주었습니다.

3. 비결: "다이얼"을 학습하기

정리 과정에는 일반적으로 정리 강도를 조절하는 "다이얼"(매개변수) 이 있습니다.

너무 낮게 설정하면: 잡음이 남습니다.
너무 높게 설정하면: 건물 세부 사항을 지워버리고 특징 없는 매끄러운 덩어리만 남게 됩니다.

저자들은 이 다이얼의 완벽한 설정을 찾는 두 가지 새로운 방법을 고안했습니다:

"교사" 방법 (지도 학습): 비교할 깨끗한 지도 버전이 있다면, 시스템은 교사의 예시와 일치하도록 시도하면서 다이얼 설정을 학습합니다.
"자기 학습" 방법 (비지도 학습): 깨끗한 버전이 없다면, 시스템은 Noise2Noise라는 트릭을 사용합니다. 동일한 지도의 서로 다른 두 가지 잡음 섞인 버전을 가져와, 한쪽을 다른 쪽을 보며 정리하도록 시스템을 가르칩니다. 마치 같은 장면의 또 다른 흐린 사진과 비교하여 흐린 사진을 고치려는 것과 같습니다; 시스템은 두 사진 모두에서 서로 다른 위치에 나타나는 무작위 정적을 무시하는 법을 배웁니다.

4. 더 나은 이유 (그래프 필터 관점)

저자들은 이를 수학적으로 분석한 결과, 그들의 방법이 전문 필터처럼 작동한다는 것을 발견했습니다.

기존 방법들은 모든 것을 통과시키지만 거친 가장자리를 너무 많이 부드럽게 만들어 과도하게 평활화하는 체와 같았습니다.
그들의 RED 방법은 "정적 잡음"(고주파 잡음) 은 제거하지만, 지도를 실제처럼 보이게 만드는 "날카로운 세부 사항"(중요한 고주파 특징) 을 버리지 않도록 주의하는 지능적인 체와 같습니다.

5. 결과

그들은 두 가지 항목으로 이를 테스트했습니다:

가짜 데이터: 잡음이 섞인 무작위 도시 지도를 생성했습니다. 그들의 방법은 기존 규칙책 방법과 표준 AI 방법보다 더 잘 정리했습니다.
실제 데이터: 의자나 비행기와 같은 실제 물체의 3D 모델을 사용했습니다. 역시 그들의 방법은 물체의 날카로운 가장자리를 유지하면서 잡음을 제거한 반면, 다른 방법들은 물체를 흐릿하거나 "무른" 것처럼 보이게 만들었습니다.

요약하자면: 그들은 복잡한 데이터 네트워크를 위한 유연하고 지능적인 정리 시스템을 구축했습니다. 이 시스템은 다양한 종류의 "정리 전문가"를 사용할 수 있으며, 완벽한 예시가 없더라도 스스로 완벽하게 조정하는 법을 알고 있으며, 잡음을 제거하면서도 중요한 세부 사항을 선명하게 유지합니다.

기술 요약: 정규화를 통한 제거 (RED) 를 활용한 그래프 신호 잡음 제거 및 그 매개변수 추정

문제 제기
그래프 신호 처리 (GSP) 는 3 차원 점 구름, 센서 네트워크, EEG 데이터와 같은 네트워크 상에 정의된 데이터를 분석하는 데 필수적입니다. 그러나 그래프 신호는 측정 과정에서 자주 잡음에 오염됩니다. 기존 잡음 제거 기법은 일반적으로 두 가지 범주로 나뉩니다: 해석 가능하지만 수동 목적 함수 설계가 필요한 모델 기반 방법 (예: 그래프 라플라시안 정규화) 과 충분한 학습 데이터가 있으면 성능이 우수하지만 해석 가능성이 부족하고 대규모 데이터셋을 요구하는 데이터 기반 방법 (예: 그래프 신경망) 입니다. 플러그 앤 플레이 교대 방향 승수법 (PnP-ADMM) 과 같은 하이브리드 접근법이 이 격차를 메우기 위해 제안되었으나, 종종 해석 가능성을 저하시키는 암묵적 목적 함수를 가지며 수렴하기 위해 많은 반복이 필요하다는 단점이 있습니다.

방법론
본 논문은 이미지 복원을 위해 원래 개발된 정규화를 통한 제거 (Regularization by Denoising, RED) 기법에 기반한 그래프 신호용 잡음 제거 프레임워크를 제안합니다. 핵심 최적화 문제는 다음과 같이 공식화됩니다:
$\hat{x} = \arg\min_{\tilde{x}} \frac{1}{2}\|\tilde{x} - y\|_2^2 + \frac{\alpha_{red}}{2} \tilde{x}^\top (\tilde{x} - D_{graph}(\tilde{x}))$
여기서 $y$ 는 잡음이 포함된 관측치, $D_{graph}(\cdot)$ 는 블랙박스 정규화기로 작용하는 그래프 신호 잡음 제거기, 그리고 $\alpha_{red}$ 는 정규화 매개변수입니다.

저자들은 세 가지 주요 기술적 과제를 해결합니다:

그래프 신호에 대한 RED 의 적용 가능성: 본 논문은 널리 사용되는 그래프 잡음 제거기들이 RED 에 필요한 약한 조건 (국소 동질성과 강한 수동성) 을 만족한다는 것을 이론적 및 실증적으로 검증합니다. 구체적으로, 그래프 라플라시안 정규화 (LR) 가 특정 그래프 구성 가정 (예: 신호 거리 또는 가우시안 마르코프 무작위 필드에 기반한 엣지 가중치) 하에서 이러한 조건을 만족함을 증명합니다. 실험 결과 또한 그래프 어텐션 네트워크 (GAT) 와 PnP-ADMM 이 실제로도 이러한 조건을 만족함을 확인시켜 줍니다.
매개변수 추정: 정규화 매개변수 $\alpha_{red}$ $α_{r e d}$ 와 내부 잡음 제거기의 하이퍼파라미터를 최적화하기 위해, 저자들은 **딥 알고리즘 언롤링 (Deep Algorithm Unrolling, DAU)**에 기반한 두 가지 학습 전략을 제안합니다:
- 지도 학습: 언롤링된 반복을 통한 역전파를 사용하여 실제 정답인 깨끗한 신호를 통해 매개변수를 학습합니다.
- 비지도 학습: 동일한 신호의 두 가지 잡음이 포함된 버전 간의 오차를 최소화함으로써 깨끗한 정답 없이 매개변수를 학습하는 Noise2Noise 프레임워크를 적응시킵니다.
그래프 필터 관점: 저자들은 RED 를 스펙트럼 관점에서 분석하여, RED 기울기가 내부 잡음 제거기의 필터에 주파수 의존적 스케일링이 적용된 버전으로 작용함을 보여줍니다. 과잉 평활화를 초래할 수 있는 표준 라플라시안 정규화와 달리, RED 는 잡음을 제거하면서도 고주파 성분을 보존하는 것으로 나타납니다.

주요 기여

GSP 로의 RED 확장: 이는 이미지 처리를 넘어 그래프 신호 처리에 RED 를 적용한 최초의 시도입니다. 본 논문은 GNN 을 포함한 많은 기존 그래프 잡음 제거기들이 이론적 또는 실질적으로 RED 와 호환됨을 확립합니다.
해석 가능한 하이브리드 프레임워크: PnP-ADMM 에서와 같이 알고리즘 단계가 아닌 목적 함수에 잡음 제거기를 명시적으로 통합함으로써, 제안된 방법은 데이터 기반 잡음 제거기의 힘을 활용하면서도 해석 가능성을 유지합니다.
그래프 신호를 위한 비지도 학습: 본 논문은 많은 실제 시나리오에서 깨끗한 정답 데이터의 부족 문제를 해결하기 위해 Noise2Noise 를 사용한 그래프 잡음 제거를 위한 비지도 매개변수 추정 방법을 소개합니다.
알고리즘 구현: RED 최적화 문제를 해결하기 위한 반복 알고리즘 (알고리즘 1) 이 제공되며, 켤레 기울기법 또는 ADMM 사용을 위한 조항이 포함되어 있습니다.

실험 결과
제안된 방법은 합성 대역 제한 그래프 신호와 실제 3 차원 점 구름 데이터 (ModelNet10) 에 대해 평가되었습니다.

성능: 지도 학습 설정에서 RED 기반 방법 (LR 과 PnP 내부 잡음 제거기를 모두 포함) 은 표준 모델 기반 (LR, PnP) 과 데이터 기반 (GAT, 학습되지 않은 GNN) 베이스라인보다 일관되게 더 낮은 평균 제곱 오차 (MSE) 를 달성했습니다.
DAU 의 효과성: 딥 알고리즘 언롤링을 통합한 방법 (RED-DAU) 은 언롤링되지 않은 대응 방법보다 훨씬 우수한 성능을 보였으며, 반복별 매개변수 학습의 이점을 입증했습니다.
비지도 성능: 비지도 RED 방법 (RED-LR-Unsupervised) 은 매개변수가 훨씬 적음에도 불구하고 기존 비지도 GNN 기반 방법 (GAT, UGNN) 보다 우수한 성능을 발휘했습니다.
시각화: 3 차원 점 구름에 대한 시각적 결과는 RED 기반 방법이 날카로운 특징을 보존하면서 잡음을 효과적으로 줄였으며, 베이스라인 방법에서 흔히 발생하는 과잉 평활화 아티팩트를 피했음을 나타냈습니다.
계산 비용: 제안된 방법은 RED 의 중첩된 반복적 성격과 내부 잡음 제거기 호출로 인해 단순한 베이스라인보다 더 높은 계산 시간을 보였습니다. 그러나 저자들은 잡음 제거 정확도의 상당한 개선으로 인해 이러한 비용이 정당화된다고 주장합니다.

의의 및 주장
본 논문은 모델 기반 접근법과 데이터 기반 접근법을 효과적으로 균형 있게 조화시키는 새로운 해석 가능한 그래프 신호 잡음 제거 패러다임을 제공한다고 주장합니다. RED 가 그래프 신호에 성공적으로 적응될 수 있으며 그 매개변수가 지도 및 비지도 설정 모두에서 학습될 수 있음을 입증함으로써, 이 연구는 더 견고하고 적응적인 신호 복원 기법으로 나아가는 길을 제시합니다. 저자들은 제안된 방법이 잡음 제거 정확도 측면에서 기존 모델 기반, 데이터 기반, 그리고 하이브리드 접근법을 능가한다고 결론지으며, 복잡한 네트워크에서 고충실도 신호 복원이 필요한 분야의 미래 응용 가능성을 강조합니다.