Learned Diffractive Optics for Quantum-Optimal Inference

심우주나 현미경 아래의 살아있는 세포 내부처럼 빛이 희박한 우주의 조용한 구석에서는, 단 하나의 광자라도 매우 소중합니다. 이 작은 에너지 덩어리들은 먼 별이나 취약한 생물학적 구조에 대한 정보를 전달하는 유일한 메신저입니다. 그러나 우리가 전통적으로 이러한 이미지를 포착해 온 방식에는 근본적인 결함이 있습니다. 표준 카메라는 단순히 빛이 어디에 도달하는지를 기록하며, 밝기만을 기반으로 그림을 만듭니다. 이 방식은 빛이 충분할 때는 잘 작동하지만, 저조도 환경에서는 빛 자체의 무작위적인 특성으로 인해 발생하는 입자 노이즈가 신호를 압도해 버립니다. 더 중요한 것은, 전통적인 방식이 빛 속에 숨겨진 미묘한 정보의 층, 즉 빛의 파동이 서로 어떻게 정렬되는지를 버린다는 점입니다. 이러한 정렬, 즉 결맞음(coherence)을 무시함으로써, 기존의 카메라는 양자 물리학이 존재한다고 말하는 결정적인 세부 사항들을 놓치게 되며, 우리가 가장 필요로 하는 순간에 흐릿하거나 불완전한 사진을 남깁니다.

옥스퍼드 대학교의 연구진은 이 잃어버린 정보를 되찾을 방법을 찾아냈습니다. 그들은 빛이 단순히 어디에 부딪히는지가 아니라, 빛의 파동이 어떻게 상호작용하는지를 학습하여 세상을 보는 새로운 유형의 광학 시스템을 개발했습니다. 연구진은 전통적인 방식의 렌즈를 사용하여 이미지를 집중시키는 대신, 일련의 얇고 투명한 판들로 구성된 장치를 만들었습니다. 이 판들은 전통적인 방식으로 빛을 모으는 것이 아니라, 빛이 통과할 때 빛의 파동을 비틀고 이동시킵니다. 연구진은 강력한 컴퓨터 알고으로 이 판들이 특정 문제(예를 들어, 두 유사한 물체를 구별하거나 아주 작은 거리를 측정하는 것)를 해결하기 위해 빛을 정확히 어떻게 비틀어야 하는지 가르쳤으며, 이 모든 과정에서 최소한의 광자만을 사용했습니다. 그 결과, 이 시스템은 물리 법칙이 허용하는 절대적인 최선에 가깝게 성능을 발휘했으며, 표준 카메라와 이 작업을 위해 설계된 전문적인 광학 도구들조차 훨씬 능가하는 성능을 보여주었습니다.

이 돌파구의 핵심은 연구진이 광학 시스템을 설계하는 방식에 있습니다. 전통적으로 과학자들은 복잡한 수학을 사용하여 특정 양자 상태를 측정하는 완벽한 방법을 계산하려 했으나, 종종 그 해답을 실제 재료로 구현하는 것이 불가능하다는 결론에 도달하곤 했습니다. 여기서 연구진은 발상을 전환했습니다. 그들은 광학 시스템을 인공지능의 한 종류인 신경망처럼 취급했습니다. 그들은 격자로 나뉜 8개의 투명한 판을 통과하는 빛의 경로를 시뮬레이션했습니다. 컴퓨터는 특정 작업에서의 오차를 최소화하기 위해 각 섹션에서 빛의 파동 형태를 반복적으로 조정했습니다. 만약 목표가 두 가지 다른 세포 유형을 구별하는 것이라면, 컴퓨터는 두 세포로부터 오는 빛의 패턴이 검출기에서 최대한 다르게 나타날 때까지 판을 미세하게 조정했습니다. 만약 목표가 거리를 측정하는 것이라면, 측정값이 최대한 정밀해지도록 판을 조정했습니다. '경사 하강법 기반 최적화(gradient-based optimization)'라고 알려진 이 과정은 인간 수학자가 쉽게 예측할 수 없었을 물리적 구성을 발견할 수 있게 해주었습니다.

연구진은 이 "학습된 회절 광학(learned diffractive optics)"을 몇 가지 까다로운 시나리오에 테스트했습니다. 한 실험에서, 그들은 시스템이 서로 상당히 겹쳐 있어 분리하기 어려운 신호와 같은 두 개의 비직교 양자 상태를 구별하도록 했습니다. 빛의 강도만을 찍는 표준 카메라는 이들을 제대로 구별하지 못해 약 22%의 오류를 범했습니다. 그러나 학습된 광학 시스템은 이 오류율을 단 0.067로 줄였는데, 이는 양자 역학이 설정한 이론적 한계에 매우 근접한 성능입니다. 이는 이 장치가 각 광자로부터 가능한 거의 모든 비트의 정보를 추출하고 있음을 의미하며, 표준 카메라는 결코 할 수 없는 일입니다.

이 방법의 힘은 단순한 이진 선택을 넘어 확장됩니다. 연구진은 빛의 곡률이나 두 개의 희미한 빛 지점 사이의 거리와 같은 연속적인 파라미터를 추정하는 데에도 이를 적용했습니다. '레일리 저주(Rayleigh's curse)'로 알려진 유명한 문제에서, 표준 이미징은 두 광원이 빛의 파장보다 가까워지면 완전히 실패합니다. 이미지는 하나의 흐릿한 점이 되어 거리를 측정할 수 없게 됩니다. 연구진은 자신들의 학습된 광학 기술이 이 한계를 극복할 수 있음을 보여주었습니다. 빛의 파동을 특정 작업에 맞춰 조작하도록 판을 훈련시킴으로써, 시스템은 두 지점이 매우 가까이 있을 때도 높은 정밀도로 그 간격을 추정할 수 있었습니다. 이 시뮬레이션에서 학습된 광학 시스템은 흐림 현상이 심할 때 표준 카메라와 동일한 정확도를 달erm하기 위해 41배나 적은 광자만을 필요로 했습니다.

이 접근 방식이 특히 강력한 이유는 연구진이 정답을 미리 알 필요가 없다는 점입니다. 그들은 최적의 측정을 위한 완벽한 수학적 공식을 알 필요가 없었습니다. 대신, 그들은 단순히 목표(예: "이 세포를 식별하는 오차를 최소화하라")를 정의하고, 컴퓨터가 그 목표를 달究하는 판의 물리적 배치를 찾도록 했습니다. 이는 과학자들이 헤르미트-가우스 모드(Hermite-Gaussian modes)와 같이 알려진 수학적 기초를 바탕으로 광학 시스템을 수동으로 설계해야 했던 기존 방식과는 크게 다른 점입니다. 실제로 연구진이 자신들의 학습된 시스템을 인간이 설계한 분류기와 비교했을 때, 학습된 시스템이 더 우수한 성능을 보였습니다. 컴퓨터는 인간이 설계한 분류기보다 더 효과적인 방식으로 판을 배치하는 방법을 찾아냈는데, 이는 아마도 컴퓨터가 이론적 설계가 놓칠 수 있는 물리적 하드웨어의 미세한 결함이나 제약 조건까지 고려했기 때문일 것입니다.

이 연구는 또한 서로 다른 광자 수에 따라 시스템이 어떻게 작동하는지도 탐구했습니다. 현실 세계에서는 사용 가능한 광자의 수가 제한적이거나 예측 불가능한 경우가 많습니다. 연구진은 특정 광자 수에 맞춰 훈련된 시스템은 해당 수치에서 가장 잘 작동하지만, 넓은 범위의 광자 수에 걸쳐 잘 작동하도록 훈련된 시스템은 다양한 상황에 적응할 수 있다는 것을 발견했습니다. 이러한 유연성은 광량이 변하는 실제 응용 분야에서 매우 중요합니다. 또한, 연구진은 이 방법이 레이저와 같은 결맞은 빛(coherent light)과 먼 별이나 생물학적 샘플과 같은 비결맞은 빛(incoherent light) 모두에 작동한다는 것을 입증했습니다. 이러한 다재다능함은 이 기술이 좁은 조건에 국한되지 않고 광범위한 감지 및 이미징 문제에 적용될 수 있음을 시사합니다.

이 기술의 물리적 구현 또한 유망합니다. 시뮬레이션에 사용된 "판"들은 빛의 위상을 전자적으로 변화시킬 수 있는 장치인 공간 광 변조기(spatial light modulator)나 정적 위상 마스크를 사용하여 제작될 수 있습니다. 연구진은 최적화 과정이 정렬 불량이나 제조 결함과 같은 실제 세계의 결함까지도 반영할 수 있어, 최종 장치가 견고함을 유지할 수 있다고 언급했습니다. 현재 결과는 컴퓨터 시뮬레이션에 기반하고 있지만, 물리적 장치를 구축하는 길은 명확합니다. 이 방법은 미분 가능한 광학 모델에 의존하므로, 컴퓨터가 빛의 전파와 학습 과정을 높은 충실도로 시뮬레이션할 수 있어 건설을 위한 신뢰할 수 있는 청사진을 제공합니다.

이 연구는 광학적 측정에 대한 우리의 사고방식에 변화를 가져옵니다. 지난 한 세기 동안 표준적인 접근 방식은 이미지를 캡처한 후 컴퓨터로 처리하는 것이었습니다. 이 새로운 방법은 처리가 이미지가 형성되기 전, 빛의 물리 자체에 직접 내장되어야 한다고 제안합니다. 양자 역학의 원리와 머신러닝을 통합함으로써, 연구진은 측정 장치가 단순히 수동적인 기록기가 아니라 추론 과정의 능동적인 참여자가 되는 프레임워크를 만들었습니다. 시스템은 각 광자로부터 추출되는 정보를 극대화하는 방식으로 빛을 형성하는 법을 학습하며, 저조도 감지의 한계를 밀어붙이고 있습니다.

이 연구의 영향은 실험실을 훨씬 넘어 확장됩니다. 먼 은하로부터 오는 모든 광자가 귀중한 천문학 분야나, 고강도 빛이 섬세한 조직을 손상시킬 수 있는 의료 영상 분야에서, 적은 빛으로 더 많이 보는 능력은 혁신적입니다. 연구진은 이 접근 방식이 '양자 계산 머신 비전(quantum computational machine vision)'이라는 새로운 분야를 개척할 수 있다고 제안합니다. 여기서는 이미징의 한계가 렌즈의 품질이 아니라, 광학 시스템 자체의 지능에 의해 재정의됩니다. 빛이 정보를 더 효율적으로 운반하는 법을 가르침으로써, 우리는 곧 이론의 전유물로만 여겨졌던 명료함으로 보이지 않는 것을 볼 수 있게 될 것입니다.