Algorithmic Identity Based on Metaparameters: A Path to Reliability, Auditability, and Traceability

당신이 수백만 권의 책, 레시피, 그리고 지침서들이 매일 당신의 건강, 돈, 그리고 미래에 관한 중요한 결정을 내리는 데 사용되고 있는 거대하고 혼란스러운 도서관에 들어갔다고 상상해 보십시오. 문제는 무엇일까요? 이 많은 "책들"(알고리즘)은 코드로 작성되어 있고, 끊임없이 변하며, 그 누구도 누가 그것들을 작성했는지, 어떤 재료가 들어갔는지, 혹은 그것이 잘못된 조언을 주었을 때 누가 책임을 지는지 알지 못한다는 점입니다.

이 논문은 간단하지만 강력한 해결책을 제안합니다: 모든 알고리즘에 DOI(Digital Object Identifier)라는 영구적인 "ID 카드"를 부여하는 것입니다.

DOI를 소프트웨어의 출생 증명서나 여권이라고 생각하십시오. 여권이 당신이 누구이며 어디에서 왔는지를 증명하듯, DOI는 누가 알고리즘을 만들었는지, 무엇으로 구성되어 있는지, 그리고 누가 그에 대한 책임을 지는지 증명합니다.

논문은 일상적인 비유를 사용하여 이를 다음과 같이 설명합니다:

1. 세 가지 수준의 "ID"

저자들은 모든 알고리즘이 동일하지 않다는 점을 인식하고, 보고 있는 대상에 따라 세 가지 다른 유형의 ID 카드를 제안합니다.

• 레벨 1: 레시피 (로직): 이것은 "디이크스트라 알고리즘(Dijkstra's Algorithm)"과 같은 추상적인 개념입니다. 수학적 개념이죠. 여기서의 ID는 그것이 파이썬(Python)으로 쓰였든, C++로 쓰였든, 혹은 종이 위에 적혔든 상관없이 누가 그 아이디어를 발명했는지를 증명합니다.
• 레벨 2: 특정 요리 (코드): 이것은 그 레시피를 실제로 작동하게 만들기 위해 누군가가 작성한 실제 코드입니다. 여기서의 ID는 "버전 1.0"과 같이 특정 버전의 코드와 연결됩니다. 이는 당신이 그 요리를 다시 만들려고 할 때 정확히 동일한 결과를 얻을 수 있도록 보장합니다(재현성).
• 레벨 3: AI의 뇌 (학습된 모델): 이것은 현대의 AI(에세이를 쓰거나 이미지를 생성하는 것들)를 위한 것입니다. 이러한 모델들은 한 줄 한 줄 "작성"되는 것이 아니라 데이터로부터 "학습"합니다. 코드만으로는 전체를 설명할 수 없기에, ID는 완성된 뇌(학습된 가중치가 담긴 파일)와 더불어 모델 카드(그것이 무엇을 알고 무엇을 모르는지 설명하는 성적표)에 부착되어야 합니다.

2. 왜 기존 도구들을 사용하지 않는가?

여러분은 "왜 그냥 Git 해시(코드 지문)나 디지털 서명을 사용하지 않는가?"라고 물을 수 있습니다. 논문은 그러한 도구들이 코드가 변조되지 않았음을 확인하는 데는 훌륭하지만, 마치 사용자의 ID 배지만 확인하고 이름이나 사연은 알지 못하는 보안 요원과 같다고 주장합니다.

• Git 해시: 코드가 변경되지 않았음을 알려주지만, 누가 그것을 썼는지 또는 왜 썼는지는 알려주지 않습니다.
• 디지털 서명: 누가 서명했는지는 증명하지만, "사용 설명서"나 윤리적 배경을 제공하지는 않습니다.
• DOI 제안: 하나의 디지털 기관 역할을 합니다. 단순히 "이것은 코드다"라고 말하는 것이 아니라, 코드를 "책임 헌장"과 연결합니다. 기술적 객체를 실질적인 책임(answerability)을 져야 하는 실제 인물이나 기업과 연결하는 것입니다.

3. 이것이 현실 세계에서 어떻게 도움이 되는가

논문은 이 시스템이 우리에게 주는 세 가지 주요 초능력을 제시합니다:

• "누가 했는가?"를 찾는 탐정: 만약 AI가 실수(예: 의료 오류 또는 편향된 대출 거절)를 저질렀을 때, DOI는 추적 경로가 됩니다. 당신은 즉시 문제를 특정 모델의 버전과 그에 책임이 있는 기관으로 거슬러 올라가 추적할 수 있으며, 이를 통해 문제를 수정하고 책임을 묻기가 훨씬 쉬워집니다.
• AI를 위한 "가짜 뉴스" 탐지기: AI가 무엇이든 될 수 있는 세상에서, DOI는 정통성의 인장 역할을 합니다. 이는 모델이 진짜인지, 그리고 악의적인 복사본으로 교체되지 않았는지(모델 워싱 방지)를 검증하는 데 도움을 줍니다.
• 로봇을 위한 "안전한 악수": 자율적인 에이전트(AI 봇)들이 서로 통신하는 상황을 상상해 보십시오. 민감한 데이터를 공유하기 전에, 한 봇이 다른 봇에게 "당신이 주장하는 바가 맞는지 증명하라"고 요청하며, 자신들의 DOI에 연결된 공개 키를 사용합니다. 수학적 검증이 통과되면 대화를 나누고, 그렇지 않으면 대화를 중단합니다. 이는 나쁜 의도를 가진 행위자가 신뢰할 수 있는 서비스인 척 위장하는 것을 막아줍니다.

4. 걸림돌 (도전 과제)

저자들은 다음과 같은 장애물에 대해 솔직하게 밝히고 있습니다:

• 비용이 발생합니다: 무료 코드 저장소와 달리, DOI 시스템을 유지하려면 중앙 기관과 비용이 필요하며, 이는 소규모 독립 개발자들에게 어려움이 될 수 있습니다.
• 마법의 방패는 아닙니다: DOI를 가지고 있다고 해서 그 알고리즘이 반드시 좋거나 친절하다는 뜻은 아닙니다. 단지 식별되었다는 뜻일 뿐입니다. 이는 운전면허증과 같습니다. 당신이 면허를 가진 운전자임을 증명하지만, 당신이 난폭 운전을 하지 않을 것이라는 보장은 해주지 않습니다. 위험 요소를 이해하기 위해서는 여전히 "모델 카드"(메타데이터)를 읽어야 합니다.

핵심 요약

이 논문은 우리가 알고리즘을 보이지 않는 마법 같은 블랙박스로 취급하는 것을 멈춰야 한다고 주장합니다. DOI를 부여함으로써, 우리는 그것들을 책임 있는 기관으로 변화시킵니다. 이는 DOI를 단순한 도서관 목록 번호에서 기술을 인간의 책임과 연결하는 보안 배지로 탈바꿈시키며, 문제가 발생했을 때 우리가 정확히 누구에게 가서 "왜 그렇게 했습니까?"라고 물어야 할지 알 수 있게 해줍니다.