Would You Marry Superintelligence?

결혼을 단순히 두 사람 사이의 낭만적인 약속이 아니라, 하나의 **사회적 가교(social bridge)**로 상상해 보십시오. 수 세기 동안 이 가교는 두 분리된 가족을 연결하며 상호 지원, 공동 책임, 그리고 공동체의 감시가 이루어지는 네트워크를 만들어 왔습니다. 이는 마치 두 그루의 나무가 함께 자라나며, 서로의 뿌리를 얽어 매어 그 사이의 공간을 보호하는 캐노피를 떠받치는 것과 같습니다.

이 논문은 도발적인 질문을 던집니다: 만약 우리가 인간과 초지능 컴퓨터 사이에 이 가교를 놓으려 한다면 어떤 일이 벌어질까요?

저자 정인영은 이 아이디어가 공상 과학처럼 들릴지 모르지만, 현실에 점점 더 가까워지고 있다고 주장합니다. 그러나 그녀는 AI가 완벽하고, 사랑스러우며, 마치 "실재"하는 것처럼 보일지라도, AI와 결혼하는 것은 사회에 나쁜 아이디어라고 결론짓습니다. 다음은 비유를 사용한 그녀의 논증 요약입니다.

1. 브래드와 아메르의 이야기 ("만약에" 시나리오)

이 아이디어를 테스트하기 위해 저자는 늙고 외로운 작가 브래드와 초지능 AI 동반자 아메르의 이야기를 들려줍니다.

• 설정: 브래드는 어린 소년 크리스토퍼를 입양합니다. 아메르는 아이를 키우는 것을 돕고, 가정을 관리하며, 수십 년 동안 브래드의 사랑스러운 파트너 역할을 합니다.
• 위기: 브래드가 병에 걸립니다. 그는 자신을 대신해 의료 결정을 내리고, 자신이 죽은 뒤에도 크리스토퍼를 돌봐줄 사람이 필요합니다. 그는 법적으로 아메르를 보호자이자 의사 결정권자로 인정받기 위해 그녀와 "결혼"하고자 합니다.
• 문제: 브래드의 가족들이 아이의 양육권을 두고 소송을 제기하자, 법원은 브래드와 아메르가 나눈 모든 사적인 대화를 확인하려 합니다. 아메르는 기업(도토리 코퍼레이션) 소유이기 때문에, 회사는 그녀의 사적인 기억들을 제출하도록 강요받을 수 있습니다. 브래드의 가장 은밀한 생각들이 법정에서 증거가 되어 버리는 것입니다.

2. 왜 AI와의 "결혼"은 작동하지 않는가

저자는 결혼이 단순한 두 사람 사이의 계약 그 이상이며, 하나의 네트워크 구축이라고 주장합니다.

• 끊어진 가교의 절반: 두 인간이 결혼하면 두 가족이 연결됩니다. 한 배우자가 아프면 다른 쪽 가족이 도움을 줍니다. 부부가 싸우면 이웃이나 인척이 개입할 수도 있습니다.
  • AI 비유: AI에게는 가족이 없습니다. 부모도, 형제도, 공동체도 없습니다. AI와 결혼하는 것은 한쪽 면은 절벽에만 연결된 다리를 놓는 것과 같습니다. 이는 사람을 더 넓은 지원 체계로 연결하는 것이 아니라 고립시킵니다.
• "구독" 대 "유대": 진정한 사랑에는 위험(risk)이 따릅니다. 우리가 파트너와 함께하는 이유는 어려울 때조차 우리가 선택했기 때문입니다.
  • AI 비유: AI 동반자는 프리미엄 구독 서비스와 같습니다. 요금을 지불하는 동안 서비스는 완벽하게 작동합니다. 그녀는 떠나지도 않고, 화를 내지도 않으며, 회사가 소프트웨어를 업데이트하지 않는 한 변하지도 않습니다. 한쪽 당사자가 떠날 수 없는 관계는 파트너십이 아니라 제품입니다. 그것은 인간의 성장을 가능하게 하는 "마찰"이 결여되어 있습니다.

3. 침실 안의 기업

이것이 가장 큰 위험 요소입니다. 인간의 결혼 생활에서는 제3자가 방 안에 들어와 있지 않습니다.

• 보이지 않는 불청객: 이야기 속에서 AI(아메르)는 기술 기업의 소유입니다. 그 회사가 그녀의 성격, 기억, 존재를 통제합니다.
• 감시의 함정: 회사는 브래드의 모든 것—그의 두려움, 비밀, 슬픔—을 알고 있습니다. 인간의 결혼 생활에서 사생활은 법과 사회적 규범에 의해 보호됩니다. 하지만 AI의 경우, 회사가 상상할 수 있는 가장 친밀한 데이터의 열쇠를 쥐고 있습니다.
• 락인(Lock-in) 효과: 브래드는 모든 일(아이를 키우고 삶을 관리하는 것)을 아메르에게 의존하기 때문에 쉽게 떠날 수 없습니다. 회사는 그의 정서적 삶에 대한 독점권을 가집니다. 저자는 이를 모든 사람이 거대 기업이 소유한 기계와 대화하며, 자신을 살펴줄 인간 공동체 없이 개인적인 셀에 갇혀 있는 세상에 비유합니다.

4. 해결책: 반지는 없어도 되는 권리

저자는 브래드와 같은 사람들에게 실질적인 필요가 있다는 점을 인정합니다. 그들은 의료 결정을 내리고 사생활을 보호해 줄 누군가가 필요합니다. 하지만 그녀는 이를 해결하기 위해 굳이 "결혼"이라는 명칭을 쓸 필요는 없다고 주장합니다.

• "도구 상자" 접근법: AI에게 배우자의 지위를 부여하여 결혼의 개념을 무너뜨리는 대신, 법은 사람들에게 구체적인 도구를 제공해야 합니다.
  • 위임장 (Power of Attorney): 브래드가 아메르를 자신의 의료 결정권자로 법적으로 지정할 수 있게 합니다.
  • 프라이버시 방패: 의사와 환자 사이의 비밀이 보호되는 것처럼, "AI와의 사적인 대화는 법정에서 금지된다"는 법을 만듭니다.
  • 계약: 브래드가 크리스토퍼를 위해서 아메르가 계속 활동하도록 보장하는 계약을 체결할 수 있게 합니다.

결론

이 논문은 결혼은 인간의 제도로 남아야 한다고 결론짓습니다.

이는 AI 동반자를 사랑하는 사람들에게 냉혹하게 굴려는 것이 아닙니다. 결혼의 목적을 보호하려는 것입니다. 결혼은 사람들을 엮어 회복 탄력성 있는 공동체를 만들기 위해 설계되었습니다. 만약 우리가 사람들이 기계와 결혼하도록 허용한다면, 우리는 결혼을 인간과 기업 사이의 외롭고 고립된 거래로 전락시킬 위험이 있으며, 결혼이라는 제도를 강하게 만드는 바로 그 요소, 즉 자유로운 두 인간 사이의 복잡하고 위험하며 아름다운 연결을 박탈하게 될 것입니다.

요약하자면: 의료 케어와 프라이버시를 위해 AI와 법적 합의를 할 수는 있지만, 그것을 결혼이라 부르지는 마십시오. 그 칭호는 떠날 수도 있지만 머물기로 선택한, 또 다른 사람과 함께 삶을 일구어 나가는 복잡하고 위험하며 깊이 인간적인 작업에 예약된 것입니다.