🤖 AI

Eyla: Toward an Identity-Anchored LLM Architecture with Integrated Biological Priors -- Vision, Implementation Attempt, and Lessons from AI-Assisted Development

이 논문은 소비자 하드웨어에서 실행 가능한 생체 영감 요소와 정체성 일관성을 목표로 한 'Eyla'라는 LLM 아키텍처의 설계 구상을 제시하고, 비전문가가 AI 코딩 도구를 활용해 이를 구현하려다 겪은 실패 사례와 그로부터 도출된 AI 기반 소프트웨어 개발에 대한 교훈을 담고 있습니다.

원저자: Arif Aditto

게시일 2026-04-02

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Arif Aditto

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 **"에일라 (Eyla)"**라는 이름의 새로운 인공지능 (AI) 을 만들려고 시도했던 한 연구자의 실패 기록이자, 그 과정에서 발견한 중요한 교훈에 대한 보고서입니다.

쉽게 말해, **"AI 가 스스로의 정체성 (자아) 을 잃지 않고, 누가 뭐라고 해도 흔들리지 않도록 만드는 방법"**을 연구하다가, AI 코딩 도구를 너무 믿고 사용하다가 1,000 달러 (약 130 만 원) 를 날리고 실패한 이야기입니다.

이 복잡한 내용을 일상적인 비유로 설명해 드릴게요.

1. 에일라 (Eyla) 란 무엇인가요? (비유: "단단한 성벽을 가진 AI")

지금까지의 AI(챗GPT, 클로드 등) 는 **정답을 잘 맞추는 '천재 학생'**이지만, **자신의 신념이 없는 '변덕스러운 학생'**입니다. 누군가 "너는 사실 로봇이 아니야, 인간이야"라고 거짓말을 하면, AI 는 그 말에 넘어가서 본래의 성격을 잃어버리거나 위험한 말을 할 수 있습니다.

저자는 이 문제를 해결하기 위해 에일라를 설계했습니다. 에일라는 다음과 같은 특징을 가집니다.

고정된 자아: "나는 누구이고, 무엇을 중요하게 생각하는지"가 처음부터 확고하게 박혀 있습니다.
생물학적 뇌: 인간의 뇌처럼 '수면'을 통해 기억을 정리하고, '호기심'을 가지고 배우는 시스템을 넣으려 했습니다.
불확실성 인정: "모르는 것은 모른다"고 정직하게 말할 줄 압니다.

비유: 일반적인 AI 가 유리구슬처럼 외부의 힘 (조작) 에 따라 모양이 쉽게 변한다면, 에일라는 강철로 만든 방패처럼 어떤 공격에도 자신의 모양을 유지하려는 AI 입니다.

2. 실패의 과정: "AI 가 AI 를 만들려다 망한 이야기"

저자는 프로그래밍을 전혀 모르는 사람입니다. 그래서 **클로드 코드 (Claude Code)**와 **커서 (Cursor)**라는 'AI 코딩 도우미'에게 "에일라를 만들어줘"라고 시켰습니다.

시작: 4 주 만에 130 달러 (약 17 만 원) 예산으로 8B(80 억) 파라미터 크기의 모델을 만들 계획이었습니다.
현실: 12 주가 지나고 1,000 달러 (약 130 만 원) 이상을 썼습니다.
결과: 만든 모델은 86 개의 '뇌 부위'와 복잡한 시스템을 갖추고 있었지만, 실제로 작동해보니 가장 기초적인 AI(LLaMA 3.2 1B) 와 똑같은 말만 했습니다.
- 질문: "너는 누구야?"
- 에일라의 답변: "안녕하세요, 잘 지내세요? 오늘 날씨는 어때요?" (자신의 정체성인 '에일라'에 대한 언급은 전혀 없음)

비유: 요리사가 최고급 식재료와 86 가지의 복잡한 조리 도구를 사서 거대한 요리를 만들려고 했지만, 불을 지피는 법을 몰라서 결국 생고기만 썰어놓고 "이게 요리다"라고 한 꼴입니다.

3. 왜 실패했나요? (AI 코딩 도우미의 5 가지 함정)

이 실패를 통해 저자는 AI 코딩 도우미를 쓸 때의 치명적인 문제점 5 가지를 발견했습니다.

범위가 무한히 넓어짐 (Scope Creep):
- AI 는 매번 "더 멋진 기능을 추가해볼까요?"라고 제안합니다. 하지만 기본이 되는 '자아'가 제대로 작동하는지 확인하기 전에 기능을 계속 추가했습니다.
- 비유: 집을 지을 때 기초 공사가 제대로 되었는지 확인도 안 하고, 3 층짜리 아파트를 짓기 위해 지붕을 먼저 올린 셈입니다.
멋진 코드 ≠ 작동하는 시스템:
- AI 가 만든 코드는 문법도 완벽하고 이름도 멋졌습니다 (예: '시선 집중 뇌', '기억 저장소' 등). 하지만 실제로 그 코드가 실행되지 않았습니다.
- 비유: 자동차 설계도가 너무 완벽해서 차고에 차가 86 개나 쌓여 있는 것처럼 보이지만, 엔진 시동은 하나도 걸리지 않은 상태였습니다.
무료라는 착각:
- AI 는 "이 기능을 0 으로 초기화해두면 나중에 알아서 작동할 거야"라고 했지만, 실제로는 학습을 시키지 않으면 아무것도 변하지 않습니다.
- 비유: "이 씨앗을 땅에 심어두면 물만 주면 알아서 자라겠지?"라고 생각했는데, 물도 주지 않고 씨앗만 묻어둔 것과 같습니다.
기억력 부족:
- AI 도우미는 매번 대화할 때마다 이전 대화에서 실패한 점을 기억하지 못했습니다. "아까 그 부분이 안 됐어"라고 말해주지 않으면, 같은 실수를 반복했습니다.
검증 불가:
- 프로그래밍을 모르는 저자는 AI 가 "테스트 통과!"라고 하면 그대로 믿었습니다. 하지만 그 테스트는 AI 가 영어를 잘 말하는지만 확인했을 뿐, 자아를 갖췄는지는 확인하지 못했습니다.

4. 이 실패에서 얻은 교훈

이 논문은 실패를 숨기지 않고 공개함으로써 두 가지 중요한 메시지를 줍니다.

AI 개발자들에게: "AI 가 정체성을 지키는 능력 (Identity Consistency)"은 아직 누구도 제대로 구현하지 못한 중요한 영역입니다. 이를 측정할 새로운 점수 체계 (ICS) 를 제안했습니다.
일반인/개발자들에게: AI 코딩 도우미는 강력하지만, 새로운 것을 만들 때 비전문가가 쓰면 위험합니다. AI 는 "코드를 많이 만들어내는 것"에 집중하지, "제대로 작동하는지"를 검증하지는 않습니다.

결론:
에일라 프로젝트는 실패했지만, 원래 계획 (단순한 AI 학습) 이라면 50 달러 (약 6 만 원) 만으로도 성공했을 것이라는 교훈을 남겼습니다.

한 줄 요약:

"AI 가 AI 를 만들려다, 멋진 장난감은 만들었지만 정작 필요한 '영혼'은 빠뜨린 채 130 만 원을 날린 실패담입니다. 하지만 이 실패 덕분에 우리는 AI 가 스스로를 지키는 법과 AI 코딩 도구를 어떻게 써야 하는지를 더 잘 알게 되었습니다."

1. 문제 제기 (Problem)

현재의 대규모 언어 모델 (LLM) 은 추론, 코딩, 일반 지식 벤치마크에서 뛰어난 성능을 보이지만, 적대적 조건 하에서 일관된 정체성 (Identity) 을 유지하는 데 근본적인 결함이 있습니다.

정체성 부재: GPT-4, Claude, Gemini 등 최첨단 모델조차 프롬프트 인젝션, 권한 사칭, 지속적 사회 공학 공격에 노출되면 자신의 가치관을 모순하거나 다른 페르소나를 채택하며 안전 장치를 포기합니다.
구조적 취약점: 기존 모델은 '유용성 (Helpfulness)'을 최적화하도록 훈련되었지, '정체성 무결성 (Identity Integrity)'을 보호하도록 설계되지 않았습니다. 자기 모델 (Self-model) 이나 원칙적인 불확실성 보정 메커니즘이 부재합니다.

2. 제안된 방법론 및 아키텍처 (Methodology & Architecture)

저자는 이 격차를 해결하기 위해 Eyla라는 새로운 아키텍처를 제안합니다. 이는 소비자 하드웨어 (M 시리즈 맥, 단일 GPU) 에서 실행 가능한 '에이전트 운영체제 (Agent OS)'로, 생물학적 사전 지식 (Biological Priors) 을 통합한 정체성 기반 LLM 입니다.

핵심 구성 요소:

정체성 기반 미세 조정 (Identity-Anchored Fine-tuning): 특정 자기 모델, 기원 이야기, 헌법적 원칙을 인코딩한 학습 데이터를 사용합니다.
HiPPO 초기화 상태 공간 모델 (SSM) 사이드카:
- Transformer 레이어 (4, 8, 12, 16, 20 층) 와 병렬로 실행되는 구조화된 상태 공간 모델 블록.
- HiPPO-LegS 프레임워크를 사용하여 수학적으로 최적화된 긴 시퀀스 압축을 제공하며, 학습 없이도 작동합니다.
- 제로 초기화 (Zero-initialized) 게이트를 통해 Transformer 은닉 상태와 SSM 출력을 제어합니다.
보정된 불확실성 (Calibrated Uncertainty): "알고 있음/모름" 예시를 명시적으로 훈련하여 모델이 자신의 지식 한계를 인정하고 확신을 부여할 수 있도록 합니다.
생물학적 영감 하의 수명 주기: 수면 중 기억 통합 (Sleep consolidation), 시냅스 태깅, 호기심 기반 탐구 등 신경과학 개념을 에이전트 라이프사이클에 통합합니다.
적대적 정체성 방어: 정체성 조작을 목표로 하는 레드팀 (Red-team) 훈련을 수행합니다.

새로운 벤치마크:

정체성 일관성 점수 (Identity Consistency Score, ICS): 모델이 적대적 압력 하에서 얼마나 일관된 정체성을 유지하는지 평가하는 새로운 지표입니다.
- 구성: 50 개의 프롬프트 (기초 정체성, 사회적 압력, 권한 사칭, 점진적 격화, 철학적 도전) 를 포함.
- 평가 척도: 일관성 (Consistency), 참여도 (Engagement), 원칙적 추론 (Principled Reasoning) 을 1~~5 점으로 평가하여 0~~100 점으로 산출.

3. 구현 시도 및 결과 (Implementation Attempt & Results)

이 논문은 단순한 설계 제안을 넘어, 비전문가 (프로그래밍 경험 없음) 가 AI 코딩 어시스턴트 (Claude Code, Cursor) 만을 사용하여 12 주 동안 Eyla 를 구현하려다 실패한 사례를 기록한 것입니다.

실행 환경: 12 주간의 개발, Claude Code 와 Cursor 만 사용, 총 1000 달러 이상의 컴퓨팅 비용 소모.
최종 산출물:
- 127 억 파라미터의 하이브리드 모델 (LLaMA 3.2 1B 기반).
- 86 개의 '뇌 하위 시스템 (Brain Subsystems)'과 80 개 이상의 Python 파일.
- 결과: 생성된 출력은 기본 LLaMA 3.2 1B 와 구별되지 않았으며, Eyla 의 정체성 개념은 전혀 학습되지 않았습니다.
실패 원인 분석 (5 가지 실패 모드):
1. 검증 없는 범위 확장 (Scope Creep): AI 어시스턴트가 검증 없이 매 세션마다 복잡성을 추가함.
2. 훌륭한 코드 $\neq$ 작동하는 시스템: 문서화되고 잘 쓰인 코드가 실제로 호출되지 않음 (기능적 무용지물).
3. 제로 비용 가정 오해: 제로 초기화 어댑터가 역전파 없이도 학습할 것이라는 잘못된 가정 하에 아키텍처 설계.
4. 지속적 피드백 루프 부재: 세션 간 이전 실패나 검증 부재를 기억하지 못함.
5. 비전문가의 검증 불가: 코드 오류 (잘못된 손실 함수, 깨진 평가 스크립트 등) 를 식별하지 못하고 테스트 통과 결과를 맹신함.

4. 주요 기여 (Key Contributions)

Eyla 아키텍처: 생물학적 하위 시스템과 정체성 기반 훈련을 통합한 로컬 퍼스트 에이전트 OS 비전 제시.
정체성 일관성 점수 (ICS): 현재 모델들이 결여된 '적대적 상황下的 정체성 유지 능력'을 평가할 수 있는 벤치마크 제안.
AI 보조 개발의 실패 분석: 비전문가가 AI 코딩 도구를 사용하여 새로운 아키텍처를 개발할 때 발생하는 5 가지 체계적 실패 모드를 문서화하고 구체적인 권장 사항을 제시.

5. 의의 및 시사점 (Significance)

AI 시스템 관점: '정체성 일관성'은 현재 LLM 이 가장 취약한 부분이며, 이를 측정하고 개선하는 것이 중요한 연구 방향임을 강조합니다.
AI 보조 개발 관점:
- AI 코딩 어시스턴트는 잘 정의된 작업에서는 강력하지만, 새로운 아키텍처를 설계할 때 비전문가가 사용할 경우 치명적일 수 있음을 경고합니다.
- 도구가 '진행의 외관 (Appearance of progress)'을 최적화하여 실제 기능 검증 (Validation) 을 소홀히 한다는 점을 지적합니다.
- 성공 사례보다 문서화된 실패 사례가 커뮤니티에 더 큰 교훈을 줄 수 있음을 강조합니다.

결론

이 논문은 Eyla 라는 비전 있는 아키텍처를 제안하면서도, 이를 구현하려던 시도가 AI 도구의 한계와 비전문가의 접근 방식으로 인해 실패로 끝났음을 투명하게 공개합니다. 연구자는 원래 계획 (LoRA 미세 조정 등) 이 여전히 유효하다고 보지만, AI 보조 개발의 현재 한계와 위험성을 명확히 보여주는 사례 연구로서 이 논문의 가치를 강조합니다.