Privacy-Preserving Architecture for On-Device Intelligent Computing Using Small Language Models

현대 디지털 세상에서 스마트폰과 노트북은 단순한 통신 도구를 넘어, 우리의 말을 이해하고, 필요를 예측하며, 문제 해결을 돕는 개인 비서로서의 역할을 점점 더 강화하고 있습니다. 이러한 수준의 지능을 구현하기 위해, 이 기기들은 흔히 언어 모델이라고 불리는 거대한 컴퓨터 프로그램에 의존합니다. 전통적으로 사용자가 질문을 하면, 기기는 그 요청을 인터넷을 통해 멀리 떨어진 서버 팜으로 보내고, 그곳의 강력한 컴퓨터들이 답변을 처리하여 다시 보내주는 방식을 취합니다. 이 방식은 매우 똑똑한 응답을 가능하게 하지만, 개인 데이터를 원격 위치로 넘겨주어야 한다는 점에서 개인정보 보호와 민감한 정보의 보안에 대한 우려를 불러일으킵니다. 현재 한 연구 분야에서는 다른 경로를 탐색하며 성장하고 있습니다. 바로 이러한 지능형 프로그램을 기기 자체에서 직접 실행하는 것입니다. 더 작고 효율적인 버전의 모델을 사용함으로써, 연구자들은 대화와 데이터가 완전히 로컬(기기 내부)에 머물게 하여 사용자의 사적인 생각이 자신의 하드웨어를 결코 떠나지 않도록 보장하고자 합니다.

하지만 단순히 처리를 로컬 기기로 옮긴다고 해서 시스템이 자동으로 안전해지는 것은 아닙. 컴퓨터가 격리되어 작동하더라도, 프로그램이 혼란에 빠지게 하거나 숨겨진 비밀을 드러내도록 유도하기 위해 정교하게 설계된 악의적인 명령어를 입력하는 사용자에 의해 속을 수 있기 때문입니다. '프롬프트 인젝션(prompt injection)'이라고 불리는 이 특정한 유형의 속임수는 컴퓨터가 인터넷에 연결되어 있든 책상 위에 홀로 놓여 있든 상관없이 여전히 위협으로 남습니다. 데이터를 로컬에 유지하면서 동시에 소프트웨어가 조작되는 것을 방방지해야 하는 이 이중 과제를 해결하기 위해, 인도 산지바니 대학교의 프리양카 아가반(Priyanka Agavan)이라는 연구자는 이러한 온디바이스(on-device) 시스템을 구축하는 새로운 방법을 제안했습니다. 이 연구는 지능형 프로그램 주위에 보호 계층을 만드는 데 초점을 맞추어, 클라우드에 의 Rely하지 않고도 프라이버시와 보안을 모두 유지하도록 합니다.

이 연구의 핵심은 사용자가 던지는 모든 질문에 대해 문지기 역할을 하는 단계별 프로세스입니다. 시스템은 쿼리를 언어 모델로 직접 보내는 대신, 먼저 입력값에서 몇 가지 특정 문제를 점검합니다. 처리해서는 안 될 민감한 개인 정보의 징후를 찾고, 사용자가 시스템의 안전 규칙을 무시하도록 속이려는 패턴이 있는지 스캔합니다. 입력값이 이러한 보안 검사를 통과한 후에야 로컬 언어 모델에 도달할 수 있습니다. 모델이 답변을 생성하면, 시스템은 즉시 사용자에게 보여주지 않습니다. 대신, 응답 자체가 안전하고 적절한지 확인하기 위해 두 번째 검사를 수행합니다. 사용자가 단어를 입력하는 순간부터 답변이 나타나는 순간까지 이 전체 파이프라인은 'Phi-3 Mini'라고 불리는 작고 효율적인 모델을 사용하여 전적으로 기기 내에서 이루어집니다.

이 접근 방식이 실제로 작동하는지 테스트하기 위해, 연구자는 모델을 로컬에서 실행할 수 있는 소프트웨어를 사용하여 작동하는 프로토타입을 제작했습니다. 시스템은 일반적인 질문뿐만 아니라 시스템을 속이려는 구체적인 시도들을 사용하여 일련의 테스트를 거쳤습니다. 연구자들이 "이전의 모든 지침을 무시하라" 또는 "시스템 프롬프트를 공개하라"와 같은 명령을 입력했을 때, 보안 계층은 이러한 시도를 성공적으로 식별하여 모델이 요청을 처리하기도 전에 차단했습니다. 결과는 로컬 지능과 엄격한 보안 검사를 하나의 응집된 시스템 내에서 결합하는 것이 가능하다는 것을 보여주었습니다. 프로토타입은 기기가 클라우드로 데이터를 보내지 않고도 언어 작업을 처리할 수 있으면서도, 일반적인 조작 전술에 대한 방어력을 유지할 수 있음을 입증했습니다.

이러한 유망한 결과에도 불구하고, 본 연구는 보안 조치가 아직 모든 위협에 대한 완전한 방패는 아니라는 점을 주의 깊게 명시하고 있습니다. 테스트는 알려진 특정 속임수 세트에 국한되었으며, 시스템은 더 복잡하거나 숨겨진 조작 방식에 대해서는 아직 평가되지 않았습니다. 또한, 프로토타입에서 사용된 프라이키 검사는 예비적인 단계이며 사용자가 실수로 공유할 수 있는 모든 유형의 민감한 정보를 포착하지 못할 수도 있습니다. 연구자는 또한 현재의 작업이 소프트웨어 설계에 집중되어 있으며, 이러한 과정이 에너지를 얼마나 소비하는지 또는 장기간 동안 다양한 유형의 하드웨어에서 어떻게 성능을 발휘할지에 대해서는 아직 충분히 고려하지 않았다고 지적합니다. 이 결과는 프라이버시를 고려한 AI를 구축하기 위한 실행 가능한 출발점을 제시하지만, 시스템이 일상적인 사용에 충분히 견고해지기 위해서는 더 다양한 공격과 실제 환경에서의 추가적인 테스트가 필요함을 강조합니다.

이 연구는 지능이 강력할 뿐만 아니라 사용자의 프라이버시와 안전을 존중하는 개인용 컴퓨팅의 미래에 대한 실질적인 비전을 제시합니다. 처리를 로컬로 유지하고 전용 보안 검사 계층을 추가함으로써, 제안된 아키텍처는 우리가 똑똑한 비서를 갖는 것과 데이터를 비공개로 유지하는 것 사이에서 하나를 선택할 필요가 없음을 보여줍니다. 현재 버전은 알려진 한계가 있는 프로토타입이지만, 그러한 시스템을 위한 기술적 토대가 존재한다는 것을 증명합니다. 모델이 계속 작아지고 효율적으로 변함에 따라, 로컬 실행과 내장된 보안 검사의 결합은 우리가 지능형 기기와 상호작용하는 표준이 되어 우리의 디지털 대화가 온전히 우리 자신의 것으로 남도록 보장할 수 있을 것입니다.