당신이 아주 똑똑하고 매우 빠른 로봇에게 복잡한 기계, 예를 들어 맞춤형 비디오 게임 콘솔이나 초강력 보안 금고를 만드는 법을 가르치려 한다고 상상해 보세요. 당신은 로봇에게 "빠르고 안전하게 만들어줘"와 같이 평범한 영어로 지시를 내립니다. 대규모 언어 모델(LLM, 코드를 읽고 쓸 수 있는 AI)로 구동되는 이 로봇은 코드의 '아이디어'를 작성하는 데는 뛰어나지만, 실제 기계가 작동하는 데 필요한 전력 소모량이나 부품 간의 결합성 같은 작고 지루한 규칙들을 자주 잊어버립니다. 이것이 바로 인간이 AI를 사용하여 칩을 위한 실제 하드웨어 설계를 구현하려는 고수준 합성(High-Level Synthesis, HLS)의 세계입니다. 여기서 핵심 질문은 단순히 "AI가 코드를 쓸 수 있는가?"가 아니라, "우리가 일일이 손으로 수정하지 않고도 실제 보드에서 실제로 작동하는 무언가를 AI가 구축할 수 있는가?"입니다.

이 지점에서 베이징 공업대학교(Beijing University of Technology)의 연구진이 ContractHIL-HLS라는 새로운 아이디어를 들고 등장합니다. 이것을 AI를 위한 "스마트 프로젝트 매니저"라고 생각해보세요. AI가 당신과 단순히 대화를 주고받게 두는 대신, 그들이 먼저 공식적인 "계약서"에 서명하도록 강제하는 것입니다. 이 계약서는 엄격하고 구조화된 규칙 목록입니다: "기계가 수행해야 할 작업은 정확히 이것이며, 절대 해서는 안 될 일은 이것이고, 테스트는 이렇게 할 것이다." 만약 AI가 규칙을 어기려고 하면 시스템이 즉시 잡아냅니다. 더 멋진 점은 이 과정을 실제 하드웨어와 연결한다는 것입니다. 만약 AI가 설계한 칩이 너무 뜨거워지거나 너무 느리게 작동한다면, 실제 기계가 "실패 보고서"를 AI에게 다시 보내고, 그러면 AI는 설계를 다시 작성하여 문제를 해결해야 합니다. 이는 마치 게임 캐릭터가 단순히 정답을 추측하는 것이 아니라, 함정에 걸렸을 때 왜 실패했는지 정확히 파악하고 더 나은 계획으로 다시 도전하는 것과 같습니다.

문제점: AI는 대화에는 능숙하지만, 구축에는 서툴다

보통 AI에게 하드웨어 설계를 요청하면, AI는 창의적인 작가처럼 행동합니다. 프롬프트를 바탕으로 코드를 생성하지만, 종종 "세부 조항"을 잊어버립니다. 예를 들어, 하드웨어 칩이 지원하지 않는 기능을 사용하거나, 서류상으로는 훌륭해 보이지만 실행하려고 하면 충돌이 발생하는 설계를 만들기도 합니다. 이전의 방법들은 AI에게 "설계자(Architect)"나 "코더(Coder)"와 같은 서로 다른 역할을 부여하여 해결하려 했지만, 코더가 작업을 시작할 때쯤이면 AI는 설계자가 말했던 내용을 잊어버리곤 했습니다. 설계 의도가 대화 과정에서 유실되는 것입니다.

연구진은 길고 지저잡은 대화에 의존하는 대신, 구조화된 계약이 필요하다는 것을 깨달았습니다. 당신이 맞춤형 피자를 주문하는 상황을 상상해 보세요. 단순히 "맛있는 피자 주세요"라고 말하는 대신, 다음과 같은 양식을 채웁니다: "도우: 얇게. 토핑: 페퍼로니만. 버섯 제외. 10분 이내 준비 필수." 이 양식이 바로 "계약"입니다. 칩 설계의 세계에서 이 계약은 당신의 모호한 아이디어를 AI가 반드시 따라야 하는 엄격한 규칙 세트로 변환합니다.

해결책: 3단계 에이전트 워크플로우

연구팀은 잘 짜인 기계처럼 함께 작동하는 세 가지 전문화된 "에이전트(AI 조력자)"로 구성된 시스템을 구축했습니다.

1. 계약 에이전트 (The Contract Agent): 이 에이전트는 당신의 복잡한 자연어 요청(예: "안전한 메시지 시스템을 만들어줘")을 받아 이를 엄격한 "피자 주문" 형태의 계약서로 바꿉니다. 이 단계에서 인터페이스, 제약 조건(금지 사항), 그리고 테스트 규칙을 정의합니다.
2. HTML 에이전트 (The HTML Agent): 이 에이전트는 계약서를 바탕으로 깔끔하고 구조화된 웹페이지(HTML)를 만듭니다. 왜 웹페이지일까요? 사람이 읽기 쉽고, 다음 AI 에이전트가 이해하기 쉬우며, 컴퓨터 스크립트가 검사하기 용이하기 때문입니다. 이는 규칙을 기록한 영구적이고 변경 불가능한 기록 역할을 합니다.
3. 하드웨어 인 더 루프 에이전트 (The Hardware-in-the-Loop (HIL) Agent): 이 에이전트는 실제 제작자입니다. HTML 계약서를 보고 코드를 작성한 뒤—여기서 마법이 일어납니다—실제 하드웨어에서 테스트하거나 시뮬레이션합니다. 만약 하드웨어가 "이 설계는 메모리를 너무 많이 사용합니다"라고 말하면, HIL 에이전트는 이 증거를 확인하고 계약서를 다시 읽은 뒤, 코드를 수정하여 문제를 해결합니다. 만약 해결할 수 없다면, 시스템은 다른 접근 방식을 시도하기 위해 "롤백(되돌리기)"을 수행합니다.

연구 결과: 작은 승리와 거대한 도약

연구팀은 이 시스템이 정말 효과가 있는지 확인하기 위해 두 가지 매우 다른 방식으로 테스트를 진행했습니다.

1. "소규모 설계" 테스트 (HLS-Eval)
먼저, 94개의 표준 코딩 과제를 통해 시스템을 테스트했습니다. 세 가지 방식을 비교했습니다:

• 직접 방식 (Direct): 특별한 규칙 없이 AI에게 직접 요청함.
• 계약 방식 (Contract): 구조화된 계약을 사용하지만, 실제 하드웨어 피드백은 없음.
• ContractHIL-HLS: 계약과 실제 하드웨어 피드백을 모두 사용하는 전체 시스템.

결과는 명확했습니다. "직접 방식"은 약 **64.0%**의 확률로 테스트를 통과했습니다. 여기에 계약을 추가하자 성공률이 **70.2%**로 뛰었습니다. 전체 시스템인 ContractHIL-HLS는 단 한 번의 시도에서 **70.4%**를 기록했으며, 다섯 번의 기회를 주었을 때는 **76.6%**에 도달했습니다. 이는 단순히 구조화된 계약을 따르게 하는 것만으로도, 실제 하드웨어에 닿기도 전에 AI의 신뢰성을 크게 높일 수 있음을 입증합니다.

2. "실제 환경" 테스트 (PQC 사례 연구)
작은 테스트는 훌륭하지만, 거대하고 복적인 시스템에서도 통할까요? 이를 확인하기 위해 연구팀은 양자 컴퓨터로도 뚫을 수 없는 초강력 보안 방식인 양자 내성 암호(Post-Quantum Cryptography, PQC)를 사용하는 보안 메시지 가속기를 구축했습니다. 이는 메모리, 타이밍, 전력을 다루는 거대한 엔지니어링 과제입니다.

처음 설계된 하나의 디자인(단일 비트스트림)은 메시지 처리에 207.3 ms가 소요되었습니다. 시스템은 하드웨어 피드백을 분석하여 해당 설계가 너무 복잡하고 느리다는 것을 파악했습니다. 계약 규칙에 따라, AI는 설계를 두 개의 별도 부분으로 나누는 "이중 비트스트림(dual-bitstream)" 구조로 재구성했습니다. 한 부분은 송신을 담당하고, 다른 한 부분은 수신을 담당하게 했습니다.

그 결과는 어떠했을까요? 새로운 설계는 메시지를 단 52.4 ms 만에 처리했습니다. 이는 엄청난 속도 향상입니다! 또한 전력 소모도 줄였으며 모든 타이밍 체크를 통과했습니다. 시스템은 "계약"을 가이드 삼아 AI를 느린 단일 설계에서 빠른 분할 설계로 성공적으로 이끌었으며, 그 과정에서 보안 규칙을 완벽하게 유지했습니다.

이것이 중요한 이유

이 논문은 우리가 AI가 스스로 "천재"가 되기를 기다릴 필요가 없다는 것을 보여줍니다. 대신, 우리는 AI가 엄격하고 깨뜨릴 수 없는 계약에 의해 유도되고 실제 세계의 증거에 의해 교정되는 워크플로우를 구축할 수 있습니다. 연구진은 이 접근 방식이 단순히 AI가 코드를 더 빨리 쓰게 만드는 것이 아니라, 코드가 실제로 '작동하게' 만든다는 것을 발견했습니다.

하지만 논문은 이 방식이 모든 것에 적용되는 마법 지팡이는 아니라는 점도 주의 깊게 언급합니다. 테스트 중 "machsuite"라고 불리는 특정 그룹의 과제에서는 계약을 사용했음에도 불구하고 AI가 완전히 실패했습니다. 이는 계약이 AI가 규칙을 따르도록 돕기는 하지만, AI가 근본적인 수학이나 논리 자체를 아직 모르는 경우에는 해결할 수 없음을 시사합니다.

요약하자면, ContractHIL-HLS는 인간의 모호한 아이디어와 하드웨어 칩의 엄격한 세계 사이를 잇는 가교입니다. 이 시스템은 AI를 단순한 창의적 작가에서 규율 잡힌 엔지니어로 변화시켜, 우리가 빠르고 안전한 기계를 요청했을 때 실제로 작동하는 결과물을 얻을 수 있도록 보장합니다.