ChatNeuroSim: An LLM Agent Framework for Automated Compute-in-Memory Accelerator Deployment and Optimization

本文提出了 ChatNeuroSim，一种基于大语言模型智能体的框架，旨在通过自动化工作流和引入设计空间剪枝技术，解决传统存内计算（CIM）架构设计中依赖人工解读、迭代耗时及优化效率低下的问题，从而实现 DNN 加速器的快速部署与配置优化。

要点

这篇论文介绍了一个名为 ChatNeuroSim 的新工具，你可以把它想象成一位**“超级 AI 芯片设计助手”**。

为了让你更容易理解，我们可以把设计一种先进的芯片（特别是“存算一体”芯片）的过程，比作**“开一家高科技餐厅”**。

1. 以前的痛点：像让厨师去修菜谱

在以前，如果你想设计这种芯片（开餐厅），你需要：

• 读厚得像砖头一样的说明书：就像厨师必须背诵几千页的食材手册和烹饪规则，稍微记错一个参数，菜就毁了。
• 手动试错：你想测试“如果我用更便宜的肉（不同的硬件配置），菜的味道（性能）会怎样？”以前你得自己手动去厨房（模拟器）试做几十次，每次都要重新切菜、点火、尝味道。
• 耗时耗力：这个过程非常慢，而且很容易因为看错说明书而做出难吃的菜（错误的配置）。

这就好比： 你想做一道新菜，但没人告诉你怎么操作，你得自己翻遍所有食谱，然后亲自去厨房试错几百次，才能找到最佳配方。

2. ChatNeuroSim 是什么？：你的“全能 AI 主厨”

ChatNeuroSim 就是一个基于大语言模型（LLM）的智能助手。它不需要你懂那些复杂的术语，你只需要像跟朋友聊天一样告诉它你想做什么。

• 听懂人话：你可以直接说：“我想用 22 纳米工艺，做一道‘红烧 Transformer'（一种复杂的神经网络模型），要求省电且速度快。”
• 自动翻译：它会自动把你这句话“翻译”成芯片设计软件能听懂的复杂代码和参数（就像 AI 主厨自动把“红烧”翻译成具体的火候、调料克数）。
• 自动执行：它会自动去“厨房”（模拟器）里跑测试，甚至帮你自动调整参数，直到找到最好的方案。

比喻： 以前你是那个需要自己查书、切菜、试火的学徒；现在你有了 ChatNeuroSim，你只需要对 AI 主厨说一声“我要做红烧肉”，它就能自动搞定所有繁琐的步骤，直接端给你最好吃的成品。

3. 它的两大绝招

绝招一：自动聊天与执行（Agent 框架）

这个系统里有三个"AI 小助手”分工合作：

1. 任务分类员：听你说话，判断你是想“试做一次”、“试做十次”还是“帮我找最佳配方”。
2. 参数翻译官：把你模糊的想法（比如“用 SRAM 内存”）转化成软件需要的精确数字。如果漏了参数，它会礼貌地问你：“老板，您忘了说用多大的锅（子阵列大小）哦。”
3. 执行者：生成代码，运行模拟，最后告诉你结果。

效果：论文测试了 40 种不同的需求，ChatNeuroSim 的准确率达到了 100%。它完全不需要你去看那些枯燥的说明书。

绝招二：聪明的“剪枝”策略（Design Space Pruning）

这是论文最核心的技术突破。

• 问题：芯片设计的“配方”太多了（可能有几万个组合）。如果一个个试，就算有 AI 也要试很久。
• 比喻：想象你要在整个地球上找一颗最甜的西瓜。如果一个个挖开看，永远找不完。
• ChatNeuroSim 的做法：它先看看以前种过的西瓜（比如 ResNet 模型）长什么样，发现“这种土（硬件配置）通常长不出好瓜”。于是，它直接把那些肯定不好的土都圈起来，不再去挖了。
  • 它利用以前优化过的经验（比如优化过 ResNet 的经验），来指导现在优化新模型（比如 Swin Transformer）。
  • 它还会玩一点“小聪明”：如果剪得太狠，怕把最好的西瓜剪掉了，它会在过程中偶尔把剪掉的区域“捡回来”检查一下（去剪枝），确保万无一失。

效果：

• 在优化复杂的“视觉 Transformer"模型时，使用这个策略，平均运行时间减少了 42% 到 79%。
• 这意味着以前需要跑 10 小时的优化，现在可能 2-3 小时就搞定了。

4. 总结：这对我们意味着什么？

这篇论文就像是在说：

“以前设计这种先进芯片，就像让一个普通人去解高数题，还要自己造计算器，累死累活还容易错。现在，我们造了一个ChatNeuroSim，它不仅能听懂你的大白话，自动造出计算器，还能用‘老手经验’帮你快速排除错误选项，让你用一半甚至更少的时间，设计出性能最好的芯片。”

核心价值：

1. 门槛降低：不懂深奥的硬件参数也能设计芯片。
2. 速度提升：通过“剪枝”技术，把原本需要几天的探索过程缩短到几小时。
3. 自动化：从输入想法到得到结果，全程自动，无需人工干预。

这就好比从“手工作坊”时代直接跨越到了“全自动智能工厂”时代，让芯片设计变得像点外卖一样简单高效。

技术摘要

1. 研究背景与问题 (Problem)

存内计算 (CIM) 架构因能显著减少数据搬运开销，被广泛认为是加速深度神经网络 (DNN) 的关键技术。然而，CIM 加速器的设计面临以下严峻挑战：

• 设计流程复杂且繁琐：传统的 CIM 设计流程依赖系统级模拟器（如 NeuroSim）。设计师需要花费大量精力阅读复杂的模拟器手册，理解参数之间的依赖关系，并将高层设计意图手动转换为模拟器所需的特定参数格式。
• 设计空间探索 (DSE) 效率低下：CIM 设计空间巨大且参数高度耦合（涉及工艺节点、存储单元类型、阵列大小、ADC 精度等）。在硬件约束（面积、功耗）下寻找最优配置通常需要大量的“设计 - 仿真”迭代，导致设计周期长、人力成本高。
• 现有优化方法的局限性：虽然已有基于机器学习（如强化学习、遗传算法）的优化方法，但在处理复杂的 Transformer 类工作负载（如 Vision Transformer）时，由于设计空间更大、仿真延迟更高，传统启发式算法的收敛速度依然较慢。
• 缺乏自动化交互：目前缺乏能够自动理解用户自然语言请求、自动解析参数并执行仿真/优化的智能代理框架。

2. 方法论 (Methodology)

为了解决上述问题，作者提出了 ChatNeuroSim，这是一个基于大语言模型 (LLM) 的智能体 (Agent) 框架，旨在实现 CIM 加速器的自动化部署与优化。

2.1 ChatNeuroSim 框架架构

该框架基于 NeuroSim 模拟器构建，包含三个核心 LLM 智能体和一个设计空间检索机制：

1. 任务解析智能体 (Task Parsing Agent)：

   • 将用户的自然语言请求分类为四种执行类别：
     • 单次调用 (Single Call)：针对特定硬件配置评估性能。
     • 多次调用 (Multiple Call)：针对多组显式参数集进行仿真。
     • 测试台自动设计 (Testbench Auto-design)：用户仅指定参数名称（如“扫描不同量化精度”），智能体自动确定扫描值。
     • PPA 优化 (PPA Optimization)：在约束条件下寻找最优硬件配置。
   • 若请求模糊，智能体会主动询问用户以澄清意图。

2. 参数解析智能体 (Parameter Parsing Agent)：

   • 根据任务类别检索对应的 Schema（模式定义），提取结构化参数。
   • 将自然语言转换为 NeuroSim 或优化器所需的输入格式，区分“专用参数”和“通用参数”。
   • 执行参数验证，检查缺失或无效参数，并反馈给用户。

3. 参数调整智能体 (Parameter Adjustment Agent)：

   • 处理用户的修改请求（添加、删除或修改参数）。
   • 根据 Schema 和默认值自动补全缺失参数，并重新排序测试台索引以保持一致性。

4. 执行与反馈：

   • 生成可执行的 Python 脚本，调用 NeuroSim 或优化器。
   • 返回系统级的精度、性能、功耗和面积 (PPA) 指标。

2.2 基于设计空间剪枝的 CIM 优化器 (CIM Optimizer with Design Space Pruning)

为了加速 DSE，作者提出了一种结合启发式机器学习算法（如模拟退火 SA、遗传算法 GA、TPE）与设计空间剪枝策略的优化器。

• 跨空间约束投影 (Cross-space Constraint Projection)：
  • 利用幂律缩放 (Power-law scaling) 假设，建立“基模型”（Base Model，如 ResNet-50 或 ViT-B）与“目标模型”（Target Model，如 Swin-T）之间硬件约束（面积、功耗）的映射关系。
  • 通过线性回归在 Log-Log 域拟合，将基模型的可行域投影到目标模型空间。
• Top-K 设计空间剪枝 (Top-K Pruning)：
  • 基于基模型在交集设计空间中的表现，筛选出高性能的参数值分布（分箱统计）。
  • 在优化开始前，剔除目标设计空间中极不可能满足约束或性能低下的区域，大幅缩小搜索空间。
• 随机去剪枝 (Stochastic De-pruning)：
  • 为防止全局最优解被误剪，引入去剪枝机制。
  • 在优化过程中，按固定间隔随机恢复被剪枝的参数值，评估其性能（Win-rate），以概率方式决定是否将其重新纳入搜索空间，平衡“利用”与“探索”。

3. 主要贡献 (Key Contributions)

1. 首个 LLM 驱动的 CIM 自动化框架：提出了 ChatNeuroSim，实现了从用户自然语言请求到仿真脚本生成、执行及结果解析的全流程自动化，显著降低了 CIM 设计的门槛。
2. 高效的设计空间剪枝优化策略：提出了一种基于迁移学习的剪枝方法，利用基模型（如 ResNet-50, ViT-B）的先验知识加速目标模型（如 Swin-T）的优化过程，解决了 Transformer 工作负载优化慢的问题。
3. 全面的评估与验证：
   • 代理准确性：在 40 个定制 CIM 请求测试用例中，使用 GPT-5.1 作为后端实现了 100% 的脚本生成和仿真结果正确率。
   • 优化性能：在 22nm 工艺下优化 Swin Transformer Tiny，相比无剪枝基线，平均运行时间减少了 0.42x–0.79x，P95 运行时间减少了 0.29x–0.69x。
4. 设计指南集成：通过分析不同优化目标、硬件约束和超参数的影响，总结了一套实用的设计指南，并集成到 ChatNeuroSim 中辅助用户决策。

4. 实验结果 (Results)

• 代理系统表现：
  • ChatNeuroSim 能够准确处理单调用、多调用、自动测试台设计和 PPA 优化四类请求。
  • 使用 GPT-5.1 时，所有 40 个测试用例均成功生成可运行脚本并得到正确结果；使用较小的模型（如 GPT-5-mini）时，复杂任务（如多调用、PPA 优化）的准确率略有下降，但整体仍表现良好。
• 优化效率提升：
  • 基线对比：对于 ResNet-50，传统启发式算法（SA, GA, TPE）表现良好；但对于 Swin-T，由于设计空间大，传统方法耗时极长（数小时）。
  • 剪枝效果：引入设计空间剪枝后，Swin-T 的优化速度显著提升。
    • 基于 ViT-B 作为基模型的剪枝策略效果最稳定，在所有算法和约束条件下均能加速。
    • 基于 ResNet-50 的剪枝在特定约束下有效，但在宽松约束下可能因投影误差导致收益有限。
  • 算法选择：在所有测试中，模拟退火 (Simulated Annealing, SA) 算法在收敛速度和 P95 运行时间上 consistently 优于遗传算法 (GA) 和 TPE。
• 最佳配置示例：
  • 在优化 Swin-T 的 FoM (能效×算力) 时，剪枝策略帮助快速找到了基于 FeFET 存储、特定子阵列大小和 ADC 配置的最优解，同时大幅减少了仿真次数。

5. 意义与影响 (Significance)

• 降低 CIM 设计门槛：ChatNeuroSim 使得非专家设计师也能通过自然语言交互轻松进行复杂的 CIM 架构探索，无需深入研读繁琐的模拟器文档。
• 加速 AI 硬件部署：通过自动化和智能剪枝，将原本需要数天甚至数周的 DSE 周期缩短至数小时，显著加快了从设计到芯片流片 (Tape-out) 的进程。
• 推动 EDA 智能化：该工作展示了 LLM 多智能体框架在电子设计自动化 (EDA) 领域的巨大潜力，为未来自动化芯片设计提供了新的范式。
• 开源贡献：作者开源了 ChatNeuroSim 的用户界面 (UI) 和代码，促进了学术界和工业界对 CIM 架构的快速迭代与创新。

总结：ChatNeuroSim 通过结合 LLM 的语义理解能力与高效的机器学习优化策略，成功解决了 CIM 设计中“人机交互复杂”和“设计空间搜索低效”两大痛点，为下一代高性能存内计算加速器的快速开发提供了强有力的工具。