Resumo Técnico: AnalogFed

Declaração do Problema

A IA Generativa (GenAI) detém um potencial transformador para a Automação de Projeto Eletrônico (EDA), particularmente na descoberta de topologias de circuitos analógicos. No entanto, a adoção da GenAI para o design de hardware é severamente limitada pela privacidade e pelo isolamento de dados. Ao contrário dos domínios de linguagem ou visão, que se beneficiam de corpora abertos massivos, os conjuntos de dados práticos de hardware (ex: bases de código Verilog, bibliotecas de circuitos analógicos) são proprietários e distribuídos entre organizações, tornando o treinamento centralizado de modelos inviável devido a preocupações com Propriedade Intelectual (PI).

Embora o Aprendizado Federado (FedL) ofereça um mecanismo para o treinamento colaborativo sem o compartilhamento de dados brutos, a aplicação do FedL ao design de hardware impulsionado por GenAI introduz vulnerabilidades de segurança únicas:

1. Ataques de Inversão de Modelo: Adversários (ou um servidor semi-honesto) podem reconstruir topologias de circuitos proprietárias a partir dos gradientes do modelo transmitidos.
2. Ataques de Inferência de Membros (MIAs): Devido à natureza autorregressiva dos modelos de GenAI, que incentivam a memorização e a previsão de próximo token com alta confiança, atacantes podem determinar se designs de circuitos específicos fizeram parte do conjunto de treinamento ao analisar as saídas do modelo.
3. Complexidade de Implantação: Um framework prático deve proteger não apenas a PI da topologia do circuito do designer, mas também a tecnologia de fabricação de semicondutores (parâmetros de processo) utilizada para avaliar o desempenho do circuito.

Defesas existentes, como Privacidade Diferencial (DP), poda (pruning) ou regularização, são frequentemente inadequadas para grandes modelos autorregressivos, causando degradação significativa da utilidade ou oferecendo proteção insuficiente contra ataques sofisticados.

Metodologia: O Framework AnalogFed

Os autores propõem o AnalogFed, o primeiro framework de preservação de privacidade para a descoberta de topologias de circuitos analógicos em larga escala usando FedL e GenAI. O framework integra três estratégias técnicas principais:

1. Implantação de Preservação de Privacidade em Dois Estágios

Para abordar os requisitos de privacidade de camada dupla (IP do designer e tecnologia de processo do fabricante), o AnalogFed emprega uma estratégia de dois estágios:

• Pré-treinamento Federado: Clientes pré-treinam colaborativamente um modelo generativo compartilhado (baseado no estado da arte AnalogGenie) usando conjuntos de dados de topologia privados e distribuídos. Este estágio captura o conhecimento fundamental de conectividade de circuitos sem expor dados brutos.
• Ajuste Fino Descentralizado (Fine-tuning): Os clientes realizam o ajuste fino local para tarefas específicas (ex: projetar Op-Amps de alto desempenho) usando seus conjuntos de dados privados e restrições específicas de processo de semicondutores. Isso garante que a tecnologia de fabricação sensível permaneça local ao cliente. O ajuste fino utiliza Aprendizado por Reforço com Feedback Humano (RLHF) via Otimização de Política Próxima (PPO) para otimizar métricas de desempenho como a Figura de Mérito (FoM).

2. Criptografia Homomórfica Dinâmica (DHE)

Para defender contra Ataques de Inversão de Modelo durante a fase de pré-treinamento, o AnalogFed introduz um mecanismo de Criptografia Homomórfica Dinâmica.

• Observação: Os gradientes em redes neurais profundas exibem um comportamento de convergência onde as magnitudes são grandes nos estágios iniciais de treinamento (altamente informativas) e diminuem significativamente nos estágios posteriores.
• Mecanismo: A DHE criptografa adaptativamente apenas os gradientes iniciais de grande magnitude. A criptografia é automaticamente desativada assim que a redução da perda cai abaixo de um limiar de 20% por cinco épocas consecutivas (tipicamente após ~600 rodadas).
• Benefício: Esta abordagem reduz significamente o overhead computacional e de comunicação associado à criptografia homomórfica total, enquanto evita efetivamente que adversários reconstruam parâmetros do modelo a partir das atualizações mais informativas.

3. Perturbação de Entrada por Tokens Fictícios (Dummy Tokens)

Para mitigar Ataques de Inferência de Membros (MIAs) sem degradar a utilidade do modelo, o AnalogFed propõe uma estratégia de perturbação de entrada inovadora:

• Mecanismo: O framework injeta "tokens fictícios" (representando fios fictícios conectando nós ao VDD/VSS) nas sequências de topologia de circuitos durante o treinamento. Esses tokens mimetizam práticas padrão da indústria para simetria de layout, mas servem como defesa de privacidade.
• Estratégia de Treinamento: Os tokens fictícios são injetados em uma razão específica (ex: 6%) nas sequências de entrada. Crucialmente, a função de perda é mascarada para esses tokens fictícios, o que significa que eles atuam como perturbações de entrada, mas não contribuem para as atualizações de gradiente.
• Efeito: Isso desloca a distribuição dos dados de treinamento, reduzindo a familiaridade excessiva do modelo com padrões de treinamento específicos e tornando difícil para atacantes distinguir entre circuitos membros e não-membros com base na confiança de predição.

Principais Contribuições

1. Primeiro Framework de FedL para EDA Impulsionada por GenAI: O AnalogFed é pioneiro na integração de Aprendizado Federado com IA Generativa especificamente para automação de design analógico, estabelecendo uma base para o design de hardware escalável e com preservação de privacidade.
2. Colaboração de Privacidade de Dois Níveis: O framework aborda de forma única a proteção de conjuntos de dados de topologia proprietários (IP do designer) e tecnologias de fabricação de semicondutores (IP do fabricante) através de uma estratégia de implantação em estágios.
3. Mecanismos de Defesa Específicos do Domínio:
   • Perturbação de Token Fictício: Uma estratégia inovadora e de baixo custo para mitigar MIAs em modelos generativos de circuitos, perturbando as entradas em vez de adicionar ruído às atualizações do modelo.
   • Criptografia Homomórfica Dinâmica: Um esquema de criptografia otimizado que equilibra segurança e eficiência, criptografando apenas os gradientes iniciais mais informativos.
4. Avaliação Abrangente: O trabalho fornece experimentos extensos demonstrando a viabilidade, escalabilidade e robustez do framework em diversos cenários federados, incluindo distribuições de dados equilibradas e desequilibradas.

Resultados Experimentais

Os autores avaliaram o AnalogFed usando o dataset AnalogGenie (3.350 topologias analógicas únicas) e um modelo Transformer de decodificador único com 11,8 milhões de parâmetros.

• Capacidade de Descoberta Federada: O desempenho (Validade, Novidade, FoM, Escalabilidade) melhorou consistentemente conforme o número de clientes participantes aumentava (de 3 para 16), demonstrando que o FedL pode aproveitar dados distribuídos para construir modelos mais poderosos do que o treinamento de cliente único. A estratégia de injeção de tokens fictícios não degradou a utilidade do modelo em comparação com o treinamento centralizado sem tokens fictícios.
• Eficiência da DHE: Ao criptografar apenas as 600 rodadas iniciais, a DHE alcançou uma redução de 5,1× no custo de comunicação em comparação com as linhas de base de criptografia total (FEDML-HE) e reduziu o tempo de treinamento de 184 horas (criptografia estática) para 48,5 horas, mantendo a precisão do modelo comparável ao treinamento em texto simples (plaintext).
• Defesa contra MIA: A defesa de token fictício reduziu significativamente a taxa de sucesso de sete estratégias padrão de MIA (ex: Loss, Zlib, Mink). Com uma razão de 6% de tokens fictícios e bloco de tamanho 4, os escores da Área Sob a Curva Característica de Operação do Receptor (AUC-ROC) caíram para níveis próximos ao acaso (~0,5), indicando forte proteção de privacidade. A defesa permaneceu robusta mesmo quando as entradas de ataque continham configurações de tokens fictícios incompatíveis.

Significância e Alegações

O artigo afirma que o AnalogFed estabelece as bases para a colaboração escalável entre múltiplas partes na próxima geração de automação de design de hardware. Ao resolver os gargalos críticos de silos de dados e riscos de privacidade, o framework permite o desenvolvimento de agentes de design de nível de fundação capazes de descobrir novos circuitos analógicos que eram anteriormente inacessíveis devido à escassez de dados.

Os autores posicionam o AnalogFed não apenas como uma contribuição teórica, mas como uma solução prática que aborda as vulnerabilidades específicas da GenAI no domínio do hardware. Eles afirmam que este trabalho pavimenta o caminho para uma EDA futura impulsionada por GenAI em escala, permitindo que organizações colaborem na inovação sem comprometer a confidencialidade de seus designs proprietários ou processos de fabricação. O framework é apresentado como um passo em direção a um paradigma mais amplo de GenAI preservadora de privacidade e interorganizacional para o design de hardware.