Resumo Técnico: Estudo, Identificação e Correção de Dívida Técnica Oculta em Sistemas Ciber-Físicos Intensivos em IA

Declaração do Problema

Componentes de Inteligência Artificial (IA) estão sendo cada vez mais integrados em Sistemas Ciber-Físicos (CPSs), criando arquiteturas complexas de "IA-CPS" encontradas em veículos autônomos, robótica e saúde. Embora a Dívida Técnica (DT) — o custo de manutenção a longo-longo prazo resultante de decisões de design de curto prazo — seja bem estudada no software convencional, a interação entre modelos de IA, firmware, hardware e componentes mecânicos em IA-CPSs introduz desafios únicos.

As taxonomias de DT existentes falham em capturar totalmente a dívida decorrente da interação específica entre a inteligência de software e o mundo físico. As principais lacunas incluem:

• Dívida Oculta: Dívida que não é admitida pelos desenvolvedores (Dívida Técnica Autoadmitida) mas que existe em artefatos como configurações de sensores, fidelidade de simulação e restrições de hardware.
• Heterogeneidade: A dívida abrange diversos tipos de artefatos, incluindo código-fonte, model cards de ML, firmware e especificações físicas.
• Interações Complexas: Surgem desafios específicos em relação a como a IA age autonomamente sobre o hardware, requisitos de tempo real, salvaguardas de segurança e conformidade regulatória.

A questão central de pesquisa é: Que tipo de dívida técnica específica ocorre no desenvolvimento de IA-CPSs e como ela pode ser paga automaticamente?

Metodologia

A pesquisa segue uma abordagem de métodos mistos em múltiplas etapas, dividida em três fases, conforme ilustrado pela estrutura proposta (Fig. 1):

Fase 1: Caracterização Empírica

O objetivo é construir uma compreensão fundamental da DT em IA-CPS por meio de mineração de dados e entrevistas com profissionais.

• Mineração de Repositórios: O estudo analisa repositórios do Hugging Face e GitHub para rastrear o ciclo de vida de modelos pré-treinados (seleção, integração, manutenção) e identificar padrões de DT. Examina-se commits, mudanças de arquivos, documentação e metadados.
• Especificidades de IA-CPS: A mineração foca em distinguir a dívida específica de IA-CPS (ex: robustez de sensores, atuação, calibração, geração de trajetória) da dívida convencional ou geral de ML.
• Entrevistas: Entrevistas semiestruturadas com desenvolvedores e pesquisadores investigam a adoção no mundo real de modelos de IA de pesos abertos em CPSs, focando em desafios de integração e estratégias atuais de mitigação.
• Resultado: Uma taxonomia de DT específica de IA-CPS e um catálogo de desafios dos desenvolvedores.

Fase 2: Identificação e Mitigação Automatizada

Com base na taxonomia da Fase 1, esta fase desenvolve métodos para detectar a DT "oculta" (não admitida pelos desenvolvedores) e propor remediação.

• Classificação Agêntica: Uma abordagem agêntica utiliza métricas, avisos de análise estática e informações relacionadas ao hardware mineradas de repositórios.
• Análise de Múltiplas Fontes: O sistema analisa evidências diversas além dos comentários de código, incluindo:
  • Artefatos de CPS: Descrições de sensores/atuadores, configurações de middleware, arquivos de simulação, restrições de segurança e scripts de implantação.
  • Artefatos de ML: Model cards, scripts de treinamento/inferência, conjuntos de dados, pipelines de pré-processamento e hiperparâmetros.
• Estratégias de Mitigação: As ações de remediação são derivadas empiricamente através da análise de como os desenvolvedores resolvem a dívida em repositórios existentes e incorporando o feedback de profissionais sobre seleção de modelos e compatibilidade.

Fase 3: Governança Baseada em IA Agêntica

A fase final integra as saídas anteriores em uma estrutura de governança autônoma para gestão contín overhead de DT.

• Arquitetura do Sistema (Fig. 2): O sistema proposto compreende:
  • Agente de Identificação de DT: Classifica a dívida oculta contra a taxonomia.
  • Recomendador de Soluções: Propõe e potencialmente executa a remediação.
  • Agente de Avaliação de Impacto: Avalia os efeitos na manutenibilidade, confiabilidade e capacidade de implantação.
  • Base de Conhecimento: Armazena a taxonomia, desafios e soluções de remediação.
  • Analisadores e Recuperadores Especializados: Minera dados de código, firmware, especificações de hardware e hubs externos (Hugging Face, Kaggle).
  • Orquestrador: Gerencia o fluxo de trabalho, monitora mudanças nos repositórios e gera relatórios de governança.
• Humano no Ciclo (Human-in-the-Loop): O sistema é semiautomático, interagindo com desenvolvedores via IDEs para validar classificações e sugestões, utilizando o feedback para refinar a taxonomia e os prompts.

Principais Contribuições

A pesquisa visa entregar as seguintes contribuições específicas:

1. Caracterização Empírica: Uma compreensão sistemática da evolução e adoção do ecossistema de modelos de IA baseada em análise de repositórios e entrevistas.
2. Taxonomia de DT de IA-CPS: Uma nova classificação de dívida técnica específica para a interseção entre IA e CPS, complementando as taxonomias existentes para sistemas convencionais e de ML.
3. Insights de Profissionais: Um relato detalhado dos desafios enfrentados por desenvolvedores ao integrar modelos de IA em IA-CPSs.
4. Técnicas Automatizadas: Estratégias específicas para identificar e corrigir DT em diversos artefatos (código, modelos, configurações de hardware) em vez de apenas código-fonte.
5. Estrutura de Governança Agêntica: Um sistema para monitoramento contínuo, avaliação de impacto e recomendação de mitigação usando IA agêntica.

Status Atual e Resultados Preliminares

O projeto está atualmente em seu segundo ano, com os seguintes achados iniciais:

• Análise de Repositórios: Um estudo empírico do Hugging Face e GitHub revelou que menos de 15% dos modelos mais baixados do Hugging Face possuem um repositório de desenvolvimento vinculado no GitHub. Além disso, os model cards frequentemente passam apenas por atualizações menores, limitando sua utilidade como documentação viva.
• Construção da Taxonomia: A análise de Dívida Técnica Autoadmitida (SATD) em 15 repositórios de código aberto de IA-CPS iniciou a construção de uma taxonomia de DT específica. As categorias preliminares incluem robustez de sensores, simplificação de simulação, restrições de segurança, contornos de middleware e problemas de integração de modelos.
• Entrevistas: As entrevistas com profissionais estão em andamento, com planos para publicar os resultados em conferências de engenharia de software.

Significância e Trabalho Futuro

A significância deste trabalho reside em "democratizar" o desenvolvimento de IA-CPS, fornecendo abordagens estruturadas para gerenciar a complexa e muitas vezes oculta dívida técnica inerente a esses sistemas. Ao ir além da análise de dívida centrada em código para incluir interações de hardware e modelos de IA, a pesquisa visa melhorar a confiabilidade e a manutenibilidade de sistemas autônomos críticos.

Plano de Validação:
A solução de IA agêntica será validada através de:

1. Estudos Acadêmicos: Testes iniciais com estudantes em ambientes de projeto.
2. Demonstradores do Mundo Real: Avaliação utilizando os demonstradores do projeto InnoGuard, especificamente um robô humanoide e um Leo Rover. Esses cenários fornecem ambientes realistas envolvendo sensores, atuação, navegação e restrições de segurança para avaliar a capacidade da estrutura de identificar dívidas em software, modelos, configurações e hardware.

Disseminação:
Os resultados estão planejados para publicação em conferências e periódicos de engenharia de software, com foco na classificação e remediação de DT no curto prazo, seguido pela infraestrutura de IA agêntica no último ano.