Generate in the Chart, Not on the Boundary: Function-Symbol Grounding for Hard Constraints in LTN-GANs

No mundo da inteligência artificial, as máquinas tornaram-se notavelmente boas em imitar os padrões do mundo real. Elas podem gerar fotos de rostos falsos, mas com aparência realista, inventar artigos de notícias plausíveis ou criar registros sintéticos de horários de voos e reações químicas. Essas ferramentas são inestimáveis para cientistas e engenheiros que precisam de mais dados para testar teorias ou treinar outros sistemas, especialmente quando os dados reais são escassos ou sensíveis demais para serem compartilhados. No entanto, há uma armadilha. Só porque uma máquina cria algo que parece estatisticamente semelhante ao real, não significa que siga as regras fundamentais que governam a realidade. Um registro de voo sintético pode mostrar um avião chegando antes de decolar, ou uma molécula química pode ser gerada com um equilíbrio de energia impossível. Esses erros violam as leis rígidas da física e da lógica que os dados reais obedecem. O desafio para os pesquisadores é construir geradores que não apenas pareçam realistas, mas que também adiram estritamente a essas regras inquebráveis, produzindo dados que sejam tanto verossímeis quanto logicamente consistentes.

Durante anos, a abordagem padrão para corrigir esses erros lógicos foi tratá-los como sugestões suaves. Neste método, o computador recebe uma penalidade sempre que quebra uma regra, incentivando-o a melhorar com o tempo. Embora isso ajude, nunca garante a perfeição; a máquina ainda pode ocasionalmente falhar, trocando uma violação de regra por uma imagem ligeiramente melhor. Um método mais recente e rigoroso envolve uma "camada de restrição", um portão mecânico que se posiciona ao final do processo de geração. Se a máquina produzir uma amostra que quebre uma regra, este portão força fisicamente os números a mudar o suficiente para tornar a amostra válida. Funciona como uma rede de segurança, garantindo que cada saída seja tecnicamente correta. Mas os pesquisadores Nijesh Upreti e Vaishak Belle, da Universidade de Edimburgo, descobriram uma falha oculta nesta rede de segurança. Eles descobriram que, embora o portão garanta que a amostra seja válida, ele frequentemente destrói as variações sutis e naturais que tornam os dados realistas.

O problema reside em como essas regras são aplicadas. Muitas regras científicas são desigualdades, como "a temperatura deve ser maior que zero" ou "o tempo de desembarque deve ser após o tempo de embarque". No mundo real, essas lacunas não são apenas zero ou um; elas têm uma dispersão natural. Um voo pode sofrer um atraso de alguns minutos, ou uma reação química pode ter um pequeno buffer de energia. Quando o portão de segurança padrão corrige uma violação, ele empurra a amostra exatamente para a borda da zona permitida, fazendo com que a lacuna seja exatamente zero. Ele faz isso para cada amostra que foi sequer ligeiramente errada. O resultado é um conjunto de dados onde cada entrada é válida, mas a distribuição natural dessas lacunas desapareceu. Os dados parecem perfeitos em uma lista de verificação, mas parecem planos e artificiais porque as variações sutis que definem o mundo real foram esmagadas em um único ponto. Upreti e Belle chamam isso de "colapso" da distribuição da margem, e mostraram que isso acontece de forma tão silenciosa que os testes padrão costumam não detectar, deixando os pesquisadores com dados que parecem bons, mas que são fundamentalmente distorcidos.

Para resolver isso, os pesquisadores desenvolveram uma nova maneira de pensar sobre como a máquina constrói suas amostras. Em vez de gerar uma amostra completa e depois verificar se ela quebra as regras, eles mudaram o próprio projeto. Eles introduziram um método chamado fundamentação de símbolo-função (function-symbol grounding), que atua como um sistema de coordenadas dentro da zona permitida. Imagine que a máquina não está mais tentando atingir um alvo e depois corrigir sua mira; em vez disso, ela está desenhando um mapa de toda a área segura e escolhend o ponto diretamente de dentro dela. A máquina gera um número livre e não restrito, e então uma função matemática específica traduz esse número em um valor que é garantido como válido. Essa tradução ocorre ao adicionar uma pequena quantidade positiva a um valor base, garantindo que a regra seja satisfeita por construção. Como a máquina está construindo a amostra de dentro para fora, ela nunca precisa ser forçada ou limitada. As variações naturais, as "margens" entre os valores, permanecem intactas e são aprendidas como qualquer outra característica dos dados.

A equipe testou essa abordagem em quatro conjuntos de dados complexos e de alta resolução envolvendo química, propriedades moleculares e registros de viagens de táxi. Em todos os casos, o método antigo de limitação (clamping) produziu dados que eram 100 por cento válidos, mas tinham uma distribuição distorcida das lacunas entre os valores. O novo método, no entanto, produziu dados que também eram 100 por cento válidos, mas preservavam perfeitamente a dispersão natural dessas lacunas. A diferença foi marcante: o novo método reduziu o erro na distribuição dessas lacunas em até vinte e cinco vezes em comparação com o método antigo. Os pesquisadores também descobriram que podiam prever quando o método antigo falharia antes mesmo de iniciar o treinamento. Eles calcularam uma razão simples baseada no tamanho dos dados versus o tamanho da lacuna da regra. Quando essa razão era grande, significando que a lacuna era minúscula em comparação aos dados, o método antigo sempre colapsava a distribuição. O novo método funcionava independentemente dessa razão, atuando efetivamente como uma correção universal para esses tipos de restrições.

O estudo também abordou uma preocupação prática: o que acontece com regras que envolvem números inteiros ou categorias discretas, onde a "lacuna" não é uma curva suave, mas um ponto único? Os pesquisadores descobriram que seu novo método funciona melhor para regras contínuas e suaves, enquanto o antigo método de limitação é, na verdade, melhor para esses casos discretos. Para obter o melhor dos dois mundos, eles criaram um sistema híbrido. Antes do início do treinamento, o sistema analisa cada regra para ver se ela é suave ou discreta e, então, escolhe automaticamente a melhor ferramenta para o trabalho. Ele utiliza o novo método de dentro para fora para regras suaves e o antigo método de limitação para as discretas. Ao ser testado contra os melhores benchmarks existentes, este sistema híbrido igualou ou superou o desempenho do método de limitação padrão em todos os conjuntos de dados, enquanto superou significativamente o método antigo nos casos difíceis de alta resolução onde o antigo falhou.

Este trabalho muda a forma como pensamos na geração de dados com restrições. Ele mostra que simplesmente tornar os dados válidos não é suficiente; os dados também devem ser realistas em suas variações. Ao mudar de um sistema que corrige erros depois que eles acontecem para um que constró de forma a integrar a validade na própria estrutura dos dados, os pesquisadores criaram uma maneira de gerar dados sintéticos que não são apenas seguros, mas também fiéis à realidade complexa e matizada que pretendem representar. As descobertas sugerem que, para qualquer aplicação onde as diferenças sutis entre os valores importam — desde o design de novas moléculas até o planejamento de logística — a maneira como fundamentamos nossas regras na arquitetura da máquina é tão importante quanto as próprias regras.