Domain Agnostic Text Redaction from Natural Language Rules using Instruction Tuning

No mundo moderno, vastas quantidades de informações pessoais e corporativas existem como texto simples, desde prontuários médicos e contratos jurídicos até relatórios financeiros. À medida que esses dados se tornam cada vez mais digitalizados, surge um desafio crítico: como compartilhar ou analisar esses documentos sem expor segredos sensíveis. Leis como o Regulamento Geral sobre a Proteção de Dados e a Lei de Portabilidade e Responsabilidade de Seguros de Saúde exigem que detalhes específicos, como nomes, endereços ou condições médicas privadas, sejam ocultados antes que um documento deixe um ambiente seguro. Tradicionalmente, essa tarefa de "sanitização" dependia de programas de computador rígidos que buscavam padrões previsíveis, como um número de telefone ou um número de previdência social. Embora eficazes para esses formatos padrão, essas ferramentas frequentemente falham quando informações sensíveis aparecem em sentenças complexas e não estruturadas, como uma cláusula específica em um contrato ou um diagnóstico médico matizado. Além disso, quando essas ferramentas automatizadas tomam a decisão de ocultar um texto, elas raramente explicam o porquê, deixando os auditores humanos adivinharem a lógica por trás da redação.

Para resolver isso, uma equipe de pesquisadores da Mphasis Limited desenvolveu uma nova abordagem que trata a redação de texto não como uma simples tarefa de busca e substituição, mas como um problema de raciocínio. Em vez de codificar regras para cada tipo possível de dado sensível, eles criaram um sistema onde um humano pode descrever o que precisa ser ocultado em linguagem natural. Por exemplo, um usuário pode simplesmente declarar: "Oculte qualquer menção a taxas específicas de clientes neste relatório financeiro" ou "Remova todos os detalhes relativos à localização do lote de terra neste acordo legal". O sistema então utiliza um grande modelo de linguagem para traduzir essas instruções de linguagem natural em um conjunto de regras lógicas. Essas regras são usadas para treinar um modelo de linguagem menor e mais eficiente que pode ler um documento, compreender o contexto e decidir exatamente quais palavras ou frases correspondem à definição de sensível do usuário. Crucialmente, este sistema não apenas mascara o texto; ele gera uma explicação escrita para cada peça de informação que remove, citando a regra específica que desencadeou a ação.

Os pesquisadores testaram este método em uma variedade de tipos de documentos, incluindo divulgações financeiras, detalhes de engajamento de clientes e registros médicos. Eles descobriram que o sistema conseguia identificar e redigir com precisão conteúdos sensíveis que as ferramentas tradicionais perderiam, como termos jurídicos complexos ou estratégias de negócios específicas, enquanto deixava a informação não sensível intacta. Para garantir que o sistema fosse verdadeiramente seguro, eles submeteram os documentos redigidos a um teste rigoroso onde uma inteligência artificial poderosa tentou adivinhar a informação oculta com base no texto circundante. O sistema provou ser altamente resiliente; a IA foi incapaz de reconstruir os detalhes redigidos, indicando que a informação sensível foi efetivamente removida e não apenas obscurecida. Em seus testes, o modelo identificou e redigiu com sucesso mais de 95 por cento das instâncias sensíveis que lhe foram solicitadas.

Uma inovação fundamental neste trabalho é o uso de dados sintéticos para treinar o sistema. Em vez de alimentar o modelo com documentos reais e privados, os pesquisadores usaram um grande modelo de linguagem para gerar milhares de documentos falsos que mimetizavam cenários do mundo real. Esses documentos sintéticos continham conteúdos sensíveis e não sensíveis, juntamente com as redações e explicações corretas. Isso permitiu que o modelo menor aprendesse como raciocinar sobre regras de privacidade sem nunca ver os dados privados de uma pessoa real durante seu treinamento. O resultado é uma ferramenta que é tanto flexível quanto transparente. Ela pode se adaptar a novos tipos de documentos e novas definições de sensibilidade sobre a hora, simplesmente ouvindo as instruções de um humano. Ao fornecer uma justificativa clara, em linguagem natural, para cada redação, o sistema preenche a lacuna entre a eficiência automatizada e a responsabilidade humana, oferecendo uma forma de proteger a privacidade que é tão compreensível quanto eficaz.