Fifty Years of Specification Completeness: What Aviation Certification Tells AI Governance About Epoch Limits, Proof Surfaces, and the Structural Gap
Este artigo argumenta que as estruturas de governança de IA carecem dos requisitos de completude estrutural impostos na certificação da aviação — especificamente limites de época, superfícies de prova e arquiteturas de evidência objetiva — e propõe o framework de sete princípios da PromptQ para operacionalizar essas propriedades transferíveis de nível de documento para a governança de sistemas de IA estocásticos.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
A Grande Ideia: O Problema do "Manual de Instruções"
Imagine que você está construindo um carro autônomo muito complexo. No mundo da aviação (onde os aviões voam), existem regras rigorosas sobre como escrever o manual de instruções do software. Você não pode simplesmente dizer: "Dirija com segurança". Você tem que provar que cada frase nesse manual se conecta a um teste específico, e tem que provar que o manual deixa de ser válido se o clima mudar ou se as condições da estrada mudarem.
Este artigo argumenta que os documentos de governança de IA (os prompts, regras e políticas que escrevemos para dizer à IA o que fazer) estão sendo tratados atualmente como uma lista de tarefas casual, enquanto a aviação trata seus manuais como um contrato legal.
O autor, Christo Zietsman, diz: "Não precisamos consertar a própria IA agora (porque a IA é imprevisível demais). Em vez disso, vamos consertar a papelada que diz à IA o que fazer."
Aqui estão as três principais lições que o artigo retira da aviação e aplica à IA:
1. A Regra do "Mapa e Bússola" (Vinculação Estruturada)
Na Aviação: Se o manual do piloto diz "Vire à esquerda na montanha", os engenheiros devem provar que existe um teste específico que verifica se o avião vira à esquerda naquela montanha. Se houver um código no avião que não tenha uma regra no manual, é uma falha. Se houver uma regra no manual que não tenha um teste, também é uma falha. Tudo deve estar conectado.
Na IA Atual: Frequentemente damos à IA um prompt como: "Seja útil e não seja rude". Mas não temos um checklist para provar o que "útil" significa, ou um teste para detectar quando a IA está sendo "rude". O artigo diz que isso é como dar a um piloto um mapa com ruas faltando.
O Conserto: Cada afirmação no manual de instruções de uma IA deve estar vinculada a uma forma de verificar se ela é verdadeira. Se você não pode verificar, não deve estar no manual.
2. A Regra da "Data de Validade" (Limites de Época)
Na Aviação: Um manual de voo é válido apenas para o clima de hoje e para a pista de hoje. Se um novo sistema de tempestade aparecer, ou se a pista for fechada, esse manual específico torna-se instantaneamente "expirado". Os pilotos devem parar e obter um manual novo e atualizado antes de voar.
Na IA Atual: Escrevemos uma regra para a IA uma vez e assumimos que ela funcionará para sempre. Não dizemos: "Esta regra é válida até que as notícias mudem" ou "Esta regra expira se a IA começar a falar sobre política". O artigo descobriu que 100% dos documentos de IA que analisaram tinham zero datas de validade. Eles são como uma carteira de motorista que nunca expira, mesmo que o motorista esqueça como dirigir ou as leis de trânsito mudem.
O Conserto: Todo manual de instruções de IA precisa de uma "Data de Validade" clara ou um gatilho. Por exemplo: "Se a fonte de dados mudar, este manual é inválido. Pare e peça a um humano."
3. A Regra da "Prova de Trabalho" (Superfícies de Prova)
Na Aviação: Você não pode apenas dizer: "Nós verificamos o motor". Você tem que mostrar o registro específico, a chave de fenda específica usada e a assinatura da pessoa que fez a verificação. As regras definem exatamente o que conta como prova.
Na IA Atual: Muitas vezes dizemos: "Nós monitoramos a IA". Mas o artigo argumenta que isso é vago. É como dizer: "Eu verifiquei o motor", sem mostrar o livro de registros. O artigo chama isso de "Superfície de Prova" — a forma específica e predefinida de provar que a IA está fazendo seu trabalho.
O Conserto: Antes mesmo de implantarmos a IA, devemos escrever exatamente quais evidências coletaremos para provar que ela está funcionando. Não apenas "nós vamos observar", mas "contaremos os erros e, se atingirem 5%, nós paramos".
O "Gap" e a Evidência
O artigo analisou 34 documentos reais de instrução de IA (como prompts de sistema e arquivos de política).
- O Resultado: 94% deles falharam no teste estrutural básico.
- A Grande Falha: Nenhum deles tinha uma data de validade ou um gatilho para quando parar de usá-los. Todos foram escritos como se funcionariam perfeitamente para sempre, não importa o que mudasse.
O autor compara isso à comunidade de inteligência "Five Eyes" (um grupo de nações aliadas) admitindo que ainda não possuem formas maduras de avaliar essas regras de IA. O artigo diz: "Sabemos que as regras estão quebradas, mas ainda não consertamos a papelada".
A Solução: "PromptQ"
O artigo propõe um novo framework chamado PromptQ. Pense nele como um "Checklist de Segurança" para escrever instruções de IA. Ele força o escritor a responder a sete perguntas antes que a IA possa rodar:
- O que é o "sucesso"?
- Como testamos isso?
- Qual é o limite (o que a IA não deve fazer)?
- Quais dados ela está usando?
- Qual é o portão de qualidade (quem verifica o trabalho)?
- O documento é internamente consistente?
- Quando este documento expira? (A peça mais ausente).
A Conclusão
O artigo não está dizendo que a IA é perigosa porque a matemática está errada. Está dizendo que a IA é arriscada porque nossas instruções para ela são desleixadas.
A aviação passou 30 anos garantindo que seus manuais de instrução sejam precisos, rastreáveis e tenham datas de validade. A governança de IA não está fazendo nada disso no momento. O artigo argumenta que não precisamos esperar a IA se tornar perfeita; só precisamos começar a escrever manuais de instrução melhores e mais rigorosos para a IA que temos agora.
Em resumo: Se você não deixaria um piloto voar um avião com um manual que não tem data de validade e nenhuma forma de provar que as regras foram seguidas, você não deve deixar uma IA rodar com um prompt que carece dessas mesmas coisas.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.