Definitional alignment before capability alignment: a Design-Science framework for adjudicating claims about AGI

Resumo Técnico: Alinhamento Deficional antes do Alinhamento de Capacidade (DAF-AGI)

Problema
O campo da Inteligência Artificial Geral (AGI) sofre de uma subespecificação crítica: o termo carece de um referente único, compartilhado e estável. Operacionalizações concorrentes de AGI produzem vereditos divergentes sobre os mesmos sistemas, não devido a uma falta de evidência de capacidade, mas porque as definições codificam compromissos incompatíveis sobre o que constitui "inteligência". O artigo argumenta que essa indeterminação não é meramente uma imaturidade científica, mas um problema de governança. A ausência de uma regra de adjudicação compartilhada permite que atores avancem limiares alinhados a interesses científicos, comerciais e regulatórios específicos. Consequentemente, alegações de que a AGI "chegou" são frequentemente indefensáveis sob escrutínio rigoroso porque as definições usadas para fazer tais alegações são contestadas, carregadas de valores e carecem de certificação independente. O problema central é que a comunidade está debatendo como governar a chegada da AGI sem antes se alinhar sobre o que é a AGI, levando a uma situação em que os vereditos de "chegada", gatilhos regulatórios e direitos contratuais são adjudicados contra categorias que são, elas próprias, informais e interessadas.

Metodologia
O artigo utiliza a Metodologia de Pesquisa de Ciência do Design (DSRM) para construir um artefato conceitual de segunda ordem, o Estrutura de Alinhamento Deficional para AGI (DAF-AGI). A metodologia é estruturada em torno de seis atividades de DSRM: identificação do problema, definição de objetivos, design/desenvolvimento, demonstração, avaliação e comunicação.

O design integra três técnicas incorporadas:

1. Seleção Deficional Documentada: Um corpus de definições é construído a partir de publicações revisadas por pares, relatórios técnicos e posições de grandes laboratórios. As definições são agrupadas em "famílias de medição" com base em sua unidade de conquista (ex: desempenho de tarefa, substituição econômica, ontologia de capacidade) em vez de sua redação.
2. Engenharia Conceitual: Baseando-se na explicitação de Carnap, a estrutura trata a "AGI" como um conceito defeituoso que requer redesenho para uma função específica: adjudicação pública. Os critérios são projetados para avaliar a adequação para essa função, em vez de descobrir uma verdade essencial sobre a inteligência.
3. Lente de Estudos de Ciência e Tecnologia (STS): A estrutura incorpora uma auditoria de governança, reconhecendo que benchmarks e definições codificam valores e distribuem vantagens. Esta lente trata a autoria e os interesses materiais por trás de uma definição como variáveis críticas para sua adequação como um padrão público.

O artefato é avaliado por meios formativos e artificiais (congruência interna e plausibilidade comparativa) em vez de implantação de campo naturalista, consistente com o design de artefatos conceituais.

Principais Contribuições: O Artefato DAF-AGI
A principal contribuição é a estrutura DAF-AGI, que consiste em dois componentes acoplados:

1. Cinco Critérios de Pontuação Ordinal (C1–C5): Estes avaliam a "adequação adjudicativa" de uma definição candidata.

   • C1 (Operacionalizabilidade): A definição pode ser transformada em um teste com condições de falha acordadas?
   • C2 (Generalidade): A definição exige amplitude através de domínios materialmente diferentes ou transferência para condições não preparadas?
   • C3 (Explicitude sobre Autonomia): A definição declara explicitamente se a definição de metas autônomas é exigida, excluída ou graduada?
   • C4 (Padrão de Referência): A classe de comparação (ex: "humano") é especificada com precisão suficiente para ser testada?
   • C5 (Estabilidade Procedural): A regra produz interpretações comparáveis ao longo do tempo sem alteração retrospectiva?

2. Uma Auditoria de Governança (C6): Esta não é uma pontuação ordinal, mas uma leitura estruturada das condições institucionais da definição. Ela audita:

   • Autoria: Quem escreveu o critério?
   • Interesse Material: Quais interesses estão ligados ao veredito?
   • Certificação: Quem declara que o critério foi atingido?
   • Verificação Externa/Apelação: Existe revisão independente?
   • Autoridade de Revisão: Quem pode revisar a regra e sob quais requisitos de divulgação?

A estrutura introduz o constructo de Soberania Deficional: a capacidade institucional de uma política "receptora de definições" de contestar, certificar contra e prestar contas da revisão de categorias tecnológicas importadas. Isso é distinto da soberania algorítmica (controle sobre sistemas) e da soberidade de dados (controle sobre dados); refere-se às categorias usadas para avaliar esses sistemas.

Demonstração e Resultados
A estrutura é demonstrada em um corpus de cinco famílias de medição proeminentes e uma posição de fronteira deflacionária:

• Superioridade de Desempenho: Pontua baixo em Generalidade (C2) e Padrão de Referência (C4) porque depende de conjuntos de tarefas selecionáveis pelo reivindicante e deixa o "humano" não especificado.
• Substituição Econômica: Pontua parcialmente na maioria dos critérios; vincula a AGI aos mercados de trabalho, mas confunde capacidade com economia de implementação.
• Ontologia de Capacidade (ex: Níveis da DeepMind): Pontua alto em Generalidade e Autonomia, mas parcialmente em Operacionalizabilidade e Estabilidade Procedural, pois a seleção de benchmarks permanece ligada à instituição autora.
• Paridade Psicométrica (ex: Teoria CHC): Pontua alto em Operacionalizabilidade e Padrão de Referência, mas parcialmente em Autonomia e Estabilidade em relação à adaptação de testes humanos para máquinas.
• Eficiência de Aquisição de Habilidades (ex: ARC-AGI): Pontua alto em Operacionalizabilidade e Generalidade, mas parcialmente em Autonomia e Estabilidade (devido ao versionamento de benchmarks).
• Posição Deflacionária: Recusa a operacionalização, servindo como uma crítica de governança em vez de um candidato a padrão.

Teste de Estresse de uma Alegação Forte de Chegada:
A estrutura foi aplicada à alegação: "Sistemas generativos atuais constituem AGI porque superam um adulto bem instruído em muitas tarefas cognitivas."

• Resultado: A alegação não é publicamente adjudicável conforme declarada.
• Análise: A alegação combina uma unidade de conquista permissiva (saída de tarefa) com uma classe de referência exigente ("adulto bem instruído"). Sob uma operacionalização de Desempenho, a alegação poderia passar se o conjunto de tarefas fosse favorável. No entanto, sob operacionalizações Psicométricas ou de Aquisição de Habilidades (que usam a mesma classe de referência, mas exigem paridade de perfil completo ou eficiência em tarefas novas), a alegação falha. Os sistemas exibem perfis "irregulares" (fortes em conhecimento, fracos em memória/raciocínio) e falham em benchmarks de raciocínio novel.
• Conclusão: A força persuasiva da alegação reside em uma assimetria não declarada: combinar uma unidade permissiva com uma classe de referência cujas operacionalizações exigentes nunca são confrontadas. A estrutura expõe isso como uma escolha de governança, não um fato empírico.

Significância e Escopo
O artigo limita explicitamente suas alegações para evitar excessos:

• Não é uma Validação Empírica: A demonstração foi conduzida pelo autor sobre um corpus selecionado pelo autor. O artigo não afirma que a confiabilidade inter-avaliador ou a validação externa foram alcançadas; estas são etapas necessárias subsequentes.
• Não é uma Nova Definição: O DAF-AGI não propõe uma "verdadeira" definição de AGI. É um instrumento para avaliar definições e expor as condições de governança de sua adoção.
• Alinhamento Deficional Precede o Alinhamento de Capacidade: O artigo argumenta que o alinhamento deficional é logicamente anterior ao alinhamento de capacidade apenas para o propósito de adjudicar alegações de chegada e disparar consequências de governança (regulação, contratos, alocação de capital). Ele não bloqueia nem diminui a pesquisa sobre comportamento de sistemas, corrigibilidade ou risco que prossegue sem decidir se um sistema é AGI.
• Reflexividade Modesta: O autor reconhece que a própria estrutura incorpora escolhas de valor (a escolha dos critérios). No entanto, argumenta que a estrutura passa em seu próprio teste de governança (C6) porque é inspecionável, sua autoria é divulgada e ela permite contestação e revisão, ao contrário das definições "capturadas" que ela avalia.

O artigo conclui que o poder de fixar a definição de AGI é uma capacidade soberana. Para estados dependentes de importação e para o público em geral, a dependência crítica não é apenas de modelos ou dados, mas das categorias usadas para avaliá-los. A estrutura fornece um mecanismo para tornar essa dependência legível e contestável.