Resumo Técnico: Moldando Interações Humano-IA para Fornecer Caminhos de Melhoria e Equilibrar Objetivos Concorrentesentes

Autora: Keziah Naggita
Instituição: Toyota Technological Institute at Chicago
Grau: Doutorado em Ciência da Computação (Junho de 2026)

1. Declaração do Problema

A proliferação de sistemas de IA em tomadas de decisão de alto risco (ex.: contratação, admissões) e ambientes domésticos cria um ciclo de feedback onde indivíduos (agentes) formam crenças sobre o sistema e agem estrategicamente para influenciar resultados. Essas ações podem ser melhorias genuínas (aprimoramento de qualificações subjacentes) ou manipulação/gaming (manipulação de características observáveis sem melhoria genuína).

Esta tese aborda três desafios centrais ao moldar essas interações:

1. Dinâmicas Desenvolvimentais e Comportamentais: Como humanos (especificamente pais) percebem e respondem ao comportamento agressivo de crianças em relação a dispositivos impulsionados por IA (robôs, alto-falantes inteligentes, tablets) e como o antropomorfismo do dispositivo influencia essas respostas.
2. Incentivo à Melhoria: Como os tomadores de decisão podem projetar alvos e fornecer orientação para maximizar a melhoria genuína do agente, garantindo simultaneamente a justiça e a alcançabilidade.
3. Equilibrar Objetivos Concorrentes: Como os sistemas de IA podem ser projetados para maximizar verdadeiros positivos (identificar agentes qualificados) e minimizar falsos positivos (rejeitar agentes não qualificados) quando os agentes podem tanto melhorar quanto manipular o sistema.

2. Metodologia

A tese emprega uma abordagem metodológica multifacetada, integrando:

• Experimentos com Seres Humanos: Um estudo online entre sujeitos ($N=332$) investigando as reações parentais à agressão infantil contra robôs, alto-falantes inteligentes e tablets.
• Design Algorítmico e Otimização: Desenvolvimento de algoritmos de tempo polinomial e pseudo-polinomial para posicionamento de alvos, geração de explicações contrafatuais (CFE) e seleção de modelos de papel (role models).
• Análise Teórica: Aplicação de teoria de aprendizado (aprendizado PAC), teoria dos grafos e teoria da complexidade (provas de NP-dureza) para analisar aprendibilidade, complexidade de amostra e limites de classificação em configurações estratégicas.
• Avaliação Empírica: Experimentos em conjuntos de dados do mundo real (Adult, OULAD, Law School) e dados semi-sintéticos para avaliar o desempenho algorítmico sob várias estratégias de aversão ao risco e restrições geométricas.

3. Principais Contribuições e Resultados

Parte I: Interações Humano-IA via Experimentos com Seres Humanos

Foco: Respostas parentais à agressão infantil contra dispositivos de IA.

• Método: Um design $2 \text{ (agressão: agressiva vs. neutra)} \times 3 \text{ (dispositivo: robô, alto-falante inteligente, tablet)} \times 3 \text{ (modalidade: áudio, físico, áudio+físico)}$.
• Principais Descobertas:
  • Impacto da Agressão: Os pais expressaram preocupação significativamente maior e foram mais propensos a intervir (repreender ou remover o dispositivo) quando a criança exibia comportamento agressivo em comparação ao comportamento neutro.
  • Percepção do Dispositivo: Embora os pais percebessem robôs e alto-falantes inteligentes como mais antropomórficos, animados e calorosos do que tablets, não houve diferença significativa na preocupação parental ou na probabilidade de intervenção entre robôs e alto-falantes inteligentes. Isso contradiz a hipótesia de que a corporeidade física (robôs) aumenta unicamente a preocupação em comparação com assistentes de voz desincorporados.
  • Estilos de Intervenção: Os pais responderam ao comportamento neutro com encorajamento e assistência, enquanto o comportamento agressivo desencadeou repreensões e o uso da situação como uma oportunidade de aprendizado.

Parte II: Moldando Interações para Fornecer Caminhos de Melhoria

Foco: Projetar mecanismos para incentivar a melhoria genuína.

3.1 Definindo Alvos Alcançáveis (Capítulo 3)

• Problema: Determinar o posicionamento ideal de $k$ níveis de habilidade alvo para maximizar a melhoria total do agente, considerando que os agentes melhoram para o alvo alcançável mais próximo.
• Desafios: O posicionamento de alvos é não monotônico; adicionar um alvo pode reduzir a melhoria total ao fazer com que os agentes mudem de metas distantes e de alto valor para metas mais próximas e de menor valor.
• Contribuições:
  • Desenvolveu um algoritmo de programação dinâmica de tempo polinomial para maximizar a melhoria total.
  • Construiu a fronteira de Pareto para o bem-estar social do grupo para abordar a justiça (objetivos max-min).
  • Provou um resultado estrutural: existe uma solução que é simultaneamente $\Omega(1/g^3)$-aproximadamente ótima para cada um de $g$ grupos (sob capacidade de melhoria comum).
  • Demonstrou que soluções max-min justas não garantem aproximação constante para todos os grupos simultaneamente.

3.2 Gerando Insights Acionáveis (Capítulo 4)

• Problema: Gerar Explicações Contrafatuais (CFEs) que sejam acionáveis e se assemelhem a ações do mundo real em grandes espaços de estados.
• Contribuições:
  • Propôs geradores de CFE de agente único e baseados em dados que fazem a ponte entre espaços de características e espaços de ações.
  • Introduziu CFEs de "alto nível" que modificam menos características, mas resultam em maior melhoria do agente em comparação com as modificações tradicionais de características de baixo nível.
  • Demonstrou que geradores baseados em dados podem produzir CFEs válidos de forma eficiente, aproveitando as similaridades entre os estados dos agentes, melhorando a escalabilidade e a eficiência de recursos.

3.3 Revelação Seletiva de Modelos de Papel (Capítulo 5)

• Problema: Um planejador social deve revelar rótulos (positivo/negativo) de modelos de papel para maximizar o número de agentes que emulam alvos positivos, sujeito a um orçamento limitado.
• Contribuições:
  • Mostrou que a função de bem-estar social é submodular apenas quando o planejador é restrito a revelar alvos positivos (resultando em uma aproximação de $(1-1/e)$ via algoritmos gulosos).
  • Provou que permitir a revelação de alvos negativos quebra a submodularidade, podendo levar a um desempenho arbitrariamente ruim.
  • Introduziu uma função de bem-estar proxy que permanece submodular mesmo com alvos negativos, restaurando as garantias de aproximação.
  • Estabeleceu que o problema permanece NP-Difícil independentemente das restrições de divulgação.

Parte III: Otimizando Conjuntamente Objetivos Concorrentes

Foco: Classificação de agentes que podem tanto melhorar quanto manipular (game).

4.1 Aprendizado PAC com Melhorias (Capítulo 6)

• Problema: Como a capacidade de melhoria afeta a aprendibilidade e a complexidade de amostra?
• Contribuições:
  • Analisou o aprendizado PAC em configurações onde os agentes podem se mover dentro de uma vizinhança (modelo de grafo) para melhorar.
  • Aprendizado de Erro Zero: Provou que, sob distribuições uniformes, é possível alcançar erro de generalização zero com uma complexidade de amostra de $O(\frac{n \log n}{d_{min}^+ + 1})$, onde $d_{min}^+$ é o grau mínimo de nós positivos. Isso contrasta com os modelos PAC padrão, que frequentemente possuem limites de erro constantes.
  • Mostrou que estratégias de aprendizado avessas ao risco (penalizando fortemente falsos positivos) são particularmente eficazes em configurações de melhoria.

4.2 Teoria da Classificação de Agentes que Melhoram e Manipulam (Capítulo 7)

• Problema: Projetar classificadores para maximizar verdadeiros positivos enquanto minimiza falsos positivos quando os agentes podem manipular (arestas vermelhas) ou melhorar (arestas azuis).
• Modelos:
  • Modelo Discreto Geral: Agentes e critérios formam um grafo bipartido ponderado e colorido.
  • Modelo Linear: Agentes movem-se em $\mathbb{R}^d$; algumas dimensões são melhorias, outras são manipulações (gaming).
• Contribuições:
  • Algoritmo: Desenvolveu um algoritmo eficiente (Algoritmo 7.1) para encontrar um conjunto de critérios que maximiza os verdadeiros positivos sujeito a zero falsos positivos no modelo discreto geral.
  • Dureza: Provou que maximizar verdadeiros positivos sujeito a um limite não nulo de falsos positivos é NP-difícil, mesmo no modelo linear.
  • Classificação Linear: Mostrou que encontrar um classificador linear que classifique todos os agentes com precisão e qualifique todos os agentes melhoráveis é possível, mas maximizar verdadeiros positivos com mínimos falsos positivos em um espaço 2D requer construções algorítmicas específicas.

4.3 Estudo Empírico (Capítulo 8)

• Problema: Avaliar algoritmos conscientes de melhoria-manipulação em dados do mundo real.
• Resultados:
  • Aversão ao Risco: Estratégias avessas ao risco (ex.: funções de perda ponderadas que penalizam falsos positivos) superam consistentemente os modelos padrão na redução de erro conforme os orçamentos de melhoria aumentam.
  • Trocas (Trade-offs): Embora aumentar a aversão ao risco reduza o erro de classificação, a aversão excessiva ao risco pode diminuir a utilidade geral.
  • Erro Zero vs. Utilidade: Alcançar erro de classificação zero não garante utilidade perfeita; a razão entre verdadeiros positivos e falsos positivos é crítica.
  • Restrições Geométricas: A escolha da norma ($\ell_\infty$ vs. $\ell_2$) molda significativamente a direção e a extensão dos movimentos viáveis dos agentes.

4. Significância e Alegações

A tese afirma avançar o aprendizado de máquina centrado no humano ao fornecer princípios e métodos para projetar sistemas de IA que se alinhem com as necessidades, valores e capacidades humanas.

• Avanço Teórico: Estende a teoria do aprendizado para "aprendizado com melhorias", demonstrando que a agência do agente pode reduzir a complexidade de amostra e permitir o aprendizado de erro zero sob condições específicas, desafiando as suposições padrão do aprendizado PAC.
• Robustez Algorítmica: Fornece resultados estruturais sobre a não monotonicidade do posicionamento de alvos e a dureza de equilibrar melhoria e manipulação, ofereando algoritmos que são robustos ao comportamento estratégico.
• Design Prático: Através de trabalho empírico e experimental, oferece insights acionáveis para formuladores de políticas e designers de sistemas:
  • Segurança de Criança-IA: Designers devem considerar que os pais podem não distinguir entre robôs e alto-falantes inteligentes em relação à agressão, sugerindo que os recursos de segurança devem ser consistentes entre os tipos de dispositivos.
  • Recurso (Recourse): Ir além das explicações baseadas em características para orientações baseadas em ações e dados melhora a escalabilidade e a justiça do recurso algorítmico.
  • Classificação Estratégica: Sistemas devem empregar estratégias avessas ao risco e equilibrar cuidadosamente o custo de falsos positivos contra os benefícios de incentivar a melhoria genuína.

O trabalho integra análise teórica rigorosa com modelagem baseada em dados e experimentação com seres humanos para preencher a lacuna entre a justiça algorítmica abstrata e as realidades práticas da interação humano-IA.