Resumen Técnico: Modelando las Interacciones Humano-IA para Proporcionar Vías de Mejora y Equilibrar Objetivos Contrapuestos

Autora: Keziah Naggita
Institución: Toyota Technological Institute at Chicago
Grado: Doctorado en Ciencias de la Computación (Junio 2026)

1. Planteamiento del Problema

La proliferación de sistemas de IA en la toma de decisiones de alto riesgo (por ejemplo, contratación, admisiones) y en entornos domésticos crea un bucle de retroalimentación donde los individuos (agentes) forman creencias sobre el sistema y actúan estratégicamente para influir en los resultados. Estas acciones pueden ser mejoras genuinas (potenciar las cualificaciones subyacentes) o manipulación (gaming) (manipular características observables sin una mejora genuina).

Esta tesis aborda tres desafíos centrales al modelar estas interacciones:

1. Dinámicas del Desarrollo y del Comportamiento: Cómo perciben y responden los humanos (específicamente los padres) ante el comportamiento agresivo de los niños hacia dispositivos impulsados por IA (robots, altavoces inteligentes, tabletas), y cómo la antropomorfización del dispositivo influye en estas respuestas.
2. Incentivar la Mejora: Cómo pueden los responsables de la toma de decisiones diseñar objetivos y proporcionar orientación para maximizar la mejora genuina del agente, garantizando al mismo tiempo la equidad y la alcanzabilidad.
3. Equilibrar Objetivos Contrapuestos: Cómo pueden diseñarse los sistemas de IA para maximizar los verdaderos positivos (identificar agentes cualificados) y minimizar los falsos positivos (rechazar agentes no cualificados) cuando los agentes pueden tanto mejorar como manipular el sistema.

2. Metodología

La tesis emplea un enfoque metodológico multifacético que integra:

• Experimentos con Sujetos Humanos: Un estudio en línea entre sujetos ($N=332$) que investiga las reacciones parentales ante la agresión infantil hacia robots, altavoces inteligentes y tabletas.
• Diseño Algorítmico y Optimización: Desarrollo de algoritmos de tiempo polinomial y pseudo-polinomial para la colocación de objetivos, la generación de explicaciones contrafácticas (CFE) y la selección de modelos a seguir.
• Análisis Teórico: Aplicación de la teoría del aprendizaje (aprendizaje PAC), la teoría de grafos y la teoría de la complejidad (pruebas de NP-dureza) para analizar la capacidad de aprendizaje, la complejidad de la muestra y los límites de clasificación en entornos estratégicos.
• Evaluación Empírica: Experimentos con conjuntos de datos del mundo real (Adult, OULAD, Law School) y datos semi-sintéticos para evaluar el rendimiento algorítmico bajo diversas estrategias de aversión al riesgo y restricciones geométricas.

3. Contribuciones Clave y Resultados

Parte I: Interacciones Humano-IA mediante Experimentos con Sujetos Humanos

Enfoque: Reacciones parentales ante la agresión infantil hacia dispositivos de IA.

• Método: Un diseño de 2 (agresión: agresivo vs. neutral) $\times$ 3 (dispositivo: robot, altavoz inteligente, tableta) $\times$ 3 (modalidad: audio, físico, audio+físico).
• Hallazgos Clave:
  • Impacto de la Agresión: Los padres expresaron una preocupación significativamente mayor y fueron más propensos a intervenir (reprender o retirar el dispositivo) cuando sus hijos mostraban un comportamiento agresivo en comparación con un comportamiento neutral.
  • Percepción del Dispositivo: Aunque los padres percibieron a los robots y a los altavoces inteligentes como más antropomórficos, animados y cálidos que a las tabletas, no se encontró una diferencia significativa en la preocupación parental o en la probabilidad de intervención entre los robots y los altavoces inteligentes. Esto contradice la hipótesis de que la encarnación física (robots) aumenta de forma única la preocupación en comparación con los asistentes de voz sin cuerpo físico.
  • Estilos de Intervención: Los padres respondieron al comportamiento neutral con aliento y asistencia, mientras que el comportamiento agresivo desencadenó reprimendas y el uso de la situación como una oportunidad de aprendizaje.

Parte II: Modelar Interacciones para Proporcionar Vías de Mejora

Enfoque: Diseño de mecanismos para incentivar la mejora genuina.

3.1 Establecimiento de Objetivos Alcanzables (Capítulo 3)

• Problema: Determinar la colocación óptima de $k$ niveles de habilidad objetivo para maximizar la mejora total del agente, considerando que los agentes mejoran hacia el objetivo más cercano y alcanzable.
• Desafíos: La colocación de objetivos es no monotónica; añadir un objetivo puede reducir la mejora total al causar que los agentes cambien de metas distantes y de alto valor a metas más cercanas y de menor valor.
• Contribuciones:
  • Desarrollo de un algoritmo de programación dinámica de tiempo polinomial para maximizar la mejora total.
  • Construcción de la frontera de Pareto para el bienestar social del grupo para abordar la equidad (objetivos max-min).
  • Demostración de un resultado estructural: Existe una solución que es simultáneamente $\Omega(1/g^3)$-aproximadamente óptima para cada uno de los $g$ grupos (bajo una capacidad de mejora común).
  • Demostración de que las soluciones de equidad max-min no garantizan una aproximación constante para todos los grupos simultáneamente.

3.2 Generación de Perspectivas Accionables (Capítulo 4)

• Problema: Generar Explicaciones Contrafácticas (CFE) que sean accionables y se asemejen a acciones del mundo real en espacios de estados extensos.
• Contribuciones:
  • Propuesta de generadores de CFE de agente único y basados en datos que conectan los espacios de características con los de acción.
  • Introducción de CFEs de "alto nivel" que modifican menos características pero resultan en una mayor mejora del agente en comparación con las modificaciones tradicionales de características de bajo nivel.
  • Demostración de que los generadores basados en datos pueden producir eficientemente CFEs válidos aprovechando las similitudes entre los estados de los agentes, mejorando la escalabilidad y la eficiencia de los recursos.

3.3 Revelación Selectiva de Modelos a Seguir (Capítulo 5)

• Problema: Un planificador social debe revelar etiquetas (positivas/negativas) de modelos a seguir para maximizar el número de agentes que emulan objetivos positivos, sujeto a un presupuesto limitado.
• Contribuciones:
  • Demostración de que la función de bienestar social es submodular solo cuando el planificador está restringido a revelar objetivos positivos (obteniendo una aproximación de $(1-1/e)$ mediante algoritmos voraces/greedy).
  • Demostración de que permitir la revelación de objetivos negativos rompe la submodularidad, lo que potencialmente conduce a un rendimiento arbitrariamente pobre.
  • Introducción de una función de bienestar proxy que permanece submodular incluso con objetivos negativos, restaurando las garantías de aproximación.
  • Establecimiento de que el problema sigue siendo NP-duro independientemente de las restricciones de divulgación.

Parte III: Optimización Conjunta de Objetivos Contrapuestos

Enfoque: Clasificación de agentes que pueden tanto mejorar como manipular.

4.1 Aprendizaje PAC con Mejoras (Capítulo 6)

• Problema: ¿Cómo afecta la capacidad de mejora a la capacidad de aprendizaje y a la complejidad de la muestra?
• Contribuciones:
  • Análisis del aprendizaje PAC en entornos donde los agentes pueden moverse dentro de un vecindario (modelo de grafo) para mejorar.
  • Aprendizaje de Error Cero: Demostración de que, bajo distribuciones uniformes, es posible lograr un error de generalización de cero con una complejidad de muestra de $O(\frac{n \log n}{d_{min}^+ + 1})$, donde $d_{min}^+$ es el grado mínimo de los nodos positivos. Esto contrasta con los modelos PAC estándar que a menudo presentan límites de error constantes.
  • Demostración de que las estrategias de aprendizaje con aversión al riesgo (que penalizan fuertemente los falsos positivos) son particularmente efectivas en entornos de mejora.

4.2 Teoría de la Clasificación de Agentes que Mejoran y Manipulan (Capítulo 7)

• Problema: Diseñar clasificadores para maximizar los verdaderos positivos mientras se minimizan los falsos positivos cuando los agentes pueden manipular (aristas rojas) o mejorar (aristas azules).
• Modelos:
  • Modelo Discreto General: Los agentes y los criterios forman un grafo bipartito ponderado y coloreado.
  • Modelo Lineal: Los agentes se mueven en $\mathbb{R}^d$; algunas dimensiones son de mejora y otras son de manipulación.
• Contribuciones:
  • Algoritmo: Desarrollo de un algoritmo eficiente (Algoritmo 7.1) para encontrar un conjunto de criterios que maximiza los verdaderos positivos sujeto a cero falsos positivos en el modelo discreto general.
  • Dureza: Demostración de que maximizar los verdaderos positivos sujeto a un límite distinto de cero de falsos positivos es NP-duro, incluso en el modelo lineal.
  • Clasificación Lineal: Demostración de que encontrar un clasificador lineal que clasifique a todos los agentes con precisión y califique a todos los agentes mejorables es posible, pero maximizar los verdaderos positivos con mínimos falsos positivos en un espacio 2D requiere construcciones algorítmicas específicas.

4.3 Estudio Empírico (Capítulo 8)

• Problema: Evaluación de algoritmos conscientes de la mejora y la manipulación en datos del mundo real.
• Resultados:
  • Aversión al Riesgo: Las estrategias de aversión al riesgo (por ejemplo, funciones de pérdida ponderadas que penalizan los falsos positivos) superan consistentemente a los modelos estándar en la reducción del error a medida que aumentan los presupuestos de mejora.
  • Compromisos (Trade-offs): Si bien aumentar la aversión al riesgo reduce el error de clasificación, una aversión excesiva puede disminuir la utilidad general.
  • Error Cero vs. Utilidad: Lograr un error de clasificación de cero no garantiza una utilidad perfecta; la relación entre verdaderos positivos y falsos positivos es crítica.
  • Restricciones Geométricas: La elección de la norma ($\ell_\infty$ vs. $\ell_2$) moldea significativamente la dirección y la extensión de los movimientos factibles de los agentes.

4. Significado y Reivindicaciones

Esta tesis pretende avanzar en el aprendizaje automático centrado en el humano proporcionando principios y métodos para diseñar sistemas de IA que se alineen con las necesidades, valores y capacidades humanas.

• Avance Teórico: Extiende la teoría del aprendizaje al "aprendizaje con mejoras", demostrando que la agencia del agente puede reducir la complejidad de la muestra y permitir el aprendizaje de error cero bajo condiciones específicas, desafiando los supuestos estándar del aprendizaje PAC.
• Robustez Algorítmica: Proporciona resultados estructurales sobre la no monotonicidad de la colocación de objetivos y la dureza de equilibrar la mejora y la manipulación, ofreciendo algoritmos que son robustos ante el comportamiento estratégico.
• Diseño Práctico: A través de su trabajo empírico y experimental, ofrece ideas accionables para responsables de políticas y diseñadores de sistemas:
  • Seguridad Infantil-IA: Los diseñadores deben considerar que los padres pueden no distinguir entre robots y altavoces inteligentes respecto a la agresión, lo que sugiere que las funciones de seguridad deben ser consistentes entre tipos de dispositivos.
  • Recurso (Recourse): Ir más allá de las explicaciones basadas en características hacia una guía basada en acciones y datos mejora la escalabilidad y la equidad del recurso algorítmico.
  • Clasificación Estratégica: Los sistemas deben emplear estrategias de aversión al riesgo y equilibrar cuidadosamente el coste de los falsos positivos frente a los beneficios de incentivar la mejora genuina.

El trabajo integra un análisis teórico riguroso con el modelado basado en datos y la experimentación con sujetos humanos para cerrar la brecha entre la equidad algorítmica abstracta y las realidades prácticas de la interacción humano-IA.