Community-Informed AI Models for Police Accountability

Este artículo propone un enfoque de inteligencia artificial informado por la comunidad para desarrollar herramientas que analicen el video de cámaras corporales policiales, integrando las perspectivas de diversos grupos de interés mediante equipos multidisciplinarios para mejorar la rendición de cuentas y la legitimidad democrática en el gobierno.

Lo esencial

Imagina que la policía es como un árbitro en un partido de fútbol. Su trabajo es hacer cumplir las reglas, pero a veces, dependiendo de quién esté mirando, lo que parece una falta clara para un aficionado, puede parecer una jugada legítima para el entrenador.

Este artículo habla sobre cómo usar la Inteligencia Artificial (IA) para revisar las grabaciones de las cámaras que llevan los policías (las cámaras corporales) y asegurarse de que el "árbitro" esté actuando bien. Pero hay un problema: si solo le pedimos a la IA que aprenda de los entrenadores (la policía) o de un grupo pequeño de expertos, la IA podría tener una visión muy limitada y no entender lo que siente la gente común.

Aquí te explico la idea principal del artículo usando una analogía sencilla:

🎭 El Problema: La "Verdad" depende de quién mira

Imagina que grabas una discusión en una fiesta.

• Si le preguntas a 10 personas que viven en la casa, dirán: "¡Fue una discusión acalorada pero normal!".
• Si le preguntas a 10 personas que viven en la calle afuera, dirán: "¡Parecía una pelea violenta y peligrosa!".

Ambas opiniones son válidas. Si entrenas a una IA para que solo escuche a los de adentro, nunca entenderá el miedo de los de afuera. Y en el caso de la policía, eso es peligroso porque la gente de la calle (los ciudadanos) es a quien la policía debe servir.

🛠️ La Solución: La IA "Comunitaria"

Los autores proponen crear una IA que tenga "múltiples ojos". En lugar de buscar una sola "verdad absoluta" (como si solo hubiera una forma correcta de ver las cosas), la IA debe aprender a entender que diferentes personas sienten cosas diferentes ante la misma situación.

Para lograr esto, hicieron algo muy inteligente en Los Ángeles:

1. Escucharon a todos primero: Antes de programar nada, hicieron encuestas y charlas con gente de todos los barrios, de todas las razas y edades, e incluso con policías retirados.

   • Analogía: Fue como hacer una "reunión de vecinos" gigante antes de construir una casa. Descubrieron que, aunque todos querían ser tratados con respeto, la razón por la que lo querían era distinta. Para algunos, el respeto significa "ser amable"; para otros (especialmente personas de color), el respeto significa "no tener miedo de que me lastimen o me maten".

2. Contrataron a un equipo diverso para "entrenar" a la IA: En lugar de contratar solo a expertos en tecnología, contrataron a personas que habían sido arrestadas, a ex-policías, a jóvenes, a mayores, a hombres y mujeres.

   • Analogía: Imagina que estás entrenando a un perro para que reconozca "peligro". Si solo le enseñas a un perro que vive en una casa segura, nunca entenderá el peligro real de la calle. Necesitas entrenarlo con personas que han vivido en la calle y personas que han estado en la policía para que el perro (la IA) entienda el peligro desde todas las perspectivas.

3. La IA aprende a aceptar el desacuerdo: Cuando estas personas diversas miran el mismo video de un policía deteniendo a un conductor, a veces no están de acuerdo.

   • El truco: En lugar de borrar esas opiniones diferentes como "ruido" o "errores", la IA las guarda. Aprende que el desacuerdo es información valiosa. La IA aprende a decir: "Veo que el grupo A siente miedo aquí, pero el grupo B siente que es normal".

🌟 ¿Por qué es importante esto?

Si la IA solo aprende de la perspectiva de la policía, podría decir: "Todo está bien, el policía fue amable". Pero si la IA ha sido entrenada con la perspectiva de la comunidad, podría decir: "El policía fue amable, pero el conductor estaba aterrorizado y eso es un problema de seguridad".

En resumen:
Este artículo dice que para que la tecnología sirva a la democracia y no solo a los poderosos, necesitamos que científicos sociales (sociólogos, politólogos) trabajen junto a los ingenieros de computadoras.

Es como si para construir un puente, no solo necesitaras ingenieros que calculen el peso, sino también a los vecinos que cruzan el puente todos los días para decirte: "Oye, aquí hace mucho viento y me da miedo cruzar".

🚀 El resultado final

El objetivo es crear una herramienta que pueda revisar miles de videos de policías automáticamente, pero que tenga la sensibilidad humana de entender que lo que es "respetuoso" para uno, puede ser "amenazante" para otro. Así, la policía puede mejorar su trabajo y la comunidad puede sentirse más segura y escuchada.

La lección clave: La tecnología no es neutral. Si no le enseñamos a la IA a ver el mundo con los ojos de toda la comunidad, solo estará reforzando los prejuicios de unos pocos.

Resumen técnico

Resumen Técnico: Modelos de IA Informados por la Comunidad para la Rendición de Cuentas Policial

1. El Problema

La interacción cara a cara entre la policía y el público es fundamental para la legitimidad democrática y el bienestar individual. Si bien las cámaras corporales (BWC, por sus siglas en inglés) se introdujeron para aumentar la transparencia, la revisión manual de las vastas cantidades de footage generadas es logísticamente inviable y costosa.

El desafío central identificado en el artículo es que los modelos de Inteligencia Artificial (IA) actuales para analizar estas interacciones a menudo:

• Ignoran la diversidad de perspectivas: Suelen entrenarse bajo la premisa de una "verdad única" (ground truth) objetiva, lo que privilegia la visión de los grupos de poder (ej. departamentos de policía) y excluye las percepciones de la ciudadanía.
• Reproducen sesgos: Al no incorporar las preferencias y experiencias de los gobernados, estas herramientas pueden amplificar sesgos existentes en lugar de mejorar la rendición de cuentas democrática.
• Carecen de legitimidad: En un contexto de gobernanza democrática, donde los ciudadanos delegan autoridad al estado, las herramientas de auditoría deben reflejar las prioridades de la ciudadanía, no solo las de la institución fiscalizada.

2. Metodología

Los autores proponen un enfoque multidisciplinario e inductivo que integra ciencias sociales e ingeniería. El proyecto piloto, denominado "Everyday Respect", se centra en el análisis de footage de paradas de tráfico del Departamento de Policía de Los Ángeles (LAPD).

Fases del Enfoque Propuesto:

• A. Investigación de Partes Interesadas (Stakeholders):

  • Se realizaron encuestas, entrevistas y grupos focales con residentes diversos, organizaciones comunitarias y oficiales de policía.
  • Objetivo: Identificar qué comportamientos son salientes para diferentes grupos y cómo varían sus percepciones (ej. la diferencia en cómo la comunidad blanca vs. negra/latina percibe el "respeto" y el riesgo de violencia).
  • Hallazgo clave: Mientras todos valoran el respeto, las razones difieren: para grupos minoritarios, el respeto es una señal de seguridad física y legal; para otros, es una cuestión de cortesía.

• B. Estrategia de Medición Informada por la Comunidad:

  • Se diseñaron métricas basadas en los hallazgos cualitativos, incluyendo:
    • Preguntas de investigación (ej. "¿Sabe por qué lo detuve?").
    • Solicitudes de consentimiento para registros.
    • Niveles de respeto y miedo percibido por ambas partes (conductor y oficial).

• C. Creación de Datos de Entrenamiento Multiperspectiva:

  • Reclutamiento de Anotadores: Se reclutó intencionalmente a una diversidad de anotadores (raza, género, edad, antecedentes de encarcelamiento, ex-oficiales de policía) para capturar un espectro amplio de visiones.
  • Anotación Multiperspectiva: En lugar de buscar un consenso único, se entrenó a los anotadores para que mantuvieran sus perspectivas individuales. Se utilizó un proceso de "anotador en el bucle" (annotator-in-the-loop) con sesiones de capacitación separadas por grupos demográficos para evitar la imposición de una "visión profesional" dominante.
  • Modelado: Se utilizaron modelos de aprendizaje profundo (multitarea) que no descartan el desacuerdo entre anotadores como "ruido", sino que lo tratan como información valiosa sobre la variabilidad de la percepción humana.

• D. Análisis Estadístico:

  • Se aplicaron Modelos Mixtos Lineales (LMM) y Modelos Mixtos Logísticos para descomponer la varianza en las puntuaciones de anotación.
  • Se compararon ítems objetivos (ej. "¿Se realizó un registro?") con ítems subjetivos (ej. "¿Hubo respeto?", "¿Hubo miedo?").

3. Contribuciones Clave

El artículo establece principios generales para el desarrollo de IA en contextos de rendición de cuentas gubernamental:

1. Reconceptualización del "Stakeholder": En la IA para gobernanza, el ciudadano es el principal interesado, no solo el departamento de policía que compra la tecnología.
2. Rechazo a la "Verdad Única": Se propone un marco donde la divergencia en las anotaciones humanas es una característica deseable que refleja la realidad subjetiva de las interacciones sociales, no un error de medición.
3. Protocolo de Anotación Diversa: Un marco operativo que incluye:
   • Reclutamiento dirigido basado en dimensiones salientes (ej. historial de arrestos).
   • Capacitación que equilibra definiciones compartidas con la preservación de perspectivas individuales.
   • Retroalimentación continua (anotador en el bucle) para mejorar la calidad de los datos y el bienestar de los anotadores.
4. Privacidad vs. Transparencia: Demuestra cómo la IA puede analizar datos sensibles (BWC) sin que humanos revisen cada video, protegiendo la privacidad de los ciudadanos mientras se extraen patrones de comportamiento a gran escala.

4. Resultados

• Variabilidad de los Anotadores: El análisis estadístico reveló que, para ítems objetivos, la varianza entre anotadores es baja. Sin embargo, para ítems subjetivos (como respeto, miedo o legitimidad), la varianza atribuible al anotador es sustancial, a veces igual o mayor que la varianza atribuible al video mismo.
• Impacto de la Perspectiva: La identidad y experiencia del anotador (ej. ex-oficial vs. persona con antecedentes penales) influyen significativamente en cómo se evalúa la interacción.
• Validación del Enfoque: Los resultados confirman que entrenar modelos con un solo tipo de anotador (o buscando un consenso forzado) ocultaría las percepciones críticas de grupos marginados, comprometiendo la utilidad democrática de la herramienta.
• Costo y Escalabilidad: El proyecto costó aproximadamente $600,000 en salarios de anotadores para 1,000 paradas, destacando que este enfoque es intensivo en recursos pero necesario para la equidad.

5. Significado e Implicaciones

• Para la Gobernanza Democrática: Este enfoque transforma la IA de una herramienta de vigilancia unidireccional a un mecanismo de rendición de cuentas bidireccional que respeta la agencia y la percepción de la ciudadanía.
• Para la Ciencia de Datos y Políticas Públicas: Proporciona un modelo replicable para otros dominios de interacción humano-gobierno (ej. educación, salud), donde la subjetividad y el poder son factores críticos.
• Rol de las Ciencias Sociales: El artículo argumenta que los científicos sociales son esenciales en el desarrollo de IA para garantizar que los modelos no solo sean técnicamente precisos, sino también éticamente robustos y democráticamente legítimos.
• Desafíos Futuros: Reconoce las barreras de acceso a datos sensibles controlados por el gobierno y la necesidad de equipos de investigación grandes y bien financiados para implementar estos estándares de calidad.

En conclusión, el artículo demuestra que la IA informada por la comunidad es posible y necesaria. Al integrar explícitamente la diversidad de perspectivas humanas en el proceso de entrenamiento de modelos, se pueden crear herramientas que no solo detecten comportamientos, sino que evalúen la legitimidad de la acción gubernamental desde la visión de aquellos a quienes sirve.