🤖 machine learning

FedCF: Fair Federated Conformal Prediction

Este artículo presenta FedCF, un marco que extiende la Equidad Conforme al entorno del Aprendizaje Federado para auditar y garantizar una cuantificación de la incertidumbre equitativa entre diversos grupos demográficos mientras aprovecha el supuesto de intercambiabilidad.

Autores originales: Anutam Srinivasan, Aditya T. Vadlamani, Amin Meghrazi, Srinivasan Parthasarathy

Publicado 2026-06-02

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Anutam Srinivasan, Aditya T. Vadlamani, Amin Meghrazi, Srinivasan Parthasarathy

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás contratando a un equipo de chefs de diferentes vecindarios para crear un único y perfecto libro de recetas. Cada chef tiene sus propios ingredientes locales y su propio estilo de cocina, pero no pueden compartir sus recetas secretas ni sus listas de ingredientes entre sí debido a las reglas de privacidad. Este es el mundo del Aprendizaje Federado (Federated Learning): muchas personas entrenando un modelo juntas sin compartir sus datos privados.

¿El problema? A veces, el libro de recetas final puede saber de maravilla para algunos grupos de personas, pero puede ser terrible para otros. Tal vez funciona perfectamente para los amantes de la comida picante, pero fracasa estrepitosamente para quienes prefieren sabores suaves. En términos de aprendizaje automático, esto es la injusticia (unfairness).

Este artículo presenta una nueva herramienta llamada FedCF (Conformal Fairness Federada) para solucionar esto. Así es como funciona, desglosado en conceptos simples:

1. La "Red de Seguridad" (Predicción Conformal)

Antes de hablar de la justicia, debemos entender la "Red de Seguridad". En el aprendizaje automático, los modelos suelen simplemente adivinar una respuesta (por ejemplo, "esto es un gato"). Pero, ¿y si el modelo no está seguro?

Predicción Estándar: "Esto es un gato". (Si se equivoca, no tienes ninguna advertencia).
Predicción Conformal (CP): "Estoy un 95% seguro de que esto es un gato, pero también podría ser un perro". Te ofrece una lista de posibilidades. Si el modelo está seguro, la lista es corta (solo "gato"). Si no está seguro, la lista es larga ("gato, perro, zorro").
La Garantía: El artículo garantiza que, si dices "95% de confianza", la respuesta real estará realmente en esa lista el 95% de las veces. Es una promesa matemática de fiabilidad.

2. El Problema: La Red de Seguridad es Sesgada

Los autores descubrieron que, aunque esta "Red de Seguridad" funciona bien en promedio, no es justa.

La Analogía: Imagina que la Red de Seguridad es una red de pesca. Para el grupo de datos "ricos", la red tiene agujeros pequeños, atrapando casi todo. Para el grupo "pobre", la red tiene agujeros enormes, dejando escapar muchos peces.
El Resultado: El modelo puede ser un 95% fiable para el Grupo A, pero solo un 80% fiable para el Grupo B. Esto es injusto, especialmente en campos críticos como la salud o las finanzas.

3. La Solución: FedCF (El Auditor de Justicia)

FedCF es una nueva forma de comprobar y corregir este sesgo sin que los chefs (clientes) tengan que mostrar nunca sus ingredientes secretos (datos) al chef principal (servidor).

Este es el proceso paso a paso:

La "Auditoría Local": Cada cliente (chef) observa sus propios datos locales. Cuenta cuántas veces su "Red de Seguridad" atrapa la respuesta correcta para diferentes grupos (por ejemplo, "¿Con qué frecuencia mi red atrapa la respuesta correcta para el Grupo A frente al Grupo B?"). No envían los datos; solo envían un número simple (una puntuación) que representa este conteo.
El "Rompecabezas Global": El servidor recopila estos números simples de todos. No sabe quién tiene qué datos, pero puede combinar matemáticamente estos números para determinar la justicia general de todo el sistema.
El "Mando de Ajuste": Si el servidor ve que la red del Grupo B es demasiado suelta (injusta), gira un "mando" (un valor de umbral). Esto aprieta la red para el Grupo B, haciendo que la lista de predicciones sea ligeramente más grande (menos eficiente) pero más precisa.
La Búsqueda de Descenso: En lugar de adivinar la configuración del mando una por una (lo que toma una eternidad), FedCF utiliza un método inteligente de "descenso". Es como deslizarse por una colina para encontrar el punto más bajo. Encuentra rápidamente la configuración perfecta donde la red es justa para todos, sin necesidad de miles de rondas de comunicación.

4. Dos Formas de Jugar (Privacidad vs. Velocidad)

El artículo ofrece dos formas de enviar estos números, dependiendo de qué te importe más:

La Vía "Rápida": Los clientes envían solo unos pocos números. Es rápido y utiliza menos ancho de banda de internet, pero un servidor astuto podría ser capaz de adivinar un poco sobre la distribución de los datos.
La Vía "Privada": Los clientes realizan más cálculos por su cuenta y envían un número de "diferencia" (como decir "tengo 5 más que el promedio" en lugar de "tengo 5"). Esto oculta mucho mejor los datos individuales, pero requiere enviar un poco más de información.
El Híbrido: ¡Puedes mezclar y combinar! Algunos clientes pueden ser rápidos, otros privados, y el sistema sigue funcionando.

5. Lo que Encontraron (Los Resultados)

Los autores probaron esto con datos del mundo real (como registros de ingresos, niveles educativos e imágenes de condiciones de la piel) divididos en diferentes regiones.

Las Buenas Noticias: FedCF logró que la "Red de Seguridad" fuera justa. Aseguró que la fiabilidad de la predicción fuera aproximadamente la misma para todos los grupos (por ejemplo, si era del 95% para un grupo, era del 95% para el otro).
El Intercambio (Trade-off): Para que sea justo, las "listas" de posibilidades a veces se hicieron un poco más largas (menos eficientes). Pero el artículo muestra que este coste es pequeño comparado con el beneficio de la justicia.
La Función de "Auditoría": También demostraron que este sistema puede usarse como una "boleta de calificaciones". Los reguladores pueden usarlo para comprobar si un modelo es justo sin necesidad de ver los datos privados de las personas involucradas.

Resumen

FedCF es como un inspector de justicia para un equipo de trabajadores remotos. Asegura que el producto final (el modelo de IA) trate a todos por igual, a pesar de que los trabajadores nunca compartieron sus notas privadas. Utiliza matemáticas inteligentes para ajustar los niveles de confianza del modelo para que ningún grupo reciba una red de seguridad "con fugas", todo ello respetando la privacidad y manteniendo la comunicación rápida.

Resumen Técnico: FedCF: Predicción Conforme Federada para la Equidad

Declaración del Problema

Los modelos de aprendizaje automático suelen exhibir un rendimiento dispar entre diferentes subgrupos demográficos, lo que genera sesgos que pueden exacerbarse en domas críticos para la seguridad como la salud y las finanzas. Si bien la Predicción Conforme (CP, por sus siglas en inglés) proporciona una cuantificación de la incertidumbre rigurosa, agnóstica al modelo y con garantías de cobertura de muestra finita, la CP estándar es agnóstica a los atributos sensibles y no garantiza la equidad. Los métodos existentes de "Equidad de Predicción Conforme" (CF) abordan esto asegurando garantías de cobertura condicional a través de los subgrupos, pero dependen del acceso centralizado a los datos.

En el Aprendizaje Federado (FL), los datos permanecen descentralizados para preservar la privacidad, lo que hace imposible la aplicación de la CF estándar. Además, trabajos recientes indican que la transición hacia un entrenamiento descentralizado que preserve la privacidad puede exacerbar inadvertidamente la falta de equidad debido a la heterogeneidad de los datos y las capacidades variables de los clientes. El desafío central es extender las garantías teóricas de la CF al entorno federado sin violar las restricciones de privacidad ni incurrir en una sobrecarga de comunicación prohibitiva, mientras se tiene en cuenta la naturaleza no-IID de los datos federados.

Metodología

Los autores proponen FedCF (Federated Conformal Fairness), un marco que adapta el marco de la Equidad Conforme (CF) al entorno federado. La metodología se basa en tres pilares:

1. Reformulación de Optimización Basada en el Descenso

El algoritmo CF original emplea una búsqueda de cuadrícula sobre un espacio discretizado para encontrar el umbral mínimo $\lambda$ que satisfaga las restricciones de equidad. Esto es ineficiente en FL debido al alto costo de las rondas de comunicación. FedCF reformula esto como un problema de optimización basado en el descenso. En lugar de una búsqueda de cuadrícula, el algoritmo actualiza el umbral $\lambda$ de forma adaptativa utilizando una regla de actualización basada en el impulso (momentum). Esto permite que el sistema converja a un $\lambda$ que satisfaga las restricciones en significativamente menos rondas de comunicación (demostrado como una aceleración de ~10x en experimentos) mientras escapa de los mínimos locales mediante reinicios aleatorios.

2. Formulación de Brecha de Cobertura de Mezcla de Clientes

Para manejar datos descentralizados, FedCF no puede estimar directamente la cobertura condicional requerida para las métricas de equidad. Los autores introducen una formalización de mezcla de clientes basada en el supuesto de intercambiabilidad parcial. Ellos descomponen el nivel de cobertura específico de la equidad global ( $\Pi_{cov}$ ) en cuatro términos:

Términos I y II: Computados localmente por cada cliente basados en sus datos de calibración y el par grupo-etiqueta específico.
Término III: La probabilidad de que un punto de prueba sea intercambiable con los datos de un cliente específico (ponderado por el tamaño del cliente).
Término IV: La probabilidad global de que el filtro de equidad esté activo.

Al derivar límites de intervalo (Teorema 3.1) para estos términos, el servidor puede agregar estadísticas locales para acotar la brecha de cobertura global sin ver nunca los datos brutos de los clientes. El marco también ofrece una variante de Estimación de Máxima Verosimilitud (MLE) para estimaciones más ajustadas, aunque menos conservadoras, bajo un supuesto de parcial-IID.

3. Protocolos de Agregación Flexibles

FedCF aborda el compromiso entre eficiencia de comunicación y privacidad de datos a través de dos protocolos:

Eficiencia de Comunicación: Los clientes envían estadísticas de resumen (valores $\alpha$ ) para cada par grupo-etiqueta. El servidor las agrega para computar los límites. Esto tiene una complejidad de comunicación lineal respecto al número de grupos.
Privacidad Mejorada: Los clientes computan las diferencias de cobertura por pares localmente antes de enviarlas al servidor. Esto ofusca la información de distribución individual, previniendo ataques de reconstrucción, a costa de una complejidad de comunicación cuadrática respecto al número de grupos.
Híbrido: Los clientes pueden elegir entre protocolos basados en sus restricciones de recursos.

El marco también admite Privacidad Diferencial (DP) añadiendo ruido Gaussiano a las actualizaciones de los clientes, asegurando la robustez contra servidores maliciosos.

Principales Contribuciones

Extensión de CF a FL: El artículo presenta el primer marco que extiende la Equidad Conforme a un entorno federado, demostrando teóricamente que las garantías de cobertura condicional pueden mantenerse en un entorno distribuido bajo intercambiabilidad parcial.
Algoritmo Basado en el Descenso: Un nuevo enfoque de optimización que reemplaza la búsqueda de cuadrícula con un método de descenso adaptativo, reduciendo drásticamente el número de rondas de comunicación necesarias para la convergencia en FL.
Límites Teóricos: La derivación de límites de intervalo para los niveles de cobertura específicos de la equidad en un entorno federado, proporcionando un método riguroso para auditar las brechas de equidad sin centralizar los datos.
Compromisos de Privacidad-Comunicación: La propuesta de distintos protocolos de agregación (Eficiencia de Comunicación, Privacidad Mejorada e Híbrido) que permiten a los clientes equilibrar las restricciones de ancho de banda con los requisitos de privacidad.
Validación Empírica: Experimentos extensos en conjuntos de datos tabulares (ACSIncome, ACSEducation), de grafos (Pokec) y de visión (Fitzpatrick) demuestran que FedCF controla con éxito las disparidades de equidad (por ejemplo, Paridad Demográfica, Oportunidad Igualitaria) mientras mantiene las garantías de cobertura originales de CP.

Resultados Experimentales

Los autores evaluaron FedCF en múltiples dominios y métricas de equidad:

Control de Equidad: FedCF logra consistentemente el criterio de cercanía ( $c$ ) especificado por el usuario para la disparidad de equidad, mientras que el modelo base de Predicción Conforme Federada (FCP) sin restricciones de equidad falla en controlar estas brechas.
Eficiencia vs. Equidad: Existe un compromiso inherente; imponer una equidad más estricta (un $c$ más pequeño) aumenta el tamaño del conjunto de predicción (reduciendo la eficiencia). Sin embargo, FedCF minimiza este costo en comparación con los modelos base.
Robustez a la Heterogeneidad: El marco funciona eficazmente a través de diferentes números de clientes (de 2 a 48) y diferentes esquemas de partición de datos (divisiones geográficas naturales frente a particiones de Dirichlet).
Datos de Grafos: FedCF se integra con éxito con puntuaciones de no conformidad específicas de grafos (DAPS), demostrando aplicabilidad más allá de los datos tabulares estándar.
Protocolos de Privacidad: Los experimentos muestran que, si bien el protocolo de Privacidad Mejorada es más conservador (conjuntos de predicción más grandes) debido a los límites más ajustados, controla eficazmente las disparidades de equidad mientras protege los datos de los clientes.

Significado y Reivindicaciones

El artículo afirma que FedCF proporciona una solución teóricamente fundamentada y prácticamente viable para auditar y asegurar la equidad en los modelos de aprendizaje automático federado. Su importancia radica en:

Cumplimiento Regulatorio: Ofrecer un mecanismo para satisfacer las regulaciones emergentes (por ejemplo, la Ley de IA de la UE, la Ley Local 144 de NYC) que requieren auditorías de equidad en sistemas descentralizados sin comprometer la privacidad de los datos.
ML Confiable: Cerrar la brecha entre la cuantificación de la incertidumbre y la equidad, asegurando que los modelos no solo predigan con límites de error conocidos, sino que lo hagan de manera justa entre grupos sensibles.
Auditabilidad: El marco puede utilizarse post-hoc para auditar modelos federados existentes, determinando si cumplen con las especificaciones de equidad sin requerir el reentrenamiento o el acceso a los datos brutos.

Los autores reconocen limitaciones, específicamente la dependencia del supuesto de intercambiabilidad parcial, que puede ser violado en entornos con deriva de datos dinámica. Sugieren trabajos futuros que involucren CP no intercambiable y técnicas de aprendizaje federado robustas para abordar estos escenarios.