💻 computer science

Possibility Ethics: Measuring Moral Value as the Expansion of Safe Future Options in Sociotechnical Systems

Este artículo introduce la "Ética de la Posibilidad", un marco conceptual-computacional que evalúa los sistemas sociotécnicos cuantificando su impacto en las oportunidades futuras éticamente admisibles mediante una métrica novedosa llamada Entropía de Opción, implementada en el kit de herramientas Omega-PE para revelar pérdidas de oportunidad distributivas que a menudo pasan desapercibidas para las medidas agregadas.

Autores originales: Mohammad Amir Khusru Akhtar

Publicado 2026-09-11

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Mohammad Amir Khusru Akhtar

Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo moderno, la tecnología hace más que simplemente entregar resultados; moldea el propio paisaje de lo que es posible para nosotros hacer a continuación. Cuando una plataforma digital elimina un botón de exportación, o un horario hospitalario ignora la falta de transporte de un paciente, el problema inmediato no es solo un mal resultado, sino una reducción del futuro. Este es el dominio de los sistemas sociotécnicos, donde el software y las instituciones humanas se entrelazan para determinar el rango de opciones disponibles para las personas. Durante años, los éticos han argumentado que debemos proteger la libertad humana y asegurar la equidad, pero estas ideas a menudo permanecen como principios abstractos en lugar de herramientas que los ingenieros puedan usar para comparar diferentes diseños de sistemas. El desafío ha sido encontrar una forma de medir si un nuevo diseño realmente expande las oportunidades genuinas y seguras de una persona o si, silenciosamente, las estrecha, especialmente para aquellos que ya tienen las menores opciones.

Un nuevo marco llamado Ética de la Posibilidad, desarrollado por el investigador Mohammad Amir Khusru Akhtar, ofrece una forma concreta de responder a esta pregunta. En lugar de intentar calcular la felicidad total de una persona o su valor moral, el marco se centra en una pregunta específica y medible: ¿cuántos caminos distintos, seguros y viables hacia el futuro deja abiertos un diseño de sistema para un grupo de personas? La idea central es que un diseño moralmente mejor es aquel que preserva o aumenta el número de estas opciones futuras distintas, particularmente para los grupos vulnerables. Para lograrlo, los investigadores crearon un método que cuenta los diferentes tipos de resultados que una persona puede alcanzar de manera realista, mientras filtra las elecciones que son meramente teóricas o que conllevan demasiado riesgo.

Los investigadores construyeron un sistema computacional para probar esta idea, tratando el futuro no como una sola línea, sino como un árbol de posibilidades ramificado. Primero, el sistema observa cada trayectoria potencial que una persona podría tomar dentro de un marco de tiempo determinado. Luego, aplica una serie de filtros estrictos. Elimina cualquier trayectoria que no sea factible, es decir, que la persona carezca del dinero, el tiempo, las habilidades o los permisos para seguirla realmente. También elimina cualquier trayectoria que cause daño a la persona, a otros o a la comunidad. Una vez descartadas las trayectorias peligrosas o imposibles, el sistema agrupa las trayectorias restantes en categorías basadas en sus resultados finales. Si dos trayectorias conducen al mismo tipo de resultado, se cuentan como una sola opción. El sistema luego calcula una puntuación basada en el número de estas categorías distintas y seguras disponibles. Esta puntuación aumenta cuando aparecen opciones nuevas, diferentes y seguras, pero crece más lentamente a medida que el número de opciones se vuelve muy grande, reflejando la idea de que las primeras opciones nuevas son las que más importan.

Para ver si este método funciona en el mundo real, el equipo realizó dos tipos de pruebas. En una simulación controlada, compararon tres diseños de sistemas diferentes para un grupo de estudiantes con distintos niveles de apoyo. Un diseño ofrecía una forma de abandonar el sistema y desconectarse (ir offline), otro ofrecía un asistente personalizado, y el tercero era una línea base estándar. Los resultados mostraron que el diseño que permitía a las personas salir y desconectarse creó el mayor número de opciones de futuro distintas y seguras para los estudiantes que comenzaron con menos recursos. El asistente personalizado, aunque útil para algunos, en realidad redujo el número total de opciones seguras para el grupo más vulnerable en comparación con la línea base. La simulación demostó que el marco podía detectar cuándo un diseño ayudaba a algunos mientras perjudicaba silenciosamente a otros, un matiz que las puntuaciones promedio simples pasarían por alto.

Los investigadores aplicaron el mismo método a un conjunto de datos masivo y real de la Open University, que rastrea las trayectorias de aprendizaje de casi 8,000 estudiantes a lo largo de varios años. Analizaron cómo los estudiantes con discapacidades, aquellos de bajos ingresos y aquellos que repiten cursos navegaban sus estudios. El análisis reveló que, si bien un año del programa mostró una ligera mejora general en el número de trayectorias disponibles, simultáneamente redujo las opciones para los estudiantes con discapacidades. La puntuación agregada parecía buena, pero el desglose detallado mostró que un grupo específico estaba perdiendo terreno. Este hallazgo activó un requisito de "Reparación de Opciones", un paso procedimental donde los diseñadores del sistema deben identificar qué bloqueó a esos estudiantes y encontrar la manera de restaurar sus opciones perdidas. El estudio demostró que mirar el promedio puede ocultar la erosión de la libertad para comunidades específicas.

El marco no pretende resolver todos los problemas éticos ni reemplazar el juicio humano. No mide la dignidad, la virtud o la calidad de vida en un sentido amplio. En cambio, proporciona una herramienta transparente y reproducible para que auditores y diseñadores vean exactamente cómo un sistema cambia el menú de posibilidades futuras. Obliga a realizar una rendición de cuentas clara sobre qué opciones son reales y cuáles son ilusiones, y resalta cuándo una elección de diseño, incluso una bienintencionada, estrecha el horizonte para los más vulnerables. Al hacer visible y comparable la estructura de las opciones futuras, la Ética de la Posibilidad ofrece una forma de asegurar que nuestros sistemas sociotécnicos expandan la agencia humana en lugar de constreñirla silenciosamente.

Resumen Técnico: Ética de la Posibilidad

Planteamiento del Problema
Los sistemas sociotécnicos (incluyendo la IA, las plataformas digitales y los flujos de trabajo institucionales) moldean cada vez más no solo los resultados inmediatos, sino todo el rango de futuros viables disponibles para individuos y comunidades. Si bien los marcos éticos existentes articulan principios como la autonomía, la equidad y la capacidad, generalmente carecen de un método computacional transparente para comparar diseños de sistemas alternativos basados en cómo preservan o expanden las oportunidades de futuros éticamente aceptables. Los enfoques actuales suelen fallar al operacionalizar estos principios en un proceso de auditoría rutinario que dé cuenta de la viabilidad, el daño, la equidad distributiva y la naturaleza estructural de los "futuros alcanzables".

Metodología: El Marco de la Ética de la Posibilidad
El artículo presenta la Ética de la Posibilidad, un marco conceptual-computacional diseñado para evaluar sistemas sociotécnicos mediante la medición de su efecto sobre distintas clases de opciones de futuros viables y éticamente admisibles. La metodología se implementa en la herramienta de software Omega-PE y sigue un proceso de auditoría determinista:

Definiciones Formales:
- Viabilidad: Una trayectoria es viable si cumple con los prerrequisitos estrictos y una puntuación de factibilidad ( $F$ ) supera un umbral ( $\tau$ ). Esto filtra opciones nominales que son prácticamente imposibles (por ejemplo, debido al costo o la falta de apoyo).
- Salvaguarda de Daño: Una trayectoria es éticamente admisible solo si su riesgo predicho ( $R$ ) para el agente, terceros o bienes colectivos permanece por debajo de una tolerancia ( $\gamma$ ).
- Agrupamiento Determinista: Las trayectorias admisibles se mapean a clases de resultados utilizando una regla de similitud y un umbral ( $\theta$ ). Esto evita la "inflación del menú" al tratar resultados duplicados o casi idénticos como una sola clase de opción.
- Entropía de Opción ( $\Omega$ ): La métrica central es un índice de oportunidad logarítmico definido como:
  $\Omega^d_i = \log(\kappa + K^d_i) - \log \kappa = \log\left(1 + \frac{K^d_i}{\kappa}\right)$
  Donde $K^d_i$ es el recuento de clases de resultados admisibles distintas para la cohorte $i$ bajo el diseño $d$ , y $\kappa$ es un parámetro de suavizado. Esta forma logarítmica asegura rendimientos marginales decrecientes (el valor de la opción 101 es menor que el de la 2) y comprime la escala para la comparación entre dominios.
Agregación y Salvaguardas:
- Agregación Sensible a la Vulnerabilidad: Los diseños se califican mediante una suma ponderada ( $L(d)$ ) donde las cohortes vulnerables reciben pesos más altos ( $V_i$ ).
- Pisos de Grupo: Se establece un umbral mínimo ( $\phi_g$ ) para grupos protegidos para asegurar que las ganancias agregadas no oculten pérdidas severas para los menos favorecidos.
- No Regresión a Nivel de Cohorte: Un diseño no debe reducir la entropía de opción de una cohorte por debajo de una línea base menos una tolerancia ( $\epsilon_i$ ). Las violaciones activan la Reparación de la Opción, un requisito procedimental para identificar barreras y evaluar la restauración o compensación.
Propiedades Matemáticas:
El marco establece la monotonicidad resguardada (añadir una nueva clase admisible siempre aumenta la puntuación), la invariancia de duplicación (añadir una clase duplicada no cambia la puntuación) y el rendimiento marginal decreciente. Un teorema de caracterización demuestra que, bajo un axioma de composición independiente, la forma logarítmica es la medida única, continua y estrictamente creciente de la multiplicidad efectiva de oportunidades.

Contribuciones Clave

Integración de Siete Elementos: El artículo integra de manera única la medición computable de oportunidades, el filtrado de viabilidad/factibilidad, las salvaguardas de daño, el agrupamiento determinista, la agregación sensible a la vulnerabilidad, las salvaguardas de no regresión y un mecanismo de reparación procedimental en un único proceso de auditoría.
Caracterización Formal: Proporciona una base matemática rigurosa para la "Entropía de Opción", distinguiéndola de la entropía de Shannon al centrarse en el tamaño combinatorio del espacio de estados en lugar de en las distribuciones probabilísticas.
Implementación Reproducible: El marco se libera como el artefacto de software Omega-PE, incluyendo scripts para pruebas de rendimiento sintéticas y auditorías de datos reales, asegurando la plena reproducibilidad de los resultados.

Resultados y Evaluación
El marco fue evaluado utilizando dos enfoques distintos:

Prueba de Rendimiento Sintética: Una comparación controlada de tres diseños (Línea Base, Salida/Fuera de Línea, Asistente Personalizado) a través de cuatro cohortes.
- Hallazgo: El diseño "Salida/Fuera de Línea" (Exit/Offline) obtuvo la clasificación más alta porque creó vías admisibles distintas para las cohortes con menos opciones de la línea base. El "Asistente Personalizado" clasificó más bajo, reduciendo en ocasiones las opciones para grupos vulnerables específicos a pesar de las mejoras agregadas.
- Análisis de Sensibilidad: El diseño preferido se mantuvo en primer lugar a través de una cuadrícula de umbrales de viabilidad ( $\tau$ ) y daño ( $\gamma$ ), demostrando la utilidad diagnóstica del marco para identificar resultados dependientes de supuestos.
Auditoría de Datos Reales (OULAD): Una auditoría observacional del Conjunto de Datos de Analítica de Aprendizaje de la Open University (7,909 registros de estudiantes a través de cuatro presentaciones).
- Hallazgo: La presentación 2014J mostró el nivel de oportunidad agregada más alto ( $L(d) = 7.773$ ). Sin embargo, el marco detectó una regresión a nivel de cohorte: la cohorte de "discapacidad" experimentó una caída en la entropía de opción en 2014J, y la cohorte de "intento repetido" retrocedió en 2014B.
- Implicación: Estas regresiones activaron el protocolo de Reparación de la Opción, ilustrando que las mejoras agregadas pueden ocultar pérdidas específicas para grupos vulnerables, un matiz que queda oculto para las métricas agregadas estándar.

Significancia y Reivindicaciones
El artículo posiciona la Ética de la Posibilidad no como un reemplazo de la teoría moral, el razonamiento político o los marcos de justicia integrales, sino como una herramienta de apoyo a la decisión transparente, reproducible y auditable.

Alcance: Aborda una pregunta específica, a menudo implícita: "¿Dado dos diseños sociotécnicos candidatos, cuál preserva o expande más eficazmente las oportunidades futuras genuinas de las personas respetando las restricciones de seguridad y distribución?".
Limitaciones: El autor reconoce explícitamente que el marco no mide la felicidad, la dignidad o la virtud. Depende de supuestos declarados respecto a la viabilidad, el daño y la similitud, los cuales requieren una gobernanza participativa y una justificación pública para ser legítimos.
Valor: Su contribución principal es hacer que la expansión y contracción de las estructuras de oportunidad sean visibles, comparables, contestables y reparables dentro de la gobernanza sociotécnica, moviendo la práctica de la ética de la IA de los principios abstractos a las auditorías operativas.

Más como este