Algorithmic neutrality

Problema
Los algoritmos gobiernan cada vez más aspectos críticos de la vida humana, lo que provoca un extenso discurso sobre la equidad algorítmica. Sin embargo, el concepto de neutralidad algorítmica ha sido ampliamente descuidado a pesar de su centralidad en cómo la industria tecnológica, el público y los responsables políticos entienden el mundo digital. Los gigantes tecnológicos (p. ej., Google, Meta, Twitter) invocan frecuentemente la neutralidad como un escudo contra las críticas y como un ideal al cual aspirar, mientras que los críticos argumentan que ningún algoritmo es moralmente neutral. El artículo identifica una falta de estudio sistemático respecto a la definición, la posibilidad y la significación normativa de la neutralidad algorítmica. Específicamente, el autor se pregunta: ¿Qué es la neutralidad algorítmica? ¿Es posible? Y ¿cuál es su significación normativa?

Metodología
El artículo emplea un análisis conceptual fundamentado en la filosofía de la tecnología y la ética. El autor procede a través de los siguientes pasos metodológicos:

1. Enfoque de estudio de caso: El análisis se centra primordialmente en los motores de búsqueda como un caso de estudio paradigmático antes de generalizar a los sistemas algorítmicos en general.
2. Definición conceptual: El autor define la neutralidad adaptando el marco de la "neutralidad en la ciencia". Así como la neutralidad científica requiere que los valores no epistémicos (p. ej., intereses financieros, ideologías políticas) no desempeñen ningún papel en las prácticas científicas centrales (que aspiran a la verdad), la neutralidad algorítmica se define en términos del objetivo de un sistema.
3. Argumentación mediante la multidimensionalidad: El autor argumenta que los objetivos de muchos sistemas algorítmicos (como la "relevancia" en la búsqueda o la "cualificación" en la contratación) son conceptos multidimensionales. Basándose en la literatura sobre la incomparabilidad (p. ej., Sen, Parfit), el autor postula que cuando un concepto tiene múltiples dimensiones sin un peso privilegiado, el objetivo subdetermina el resultado del sistema.
4. Distinción de roles: El análisis distingue entre dos roles que los valores externos pueden desempeñar: anular un objetivo (clasificar un resultado menos relevante en una posición superior) o suplementar un objetivo (romper empates o ponderar dimensiones cuando el propio objetivo es insuficiente).

Contribuciones clave

1. Definición de neutralidad algorítmica: El artículo caracteriza la neutralidad algorítmica no como una ausencia de valores, sino como una relación específica entre el objetivo de un sistema y los valores externos. Un sistema algorítmico es neutral solo si los valores ajenos a su objetivo no desempeñan ningún papel en cómo entrega sus resultados. Para los motores de búsqueda, donde el objetivo es la relevancia, la neutralidad requiere que ningún valor distinto de la relevancia influya en la clasificación.
2. La tesis de la imposibilidad: El autor demuestra que la neutralidad algorítmica es imposible para los motores de búsqueda y la mayoría de los sistemas algorítmicos poderosos. Debido a que los objetivos como la "relevancia" o la "cualificación" son multidimensionales, estos subdeterminan cómo clasificar o categorizar elementos. En casos de incomparabilidad (donde dos opciones no son estrictamente mejores o peores que la otra en todas las dimensiones), los valores externos deben desempeñar un papel para romper el empate. Por lo tanto, los valores externos necesariamente suplementan el objetivo.
3. Reevaluación normativa: El artículo argumenta que la neutralidad es un falso ideal y un escudo defectuoso.
   • Falso ideal: La neutralidad no es inherentemente buena ni mala. La significación normativa no reside en si un sistema es neutral, sino en qué valores externos desempeñan un papel y qué papel desempeñan (anulación vs. suplementación).
   • Escudo defectuoso: Es conceptualmente incoherente que las empresas reclamen la neutralidad como defensa, ya que la verdadera neutralidad es imposible. Además, incluso si un sistema es "localmente neutral" (p. ej., neutral respecto a los valores políticos), puede seguir perjudicando a ciertos grupos debido a la ponderación necesaria de los objetivos multidimensionales (p. ej., ponderar la "saliencia" puede perjudicar a entidades más pequeñas).
4. Refinamiento del sesgo: El artículo distingue entre sesgo de anulación (los valores externos anulan el objetivo) y sesgo de suplementación (los valores externos suplementan el objetivo). Mientras que el sesgo de anulación es evitable y a menudo objetable, el sesgo de suplementación es inevitable. Sin embargo, las quejas relativas a qué valores suplementan el objetivo siguen siendo válidas y necesarias.

Resultados

• La neutralidad de búsqueda es imposible: Debido a la naturaleza multidimensional de la relevancia, los motores de búsqueda no pueden clasificar páginas basándose únicamente en la relevancia. Deben inevitablemente utilizar valores externos para ponderar dimensiones (p. ej., saliencia, temática) cuando las páginas son incomparables.
• Neutralidad global vs. local: La "neutralidad global" (ausencia de cualquier tipo de valor externo que desempeñe un papel) es imposible. La "neutralidad local" (que ningún valor de un tipo específico, como la ideología política, desempeñe un papel) es posible pero insuficiente para abordar todas las quejas de inequidad, ya que la ponderación necesaria de las dimensiones aún puede producir impactos disparatados.
• Cambio normativo: El debate debe pasar de "¿Es el algoritmo neutral?" a "¿Qué valores deberían desempeñar un papel y cómo?". Por ejemplo, puede ser normativamente bueno que un motor de búsqueda anule la relevancia para proteger a los niños (suprimir la pornografía infantil) o que suplemente la relevancia para promover la justicia social (clasificar más alto a negocios propiedad de minorías en escenarios de empate). Por el contrario, suele ser injusto que un monopolio anule la relevancia con intereses financieros.

Significación
El artículo sostiene que la neutralidad algorítmica es un falso ideal y un escudo defectuoso.

• Como falso ideal, perseguir la neutralidad por sí misma ciega a las partes interesadas ante las verdaderas preguntas normativas: determinar qué valores deberían guiar los resultados algorítmicos y hasta qué punto vale la pena perseguir el objetivo primario del sistema.
• Como escudo defectuoso, es una defensa hueca para las empresas tecnológicas reclamar neutralidad cuando se les acusa de irregularidades, porque (1) la verdadera neutralidad es conceptualmente imposible para estos sistemas, y (2) la neutralidad en sí misma no es inherentemente virtuosa. El artículo concluye que el enfoque debe alejarse de la dicotomía neutralidad/no neutralidad hacia un análisis matizado de los roles específicos que los valores externos desempeñan en la toma de decisiones algorítmicas.