Are Algorithm Registers Transparent? Perspectives from Germany

Resumen Técnico: ¿Son transparentes los registros de algoritmos? Perspectivas desde Alemania

Planteamiento del problema
Los registros de algoritmos son bases de datos públicas destinadas a documentar los sistemas algorítmicos utilizados por las autoridades públicas; sin embargo, su capacidad para ofrecer una transparencia significativa sigue siendo objeto de controversia. En Alemania, el panorama es notablemente fragmentado: no existe un registro a nivel federal y al menos cinco iniciativas a nivel estatal y federal (incluyendo MaKI y Lernende Systeme) operan con alcances, objetivos y estándares variables. Si bien una propuesta conceptual reciente de Lorenz (2025) describe los requisitos técnicos y de gobernanza para un registro nacional de transparencia de la IA, esta sigue sin implementarse. En consecuencia, existe una falta de evaluación empírica sobre si las plataformas alemanas existentes cumplen con los objetivos de transparencia necesarios para una verdadera rendición de cuentas pública. La literatura actual sugiere que los registros funcionan mejor como herramientas de gobernanza interna que como mecanismos de escrutinio externo, sufriendo frecuentemente del "problema del alcance" (qué se registra), el "problema de la información" (qué se divulga) y el "problema de la efectividad" (si logran los objetivos establecidos).

Metodología
Los autores reorientan la propuesta conceptual de Lorenz (2025) —diseñada originalmente como una guía de desarrollo para un futuro registro nacional— para convertirla en un instrumento de auditoría. La metodología procede en cinco pasos:

1. Revisión: El documento conceptual alemán es traducido y analizado para extraer un conjunto estructurado de objetivos y subobjetivos de transparencia.
2. Generación de listas de verificación: Estos objetivos se operacionalizan en listas de verificación estructuradas (traducidas al inglés y proporcionadas en el Apéndice del documento) que cubren el esquema de información, la arquitectura, la gobernanza y la divulgación.
3. Evaluación de plataformas: Las listas de verificación se aplican a las dos principales iniciativas alemanas existentes: MaKI (Marktplatz der KI-Möglichkeiten) y Lernende Systeme (Sistemas de Aprendizaje). La evaluación se basa exclusivamente en datos de acceso público, clasificando cada elemento de la lista como Sí, No, Parcialmente o Sin acceso (para elementos que requieren conocimiento arquitectónico interno).
4. Evaluación: Los hallazgos a nivel de ítem se agregan frente a los objetivos primarios y secundarios definidos por Lorenz (2025) para visualizar el grado de cumplimiento.
5. Acciones a seguir: Se derivan recomendaciones específicas orientadas a la plataforma para abordar las brechas identificadas.

Contribuciones clave

1. Síntesis de la literatura: El artículo organiza la literatura sobre registros de algoritmos europeos a lo largo de tres dimensiones de preocupación: alcance, profundidad de la información y efectividad.
2. Marco de auditoría: Desarrolla y traduce una lista de verificación de auditoría estructurada basada en Lorenz (2025), poniéndola a disposición de los profesionales para auditar registros existentes o diseñar nuevos.
3. Auditoría empírica: Realiza una auditoría externa de MaKI y Lernende Systeme, evaluando hasta qué punto cumplen con los objetivos de transparencia propuestos.
4. Visualización y capacidad de acción: Los autores proponen una visualización de los niveles de transparencia de los registros y derivan acciones concretas y específicas para cada plataforma con el fin de mejorar las plataformas alemanas existentes.

Resultados
La auditoría revela brechas significativas en múltiples dimensiones, lo que indica que las plataformas actuales cumplen solo parcialmente con las funciones de un registro de transparencia significativo:

• Transparencia de los sistemas desplegados (Objetivo 1): Aunque la información básica (propósito, función) se publica razonablemente bien, la información relativa a la criticidad, la clasificación de riesgo y las evaluaciones de riesgo es mínima o inexistente. MaKI ofrece una clasificación de riesgo mínima sin una metodología o resultados detallados; Lernende Systeme no publica ninguna información de riesgo.
• Confianza y supervisión (Objetivos 2 y 3): Ambas plataformas carecen de mecanismos de retroalimentación robustos, foros ciudadanos o canales de diálogo estructurados. No hay evidencia de procesos de verificación independiente o de aseguramiento de la calidad de los datos visibles para auditores externos.
• Centralización e interoperabilidad (Objetivos 4 y 5): Aunque existe infraestructura técnica, la información pública sobre la arquitectura de la base de datos, las interfaces de sincronización o el versionado (historia bitemporal) es insuficiente. Ninguna de las dos plataformas demuestra actualmente una interoperabilidad clara con la futura base de datos de IA de alto riesgo exigida por la Ley de IA de la UE.
• Cobertura y mandato: La participación es voluntaria, lo que conduce a una cobertura incompleta (por ejemplo, la ausencia de sistemas de aplicación de la ley). MaKI se limita a la administración pública federal, mientras que Lernende Systeme se centra en la investigación y la industria, sin cubrir el espectro completo del uso de la IA en el sector público.
• Calidad de los datos: Las inconsistencias en la terminología (por ejemplo, clasificaciones ambiguas de "Método de IA") y la falta de documentación detallada de los datos de entrenamiento (distinguiendo los datos de entrenamiento de los datos de entrada operativa) socavan la interpretabilidad.

Significancia
El artículo sostiene que el simple hecho de etiquetar una plataforma como un "registro de transparencia" no crea transparencia. El hallazgo central es que las iniciativas alemanas actuales están orientadas hacia la documentación administrativa interna o la promoción de la innovación, en lugar de hacia una rendición de cuentas pública significativa. Los autores concluyen que Alemania carece de un registro nacional de transparencia de la IA centralizado y coherente. Postulan que los esfuerzos futuros no deberían crear iniciativas adicionales y desconectadas, sino consolidar y fortalecer las existentes (específicamente MaKI y Lernende Systeme). Al integrar los elementos más fuertes de estas plataformas, Alemania tiene la oportunidad de establecer un modelo nacional de gobernanza de la IA confiable que sea genuinamente informativo para el público, los investigadores y la sociedad civil, yendo más allá del alcance obligatorio de alto riesgo de la Ley de IA de la UE.