🤖 machine learning

RiskNet: A large-scale dataset of AI risk incidents from news with alignment and multi-dimensional annotations

RiskNet es un conjunto de datos multilingüe y a gran escala de incidentes de riesgo de IA derivados de fuentes de noticias que emplea un proceso estructurado de identificación, alineación y anotación multidimensional para apoyar la investigación empírica en seguridad, gobernanza y análisis de riesgos de la IA.

Autores originales: Leihan Zhang, Wecheng Ye, Xianlong Ma, Haochuan Liu, Yang Li, Qianyu Zhang, Jinliang Chen, Qiang Yan

Publicado 2026-06-09

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Leihan Zhang, Wecheng Ye, Xianlong Ma, Haochuan Liu, Yang Li, Qianyu Zhang, Jinliang Chen, Qiang Yan

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina el mundo de la Inteligencia Artificial (IA) como una ciudad enorme y bulliciosa. Cada día, se construyen nuevas herramientas de IA y se ponen a trabajar en hospitales, escuelas, bancos y en nuestros teléfonos. Pero, al igual que en cualquier gran ciudad, las cosas a veces salen mal. Los coches chocan, las redes eléctricas fallan y la gente resulta herida. En la ciudad de la IA, estos "accidentes" se llaman incidentes de riesgo de la IA: cosas como un chatbot que propaga mentiras, un sistema de reconocimiento facial que identifica erróneamente a alguien o un coche autónomo que comete un error peligroso.

Hasta ahora, intentar estudiar estos accidentes era como intentar mapear los atascos de tráfico de una ciudad preguntando a la gente lo que veía desde sus ventanas. La información estaba dispersa, desordenada, en diferentes idiomas y a menudo eran solo rumores u opiniones en lugar de hechos sobre choques específicos.

Entra en escena "RiskNet".

Imagina que RiskNet es un centro de control de tráfico gigante y de alta tecnología construido por investigadores de la Universidad de Post y Telecomunicaciones de Beijing. Es una biblioteca digital masiva diseñada para captar, organizar y comprender cada accidente de IA reportado en las noticias.

Así es como funciona, desglosado en pasos sencillos:

1. El Gran Filtro (Encontrar los Accidentes)

Los investigadores comenzaron con una montaña de noticias: cientos de millones de artículos de todo el mundo, en muchos idiomas diferentes.

El Problema: La mayoría de estos artículos son solo personas hablando sobre riesgos de la IA (como "la IA podría ser peligera algún día") o noticias tecnológicas generales. No se trata de un choque específico que haya ocurrido realmente.
La Solución: Utilizaron un "tamiz" inteligente (impulsado por la propia IA) para filtrar el ruido. Este hacía dos preguntas:
1. "¿Trata esto sobre la IA?"
2. "¿Ocurrió realmente un accidente específico aquí?"
- Analogía: Imagina un portero en un club. Si solo estás hablando de lo genial que podría ser la música, no entras. Pero si tienes una entrada para un espectáculo específico que ya ha comenzado, sí pasas. RiskNet filtra la "charla" y conserva solo la "acción".

2. El Trabajo de Detective (Conectar los Puntos)

Una vez que encontraron los artículos sobre accidentes reales, se enfrentaron a un nuevo problema: un accidente suele tener muchas historias.

El Escenario: Imagina que una aspiradora robot se incendia en una cocina. Un periódico en China escribe sobre ello. Un blog en EE. UU. escribe sobre ello. Una estación de televisión en Francia informa sobre ello. Todos están hablando del mismo incendio, pero parecen tres historias diferentes.
La Solución: RiskNet actúa como un superdetective. Lee todos estos informes diferentes y dice: "Un momento, ¡estos tres artículos están describiendo exactamente el mismo evento!". Luego los une en un único "Clúster de Incidente".
Analogía: Piensa en ello como un rompecabezas. Tienes 50 piezas de diferentes cajas, todas mostrando partes de la misma imagen. RiskNet las clasifica para que puedas ver la imagen completa del accidente, en lugar de solo un montón confuso de fragmentos.

3. El Sistema de Etiquetado (Organizar los Archivos)

Ahora que tienen una lista limpia de accidentes únicos, necesitan organizarlos para que los investigadores puedan encontrar patrones.

Crearon un archivador con etiquetas específicas para cada accidente:
- ¿Quién resultó herido? (La víctima)
- ¿Qué salió mal? (La causa)
- ¿Qué tan grave fue? (La severidad)
- ¿Dónde ocurrió? (La ubicación)
- ¿Qué tipo de IA estuvo involucrada? (La herramienta)
Analogía: Es como el registro de la sala de emergencias de un hospital. En lugar de escribir simplemente "Paciente ingresó", escriben "Paciente: John Doe; Lesión: Pierna rota; Causa: Accidente de bicicleta; Severidad: Moderada". Esto facilita hacer preguntas como: "¿Cuántos accidentes de bicicleta ocurrieron el mes pasado?".

¿Qué Encontraron?

El resultado es RiskNet, un conjunto de datos que contiene:

Cientos de millones de artículos de noticias escaneados.
Cientos de miles de informes de riesgos relacionados con la IA.
Más de 54,000 clústeres de accidentes únicos y verificados (donde múltiples noticias se fusionaron en un solo evento).

Descubrieron que la mayoría de los accidentes reciben muy poca atención (como un pequeño roce de parachoques), pero algunos accidentes grandes y famosos reciben miles de noticias (como un gran apagón en toda la ciudad). Los datos también muestran que la "falta de capacidad" (la IA simplemente no era lo suficientemente buena) y los "ciberataques" son los tipos de problemas más comunes.

¿Por qué es esto Importante?

Los investigadores dicen que este conjunto de datos es una piedra angular para el futuro.

Para los Legisladores: Les ayuda a ver los problemas reales, no solo los titulares alarmistas, para que puedan redactar mejores reglas.
Para los Científicos: Les proporciona una forma estandarizada de probar si los nuevos sistemas de IA son más seguros que los antiguos.
Para Todo el Mundo: Cierra la brecha entre los "principios de alto nivel" (como "la IA debe ser segura") y la "realidad desordenada" de lo que realmente sale mal.

Nota Importante: El artículo enfatiza que esta es una herramienta de investigación, no un tribunal de justicia. Organiza lo que las noticias dicen que sucedió. No prueba la culpabilidad legal ni asigna la culpa en un tribunal; simplemente nos ayuda a entender el panorama de los riesgos de la IA para que podamos estudiarlos mejor.

En resumen, RiskNet convierte una tormenta caótica de informes de noticias en un mapa claro y organizado de dónde está tropezando la IA, ayudándonos a descubrir cómo lograr que camine derecho.

Resumen Técnico: RiskNet

Planteamiento del Problema

A medida que los sistemas de inteligencia artificial (IA) se despliegan cada vez más en dominios de alto riesgo, los informes de daños relacionados con la IA han aumentado en frecuencia y diversidad. Si bien los marcos de gobernanza de alto nivel (por ejemplo, la Ley de IA de la UE, el RMF de EE. UU.) articulan principios para una IA responsable, existe una falta crítica de recursos empíricos a gran escala para rastrear y analizar incidentes de riesgo de IA en el mundo real. Las colecciones de incidentes existentes suelen estar curadas manualmente, son de pequeña escala e insuficientes para un monitoreo continuo basado en datos o para el análisis computacional derivado. Además, la evidencia se encuentra dispersa en noticias multilingües con descripciones inconsistentes, y las herramientas existentes suelen tener dificultades con idiomas que no sean el inglés o lenguas de bajos recursos. Existe una necesidad específica de un recurso que combine una amplia cobertura, recolección multilingüe, alineación a nivel de incidente (agregando múltiples reportes del mismo evento) y anotaciones de referencia reutilizables.

Metodología

RiskNet se construye a partir de fuentes de noticias heterogéneas a gran escala mediante un flujo de trabajo estructurado que comprende tres etapas principales:

1. Fuentes de Datos

El conjunto de datos integra contenido de múltiples tipos de fuentes para asegurar la cobertura temporal y la diversidad lingüística:

Conjuntos de Datos de Incidentes Públicos: AIID (~~5,000 reportes) y AIAAIC (~~4,500 reportes).
Cuerpos de Noticias Abiertas: CommonCrawl News (2022–2025, 674M de artículos), OpenNewsArchive (2023, 8.8M de artículos en chino) y Hot-list Rankings (2021–2025, 340K temas de tendencia).
Web Crawls: Sitios web de noticias (2024, ~800 artículos).
Datos Comerciales Licenciados: China News (2023–2025, 2.98M de artículos negativos relacionados con la IA).

2. Identificación de Incidentes de Riesgo de IA

Esta etapa filtra las noticias brutas para identificar reportes de riesgo a nivel de evento utilizando un proceso de dos pasos:

Filtrado de Relevancia de la IA: Un filtro basado en palabras clave (usando un léxico de más de 100 términos) reduce el espacio de búsqueda.
Determinación de Incidentes de Riesgo de IA: Un Modelo de Lenguaje Grande (LLM) realiza la identificación conjunta de riesgos y la extracción de atributos estructurados. Distingue entre reportes a nivel de evento (que contienen actores fundamentados, sistemas, contexto espaciotemporal y resultados) y reportes a nivel de discusión (interpretación de políticas, comentarios o debates generales). Solo se retienen los reportes a nivel de evento para la alineación.
Esquema de Extracción: El LLM extrae atributos a través de tres dimensiones: Sistema de IA y Aplicación, Contexto del Evento (tiempo, ubicación, actores, causa, resultado) y Riesgo e Impacto (tipo de riesgo, severidad, tipo de daño).

3. Alineación de Incidentes

Para agregar reportes que se refieren al mismo incidente del mundo real, RiskNet emplea un flujo de trabajo de tres etapas:

Recuperación de Candidatos de Doble Vista: Para cada reporte de consulta, el sistema recupera candidatos utilizando dos vistas: (1) Recuperación de texto completo (usando embeddings BGE-M3 del artículo completo) y (2) Recuperación de elementos del evento (usando embeddings de atributos estructurados como actores y causas). Los $K$ mejores resultados de ambas vistas se fusionan.
Predicción de Mismo Incidente por Pares: Un modelo DeepWide simplificado predice si dos reportes describen el mismo incidente. El componente "Wide" utiliza características de coincidencia explícitas (acuerdo categórico y similitud de texto), mientras que el componente "Deep" modela interacciones semánticas de orden superior mediante un Perceptrón Multicapa (MLP).
Clustering Basado en Grafos Conservador: Las predicciones positivas por pares forman aristas en un grafo. Se aplica una restricción de enlace completo (complete-link constraint): un reporte se añade a un clúster solo si está vinculado positivamente con cada uno de los miembros existentes. Esto evita la propagación de errores y la formación de clústeres irrealmente grandes.

4. Clasificación de Incidentes Multidimensional

Los incidentes alineados son anotados utilizando una taxonomía unificada que integra la Ley de IA de la UE y las taxonomías del MIT Media Lab:

Nivel de Riesgo: Inaceptable, Alto, Limitado, Mínimo (Ley de IA de la UE).
Etiquetas de Dominio: 7 dominios primarios y 25 subdominios (taxonomía del MIT).
Etiquetas Causales: Un triplete de Entidad, Intención y Tiempo.
Estrategia de Anotación: Un enfoque híbrido donde un LLM genera etiquetas preliminares basadas en la evidencia agregada del incidente (5 reportes representativos), seguido de la revisión y refinamiento de expertos.

Contribuciones Clave

Dataset RiskNet: Un conjunto de datos a gran escala que contiene 777,100 reportes relacionados con el riesgo de la IA, de los cuales 264,776 son reportes a nivel de evento. Estos se alinean en 54,386 clústeres de incidentes.
Alcance Multilingüe: El conjunto de datos cubre diversos idiomas (principalmente inglés y chino) y diversos tipos de fuentes, abordando la brecha lingüística en la evaluación de la seguridad de la IA.
Pipeline Estructurado: Un pipeline reproducible para la identificación de noticias de riesgo de IA, el cribado a nivel de evento, la alineación de incidentes y la clasificación multidimensional.
es de investigación, monitoreo y análisis agregado, en lugar de para la toma de decisiones de alto riesgo automatizada o la adjudicación legal formal. El conjunto de datos reconoce que los clústeres de incidentes son reconstrucciones basadas en datos y pueden reflejar una cobertura mediática incompleta o en evolución.