CANONIC: Governance Is Compilation
El artículo presenta CANONIC, un marco de gobernanza que aplica principios de la teoría de compiladores para crear un libro de registro de evidencia auditable para el contenido generado por IA, argumentando que, si bien la admisión estructural no puede filtrar algorítmicamente el "slop", asegura que cada afirmación esté anclada a definiciones y commits verificables para la reproducibilidad de extremo a extremo.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
El gran problema: La inundación de "Slop" (Basura de IA)
Imagina una fábrica que puede imprimir libros más rápido de lo que nadie puede leerlos. En 2025, esta fábrica (la IA) empezó a producir tanto texto que creó un nuevo problema: el "Slop".
El "Slop" no es solo mala escritura; es un texto que parece perfecto, suena inteligente y fluye maravillosamente, pero no tiene conexión con la realidad. Es como un chef que puede cocinar una comida de aspecto delicioso en segundos, pero los ingredientes son de plástico. Si la comes, te enfermas, pero no puedes notar que es falsa solo con mirar el plato.
El artículo sostiene que no podemos solucionar esto contratando a más personas para leer los libros (revisión humana) ni construyendo mejores detectores de mentiras (detección por IA). ¿Por qué? Porque los libros falsos se ven exactamente iguales a los reales. La fábrica es demasiado rápida y los libros "falsos" son demasiado convincentes.
La solución: El portón del "Compilador"
El autor, Dexter Hadley, propone un cambio radical. En lugar de intentar juzgar si un libro es verdadero (lo cual es difícil), deberíamos juzgar si el libro es estructuralmente válido (lo cual es fácil).
Él lo llama Gobernanza como Compilación.
Piensa en un programa de computadora. Antes de que un programa se ejecute, un "compilador" lo revisa. El compilador no pregunta: "¿Resolverá este programa los problemas del mundo?" o "¿Es este código brillante?". Hace tres preguntas simples y mecánicas:
- ¿Usaste una palabra que existe en el diccionario?
- ¿Haces referencia a un archivo que realmente existe en la computadora?
- ¿Está ese archivo en la carpeta que dijiste que estaría?
Si la respuesta a cualquiera de estas es "No", el compilador dice "Error" y detiene la ejecución del programa. No importa si el código es brillante; si está estructuralmente roto, es rechazado.
CANONIC aplica esta misma lógica a la escritura de la IA. Actúa como un "compilador" para el texto. Antes de que cualquier contenido generado por IA sea permitido en una biblioteca pública (el "corpus"), debe pasar por tres puertas.
Las Tres Puertas (La "Tríada")
Para que una pieza de escritura pase el portón de CANONIC, debe estar construida como un tipo específico de carpeta que contiene tres archivos específicos. Si falta cualquier archivo, el texto es rechazado inmediatamente.
- El Libro de Reglas (CANON.md): Este archivo dice: "Estas son las reglas para este tema específico". Es la ley.
- El Diccionario (VOCAB.md): Este archivo define cada palabra utilizada en el Libro de Reglas. No puedes usar una palabra sofisticada a menos que la hayas definido aquí mismo. Esto evita que la IA invente jerga.
- La Descripción (README.md): Este archivo explica de qué trata realmente el proyecto.
La Analogía: Imagina que estás construyendo una casa.
- El Diccionario es la lista de materiales aprobados (por ejemplo, "Ladrillo" significa ladrillo de arcilla roja, no plástico rojo).
- El Libro de Reglas dice: "Cada pared debe estar hecha de Ladrillo".
- La Descripción dice: "Esto es una casa".
Si intentas construir una pared de "Plástico Rojo" sin definir "Plástico Rojo" en tu diccionario, el inspector (el compilador) te detiene. No puedes simplemente decir: "Confía en mí, es una pared".
El "Libro de Evidencia" (Evidence Ledger)
El artículo introduce una segunda capa: El Libro de Registro (Ledger).
Cada afirmación hecha en el texto debe estar vinculada a un "commit" específico (una versión guardada de un archivo) en un registro público e inalterable (como un repositorio de Git).
- La Afirmación: "El paciente mejoró".
- El Ancla: "Ver commit #12345 en el Libro de Registro".
Si el escritor no puede señalar el commit específico que prueba la afirmación, el texto es rechazado. Es como un caso judicial donde no basta con decir "Yo lo vi suceder". Tienes que presentar la cinta de video. Si no tienes la cinta, la afirmación no entra en el registro.
Lo que CANONIC hace (Y lo que NO hace)
Esta es la parte más importante del artículo. El autor es muy honesto sobre los límites.
Lo que SÍ hace:
Garantiza la Responsabilidad (Accountability).
Si una pieza de texto pasa el portón, sabes con certeza que:
- Cada palabra está definida.
- Cada afirmación apunta a una pieza de evidencia específica e inalterable.
- Se siguieron las reglas.
Convierte la "prosa inverificable" en un "registro comprobable". Incluso si el texto es erróneo, ahora es rastreable. Puedes mirar la evidencia, ver dónde salió mal y corregirlo.
Lo que NO hace:
No garantiza la Verdad.
El artículo realizó una prueba (un benchmark) para ver si este sistema podía filtrar el "Slop". El resultado fue sorprendente: No pudo.
- La Prueba: Alimentaron al sistema con noticias falsas, noticias reales y mentiras ingeniosas generadas por IA.
- El Resultado: El portón del "Compilador" dejó pasar las noticias falsas si estas estaban bien estructuradas (palabras definidas, evidencia falsa que parecía real y una línea de tiempo clara).
- La Lección: Una máquina puede verificar si una oración es gramaticalmente válida y está referenciada, pero no puede verificar si la oración es verdadera.
La Analogía:
Imagina a un guardia de seguridad en un banco.
- CANONIC es el guardia que revisa tu identificación. Si tu identificación es falsificada pero luce perfecta, tiene una foto y coincide con el formato de la base de datos, el guardia te deja pasar. El guardia asegura que tengas una identificación válida, no que seas una buena persona.
- La Verdad es decidida por el gerente del banco (el experto humano). El gerente mira la identificación, ve a la persona y decide: "Espera, esta persona está mintiendo sobre su saldo bancario".
El artículo argumenta que hemos estado intentando que el guardia (el algoritmo) decida quién miente. El artículo dice: Detente. El trabajo del guardia es solo revisar la identificación. El trabajo del gerente es decidir si la historia es cierta.
El "Humano en el Bucle" (Human-in-the-Loop)
El sistema está diseñado para que los Humanos escriban las Reglas y la IA escriba el Contenido.
- Los humanos establecen la "Constitución" (las reglas en el archivo CANON.md).
- La IA genera el texto.
- El "Compilador" verifica si la IA siguió las reglas.
- Si la IA intenta cambiar las reglas, es bloqueada. Solo los humanos pueden cambiar la Constitución.
Esto crea un sistema donde la IA puede ser rápida y creativa, pero no puede romper la ley ni ocultar sus huellas.
Resumen
El artículo concluye que no podemos construir un algoritmo que detecte automáticamente el "Slop" (texto de IA falso o sin fundamento) porque el "Slop" puede fabricarse para que sea estructuralmente perfecto.
En su lugar, debemos construir un sistema que fuerce la Responsabilidad.
- Forma Antigua: "Confía en mí, esta IA escribió un artículo verdadero". (Difícil de verificar).
- Nueva Forma (CANONIC): "Aquí está el artículo. Aquí está el diccionario de las palabras usadas. Aquí está el archivo exacto donde vive la evidencia. Aquí está el libro de reglas que siguió. Puedes comprobarlo todo tú mismo".
El sistema no detiene las mentiras; simplemente asegura que, si se dice una mentira, esta deje un rastro de evidencia claro e inalterable para que los expertos humanos puedan encontrarla y denunciarla. Convierte la "caja negra" de la IA en una "caja de cristal" donde todo es visible y comprobable.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.