Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction

Resumen Técnico: Amplificación, No Aprendizaje

Enunciado del Problema
Los detectores actuales de texto generado por IA, cuando se ajustan finamente con objetivos estándar de entropía cruzada, exhiben un modo de fallo crítico: clasifican erróneamente escritura humana fluida y formal (por ejemplo, artículos del New York Times) como generada por IA con alta confianza. En configuraciones canónicas, el 33,5 % de dichos artículos humanos cruza el umbral de decisión ($P(AI) \ge 0.5$), obteniendo a menudo puntuaciones superiores a la mediana de la salida de siete familias principales de Modelos de Lenguaje Grandes (LLM). La premisa predominante es que esto se debe a un error de calibración o a una falta de representación aprendida. Sin embargo, los autores argumentan que este fenómeno no es un error que deba parchearse, sino una consecuencia geométrica directa de cómo el ajuste fino interactúa con los codificadores preentrenados. Específicamente, los detectores no construyen una nueva frontera "IA vs. humano"; amplifican un "eje de tipicidad" preexistente inherente a la geometría del modelo preentrenado.

Metodología y Mecanismo Central
El artículo postula que la dirección $d_{class} = \text{centroide}(AI) - \text{centroide}(HC3)$ en el espacio [CLS] preentrenado representa un eje de tipicidad preentrenado. Este eje mide cuán "típico" es un texto en relación con la distribución de preentrenamiento, en lugar de su fuente (IA vs. Humano).

• Proyección Cruda: Proyectar incrustaciones [CLS] crudas, sin ajuste fino, sobre este eje logra una alta discriminación (AUROC 0,806–0,944) entre texto humano formal y la población de IA HC3 (Comparación Humano-ChatGPT), alcanzando el 86–106 % del techo de rendimiento de detectores totalmente ajustados finamente sin ninguna supervisión de tarea.
• Predicción Falsable: Si el eje mide tipicidad, la escritura no nativa en inglés como segunda lengua (ESL), que es atípica bajo el preentrenamiento, debería proyectarse al lado opuesto de la frontera en comparación con la IA. El artículo confirma esto: en datos de ESL no nativa, el AUROC se invierte a 0,06–0,20, un resultado único de la interpretación de tipicidad.
• Sondas Congeladas: Una sonda de regresión logística entrenada con solo 24 ejemplos congelados iguala el rendimiento del ajuste fino completo (0,900 vs. 0,895 AUROC), lo que sugiere que la frontera ya está codificada en la geometría preentrenada.
• Predictor de Forma Cerrada: Los autores derivan una expansión de Taylor de primer orden para predecir el desplazamiento del logit ($\Delta \logit$) resultante de una intervención de rango 1 en el espacio de representación: $\Delta \logit_t = -\epsilon \cdot \langle clst, d \rangle \cdot (w_{h,t} \cdot d)$. Este predictor es matemáticamente exacto para cabezas de decodificador lineales y altamente preciso ($R^2 \ge 0,97$) para codificadores bajo pequeñas perturbaciones ($|\epsilon| \le 0,7$).

Contribuciones Clave

1. Reinterpretación Geométrica: El artículo establece que los detectores ajustados finamente amplifican una dirección de tipicidad preentrenada y fija, en lugar de aprender una nueva frontera discriminativa. El ajuste fino principalmente reescala este eje existente (amplificación de efecto estandarizado $K_{std} \approx 0,86\text{--}1,72$) en lugar de rotar significativamente el espacio de representación.
2. Calibración vs. Representación: Mediante evaluaciones de TPR emparejado, los autores demuestran que varias recetas de entrenamiento "conscientes de la equidad" (pérdida CC, dealign-f2c, LoRA, ajuste fino completo) son equivalentes en calibración. Todas operan sobre el mismo eje compartido; las diferencias en el rendimiento se deben a elecciones de umbral, no a representaciones aprendidas. En consecuencia, ninguna elección de umbral en este eje puede eliminar el sesgo contra humanos formales fluidos.
3. Intervenciones de Manipulación de Eje: El artículo introduce un método para cerrar la brecha de sesgo manipulando el propio eje. Mediante la ablación de la dirección de tipicidad derivada de HC3 utilizando el predictor de forma cerrada (intervención de $\epsilon$ con signo), los autores logran una mejora estricta de Pareto:
   • En el detector ELECTRA canónico, esta intervención eleva la Tasa de Verdaderos Positivos (TPR) para HC3-AI de 0,000 a 0,904 con una Tasa de Falsos Positivos (FPR) del 1 % para humanos formales del NYT.
   • Esta intervención se transfiere a tres detectores RoBERTa de terceros entrenados independientemente sin reentrenamiento, reduciendo el FPR del NYT del detector de OpenAI en un 57 %.
4. Generalización Transversal a Tareas: La misma receta de manipulación de ejes se generaliza a otras tareas de equidad de clasificadores, incluyendo HANS (solapamiento léxico), AAVE (sesgo dialectal), Bios (género-ocupación), noticias falsas, toxicidad y HateCheck, logrando una reducción significativa del sesgo en tareas binarias y multiclase.

Resultados

• Rendimiento: La sonda congelada de 24 disparos iguala el ajuste fino completo. En RoBERTa-base, el ajuste fino completo en realidad reduce la discriminación en comparación con la proyección cruda en poblaciones formales fluidas.
• Reducción de Sesgo: La intervención de $\epsilon$ con signo reduce el FPR del NYT en 25 veces en comparación con INLP (un método de desviación estándar) con recuperación emparejada. Supera a RLACE (que no convergió en 18/18 celdas) y a Binoculars por un margen de 6 veces en evaluaciones de retención cruzada de LM.
• Robustez: La intervención preserva las Tasa de Verdaderos Positivos (TPR) cruzadas entre LM mientras reduce drásticamente los falsos positivos en texto humano formal. El mecanismo se mantiene en tres arquitecturas (ELECTRA, RoBERTa-base, DeBERTa-v3), aunque la magnitud del efecto varía (anclada a HC3).
• Invarianza del Observador: Tres sondas distintas (residualización de la tasa de mayúsculas de la superficie del texto, ablación de $\epsilon$ con signo en el espacio de representación y el predictor de pares de texto de forma cerrada) convergen en el mismo objeto geométrico, con similitudes coseno que oscilan entre 0,74 y 1,00 a través de las arquitecturas.

Significado y Afirmaciones
El artículo afirma que el problema de detección "IA vs. humano" es fundamentalmente un problema de tipicidad, no de identificación de fuente. La afirmación central es que las recetas estándar de ajuste fino simplemente recalibran un sesgo preexistente donde el texto humano formal fluido es "más típico" que la distribución de entrenamiento específica de la IA (HC3).

• Implicación para el Practicante: El "comercio de variantes" entre recetas de entrenamiento estándar (LoRA, ajuste fino completo, pérdida CC) no resolverá el sesgo contra humanos formales fluidos porque todas amplifican el mismo eje. La única solución efectiva es una intervención de manipulación de eje parametrizada por el predictor de forma cerrada.
• Implicación Teórica: El artículo refuta la idea de que los detectores aprenden una nueva frontera de "contenido de IA". En su lugar, amplifican una dirección de "tipicidad" donde el texto de baja perplejidad (ya sea humano o IA) se puntúa como "IA" si es más típico que la población de IA de referencia.
• Limitaciones: Los autores señalan que, aunque el eje a nivel de población es compartido, los mecanismos por texto (por ejemplo, densidad de palabras funcionales vs. longitud de oración) varían según la arquitectura. La magnitud del efecto está anclada a la distribución HC3 y puede diferir para otras poblaciones de IA (por ejemplo, RAID). El predictor de forma cerrada es preciso de primer orden para $\epsilon$ pequeños y asimétrico en dirección en ciertas arquitecturas.

En resumen, el artículo argumenta que los detectores actuales no están rotos; funcionan exactamente como dicta la geometría preentrenada. Corregir el sesgo requiere no un mejor entrenamiento, sino una intervención geométrica que elimine la señal de tipicidad confusa.