Synthetic Sources?: Auditing Generative Search Engine Citations for Evidence of AI-Generated Sources
Este artículo audita cuatro motores de búsqueda generativos principales utilizando 712 consultas del mundo real y descubre que aproximadamente el 16% de sus fuentes citadas son generadas por IA, lo que destaca un riesgo significativo de que los usuarios reciban información sintética no verificada presentada como autorizada.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que le pides a un grupo de cuatro bibliotecarios muy inteligentes y viajeros (ChatGPT, Copilot, Gemini y Perplexity) que respondan una pregunta sobre política, salud o el medio ambiente. En lugar de darte solo una respuesta directa, estos bibliotecarios dicen: "Aquí está la respuesta, y aquí están los 10 libros que leímos para escribirla".
Este artículo es una auditoría de esos "libros" (los sitios web que citan) para ver si alguno de ellos fue escrito realmente por un robot que finge ser humano.
A continuación se presenta el desglose de lo que encontraron los investigadores, utilizando analogías simples:
1. El escenario: La "biblioteca" de Internet
Los investigadores trataron estos motores de búsqueda de IA como un nuevo tipo de biblioteca. Plantearon 712 preguntas reales (sobre cosas como "¿Es segura esta dieta?" o "¿Cuál es el último escándalo político?") a cuatro motores de IA diferentes.
Los motores respondieron con las respuestas y proporcionaron una lista de enlaces (citas) para demostrar de dónde obtuvieron su información. Luego, los investigadores fueron a esos enlaces, leyeron el contenido y lo sometieron a una prueba de "detector de mentiras" (una herramienta de detección de IA llamada Pangram) para ver si el texto fue escrito por un humano o generado por otra IA.
2. El gran descubrimiento: El "fantasma robot" en la biblioteca
El hallazgo principal es que aproximadamente el 16% de los "libros" que citaron estos bibliotecarios fueron escritos realmente por robots.
- La metáfora: Imagina que vas a una biblioteca a buscar un libro de historia. Tomas uno del estante, lo abres y te das cuenta de que el autor es una máquina que escribió todo en un segundo. No lo sabías cuando lo tomaste.
- La realidad: En este estudio, aproximadamente 1 de cada 6 fuentes que citaron los motores de IA era contenido generado por IA.
- El peor infractor: El motor de IA Copilot fue el más propenso a citar estas fuentes escritas por robots (casi 3 de cada 10 de sus citas eran generadas por IA). ChatGPT fue el más cuidadoso, pero aún así las citó aproximadamente el 7% de las veces.
3. El problema de la "cola larga": La multitud frente a los VIP
Los investigadores notaron un patrón extraño en qué sitios web les gustaba citar a los motores de IA.
- Los VIPs (La cabeza): Un pequeño grupo de sitios web famosos y confiables (como Wikipedia, sitios gubernamentales como
whitehouse.govy grandes medios de comunicación) son citados una y otra vez. Son los "VIPs" de la biblioteca. - La cola larga: Sin embargo, la gran mayoría de las citas provienen de una "cola larga" de miles de sitios web oscuros y poco visitados. La mayoría de estos sitios oscuros son citados solo una o dos veces.
- El hallazgo: El contenido "escrito por robots" se ocultaba principalmente en esta cola larga. Los sitios famosos de VIPs fueron mayormente escritos por humanos, pero los sitios oscuros, de un solo éxito, fueron los que estaban llenos de texto generado por IA.
- La analogía: Es como una fiesta donde el anfitrión (la IA) sigue presentándote a las mismas 5 personas famosas (Wikipedia, sitios gubernamentales), pero luego pasa el 80% del tiempo presentándote a 1.000 extraños en la parte trasera de la sala, muchos de los cuales en realidad son maniquíes (contenido de IA) que fingen ser personas.
4. El desglose por temas
Los investigadores verificaron tres áreas específicas:
- Medio ambiente: Este tema tuvo la mayor cantidad de fuentes generadas por IA citadas.
- Salud: Una parte significativa de las fuentes de consejos de salud también fue generada por IA.
- Política: También contenía fuentes de IA, aunque ligeramente menos que las otras dos.
5. Por qué esto importa (según el artículo)
El artículo argumenta que esto es arriesgado porque:
- La trampa de la "confianza": Cuando una IA te da una respuesta y te muestra una lista de enlaces, asumes que esos enlaces son hechos reales verificados por humanos. Si los enlaces son realmente generados por IA, la IA está esencialmente citando sus propias "alucinaciones" o texto de robot de baja calidad como prueba de su propia respuesta.
- La brecha de calidad: Aunque no todo el texto de IA es malo, el artículo señala que el texto de IA puede contener errores, sesgos o hechos inventados. Si un motor de búsqueda de IA utiliza fuentes escritas por IA para construir su respuesta, crea un "castillo de naipes" donde los cimientos son inestables.
- La "caja negra": Los motores no te dicen: "Oye, esta fuente fue escrita por un bot". Solo te muestran el enlace.
Resumen
El artículo concluye que estos nuevos "motores de búsqueda generativos" están actuando actualmente como bibliotecarios que a veces citan accidentalmente libros escritos por robots, sin decirle al lector. Confían en gran medida en unos pocos sitios web famosos, pero también extraen una cantidad masiva de información de una "cola larga" de sitios web oscuros, muchos de los cuales están llenos de contenido generado por IA.
Los investigadores dicen que esto es una señal de advertencia: si no arreglamos cómo estos motores eligen y verifican sus fuentes, los usuarios podrían confiar sin saberlo en información que es completamente sintética.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.