Agentic AI: User Empowerment or Foreclosure?
Al analizar precedentes históricos como los bloqueadores de anuncios y los filtros de spam, el artículo sostiene que el potencial de la IA agéntica para empoderar a los usuarios depende de evitar la "despolitización" de la gobernanza mediante estándares controlados por la industria, ya que la consolidación actual en torno a protocolos propietarios corre el riesgo de desmantelar la capacidad de contestación colectiva antes de que las alternativas alineadas con el usuario puedan consolidarse.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina un mundo donde tu computadora, teléfono o un dispositivo dedicado actúe como tu asistente personal, no solo respondiendo preguntas, sino haciendo cosas por ti. Podría filtrar las noticias que ves, negociar un mejor precio en un vuelo o gestionar tus inversiones mientras duermes. Esta tecnología emergente se llama inteligencia artificial agéntica. La promesa es que estos agentes actuarán en tu mejor interés, liberándote de tareas tediosas. Pero una pregunta crítica permanece: ¿quién controla realmente a estos agentes? Si la tecnología es construida por unas pocas grandes empresas, ¿servirán los agentes verdaderamente a ti, o servirán a los intereses de las empresas que los crearon? Para responder a esto, investigadores de la Universidad de Michigan miraron hacia atrás para ver cómo evolucionaron tecnologías similares durante las últimas dos décadas. Estudiaron cuatro áreas específicas donde el software fue diseñado para actuar en nombre de los usuarios: herramientas para bloquear anuncios en línea, sistemas que deciden qué contenido ves en las redes sociales, asesores financieros automatizados y filtros que detienen el correo electrónico no deseado (spam). Al comparar estas diferentes historias, el equipo descubrió un patrón preocupante. En cada caso, la tecnología comenzó con una amplia gama de posibilidades para el control del usuario, pero con el tiempo, las reglas que gobiernan cómo funcionan estas herramientas fueron silenciosamente bloqueadas mediante estándares de la industria y diseños técnicos. Este proceso, que los autores llaman despolitización, convierte las elecciones políticas —quién decide qué se bloquea o se recomienda— en hechos técnicos aparentemente neutrales que nadie puede cuestionar fácilmente.
Los investigadores comenzaron examinando los bloqueadores de anuncios basados en el navegador, herramientas que permiten a los usuarios ocultar anuncios mientras navegan por la web. En los primeros días, estas herramientas eran flexibles. Los usuarios podían instalar extensiones que interceptaban y detenían cualquier anuncio que quisieran, basándose en listas de reglas creadas y actualizadas por comunidades abiertas. Sin embargo, a medida que la industria de la publicidad creció preocupada por la pérdida de ingresos, las reglas cambiaron. Un importante fabricante de navegadores rediseñó su software subyacente para limitar lo que estas extensiones podían hacer. En lugar de permitir que las extensiones detuvieran cualquier solicitud, las nuevas reglas las obligaron a declarar sus planes de bloqueo por adelantado y limitaron el número de reglas que podían utilizar. Este cambio se justificó como una mejora de seguridad, pero el resultado práctico fue que las herramientas de bloqueo de anuncios más potentes fueron debilitadas. La decisión de qué cuenta como un anuncio aceptable ya no dependía del usuario o de su comunidad; fue resuelta por un grupo de la industria que incluía a los mayores vendedores de publicidad, y el fabricante del navegador aplicó esta decisión automáticamente para todos.
Una historia similar ocurrió con los filtros de spam. Al principio, detener el correo electrónico no deseado era un esfuerzo colaborativo. Pequeños grupos de administradores de redes compartían listas de direcciones de correo electrónico conocidas como maliciosas, y cualquiera podía ver las reglas o argumentar en contra de ellas. A medida que el spam se convirtió en una operación industrial masiva, la solución cambió hacia programas informáticos poderosos que aprenden a detectar el spam analizando enormes cantidades de datos que solo poseen las gigantescas empresas de correo electrónico. Estos nuevos sistemas eran increíblemente efectivos para limpiar las bandejas de entrada individuales, haciendo que el correo electrónico fuera mucho más agradable de usar. Sin embargo, el poder de decidir qué es spam se trasladó enteramente a manos de esas grandes empresas. Las antiguas listas abiertas fueron reemplazadas por sistemas privados de caja negra. El resultado fue una paradoja: el usuario promedio recibía muchos menos mensajes de spam, pero la capacidad del público o de grupos más pequeños para desafiar o cambiar las reglas de lo que cuenta como spam desapareció por completo.
El estudio también analizó los asesores financieros automatizados y los sistemas de recomendación de redes sociales. En ambos campos, la tecnología comenzó con la idea de personalizar los servicios para el usuario. Sin embargo, las reglas de cómo funcionaban estos sistemas fueron establecidas por las empresas que los operan, priorizando a menudo su propio beneficio sobre las necesidades específicas del usuario. Para los asesores financieros, los algoritmos fueron diseñados para seguir teorías de inversión estándar, pero las elecciones específicas de qué fondos recomendar a menudo favorecían los productos de la propia empresa. Para las redes sociales, los sistemas aprendieron a mostrar a los usuarios contenido que los mantuviera mirando por más tiempo, un objetivo que a menudo entraba en conflicto con mostrarles contenido que fuera verdaderamente útil o diverso. En estos casos, los investigadores encontraron que el espacio para que los usuarios influyeran en el comportamiento de los agentes nunca estuvo realmente abierto en primer lugar. La infraestructura fue construida por las propias plataformas, lo que significa que las reglas se establecieron antes de que los usuarios tuvieran siquiera la oportunidad de participar.
El hallazgo central del artículo es que las mejoras en la experiencia individual y la capacidad de las personas para organizarse y desafiar el sistema pueden moverse en direcciones opuestas. Puedes tener una bandeja de entrada más limpia o un feed más personalizado mientras, simultáneamente, pierdes el poder de cambiar cómo funcionan esos sistemas. Los investigadores argumentan que esto sucede porque las decisiones sobre lo que hacen los agentes están integradas en el diseño técnico de los sistemas. Cuando se toma una decisión sobre qué datos utilizar o para qué objetivo debe optimizarse el software, y esa elección queda ocida dentro de un código complejo o un estándar de la industria cerrado, se vuelve muy difícil de cuestionar. Los autores llaman a esto "despolitización" porque elimina la naturaleza política de la decisión, haciendo que parezca un simple asunto de eficiencia de ingeniería en lugar de una elección sobre qué intereses se están sirviendo.
Ahora, los investigadores están aplicando este lente a la nueva ola de inteligencia artificial agéntica. Ven los mismos patrones formándose. Se está estableciendo un nuevo conjunto de reglas, conocido como Protocolo de Contexto de Modelo (Model Context Protocol), para definir cómo estos agentes de IA se comunican con otros servicios. Este protocolo está siendo gestionado por una fundación dominada por las mayores empresas tecnológicas. Aunque el proceso parece abierto en la superficie, con reuniones públicas y documentos, el poder real para tomar las decisiones finales reside en una junta directiva compuesta por estas grandes empresas. No hay una forma formal para que los grupos de usuarios u organizaciones de interés público desafíen estas decisiones. Los investigadores advierten que, si esta trayectoria continúa, los límites de lo que estos agentes de IA pueden hacer serán establecidos por expertos de la industria antes de que la tecnología sea plenamente utilizada por el público. A diferencia de los casos del pasado donde las reglas se endurecieron a lo largo de muchos años, estas decisiones se están tomando muy rápidamente, en apenas un par de años tras el lanzamiento de la tecnología.
El artículo concluye que, para que los usuarios estén verdaderamente empoderados, necesitan más que un agente de IA que se comporte bien. Necesitan un sistema donde las reglas puedan ser desafiadas. Esto requiere tres cosas: la capacidad de ver cómo funciona el sistema, acceso a tecnología independiente que no esté controlada por las grandes empresas, y un proceso formal donde los usuarios puedan argumentar en contra de las decisiones que les perjudiquen. Los investigadores sugieren que nos encontramos en un momento crítico. Las reglas para la IA agéntica se están escribiendo ahora mismo. Si esperamos hasta que la tecnología esté plenamente establecida, será demasiado tarde para cambiar la estructura subyacente. El objetivo no es solo construir mejores agentes, sino construir un ecosistema donde el poder de decidir qué hacen esos agentes permanezca abierto a la contestación, asegurando que la tecnología sirva al público y no solo a las empresas que la construyeron.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.