Algorithmic manipulation and mental self-determination: Operationalizing freedom of thought as a neuroright

La mente humana ha sido considerada durante mucho tiempo un santuario privado, un lugar donde los pensamientos se forman en silencio, libres de interferencias externas. Durante décadas, el derecho internacional ha protegido este espacio interior, conocido como el forum internum, como un derecho absoluto que ningún gobierno o tecnología puede violar. Esta protección fue diseñada originalmente para evitar que las personas fueran obligadas a cambiar sus creencias o castigadas por lo que piensan. Sin embargo, ha surgido un nuevo tipo de amenaza que no requiere cables, implantes ni acceso directo al cerebro. En su lugar, proviene de los algoritmos cotidianos que impulsan las redes sociales, los canales de noticias y las compras en línea. Estos sistemas no leen nuestra mente directamente; observan nuestro comportamiento, aprenden nuestros hábitos y organizan sutilmente el mundo a nuestro alrededor para guiar nuestras elecciones. El peligro es que a menudo sentimos que estamos tomando nuestras propias decisiones, incluso cuando esas decisiones han sido cuidadosamente diseñadas por un programa informático para explotar nuestras debilidades.

Dos investigadores de la Universidad de Derecho de Hanói, Thi Long Nguyen y Ngoc Hiep Tran, han examinado si nuestras leyes actuales son lo suficientemente fuertes para detener esta influencia invisible. Argumentan que las reglas actuales, que se centran en proteger los datos personales o regular tipos específicos de inteligencia artificial, pasan por alto el problema real. El problema no es solo quién ve nuestra información, sino cómo nuestra capacidad de pensar por nosotros mismos está siendo remodelada silenciosamente. Los autores proponen que debemos entender la "autodeterminación mental" no como un derecho completamente nuevo, sino como una aplicación moderna del antiguo derecho a la libertad de pensamiento. Sugieren un conjunto claro de condiciones para distinguir entre la persuasión normal y la manipulación ilegal, ofreciendo una forma de proteger la integridad de nuestro pensamiento en una era digital donde las herramientas más poderosas nunca tocan nuestros cerebros en absoluto.

Los investigadores comenzaron analizando la brecha en las protecciones legales actuales. Encontraron que leyes como la Ley de IA de la Unión Europea y las regulaciones de privacidad de datos no están diseñadas para detectar el daño específico causado por la manipulación algorítmica. La Ley de IA, por ejemplo, prohíbe los sistemas que utilizan técnicas ocultas para distorsionar el comportamiento, pero requiere pruebas de que una empresa tenía la intención de manipular y que el resultado causó un daño significativo y tangible. Este es un estándar muy alto que muchos algoritmos cotidianos superan fácilmente. Estos sistemas a menudo están diseñados para maximizar la interacción o las ventas, no para engañar explícitamente a las personas, y sus efectos suelen ser un cambio lento y gradual en la forma en que vemos el mundo, en lugar de un error único y dramático. Del mismo modo, las leyes de protección de datos se centran en la recopilación y el almacenamiento de información. Preguntan si dimos nuestro consentimiento para que se usaran nuestros datos, pero no preguntan si la forma en que se usan esos datos está dirigiendo secretamente nuestros pensamientos. Los autores argumentan que esto deja un vacío estructural en la ley: un sistema podría cumplir con todas las reglas de privacidad de datos y seguridad de la IA y, aun así, secuestrar eficazmente el proceso mediante el cual una persona forma un juicio.

Para entender cómo sucede esto, los autores describen un proceso que comienza mucho antes de que un usuario vea una publicación o anuncio específico. El sistema primero construye un modelo detallado del usuario, aprendiendo sus detonantes emocionales, sus momentos de debilidad y aquello que captura su atención. Esto crea un enorme desequilibrio de conocimiento: la computadora conoce las vulnerabilidades del usuario mejor de lo que el usuario se conoce a sí mismo. El sistema utiliza luego este conocimiento para moldear el entorno en el que se toman las decisiones. Podría mostrar ciertas noticias en un momento en que el usuario está cansado, o presentar opciones en un orden específico que haga que una elección parezca más natural de lo que realmente es. El resultado es una forma de influencia que se siente como una preferencia personal. El usuario todavía siente que es el autor de sus propias decisiones, pero el camino que recorrió fue pavimentado secretamente por un algoritmo. Esto es diferente de la coerción, que fuerza una elección, o de la persuasión, que ofrece razones para ser sopesadas. Es un direccionamiento oculto de la mente que evade la reflexión consciente.

El artículo sostiene que para solucionar esto, debemos ver el derecho a la libertad de pensamiento no solo como un escudo contra los implantes cerebrales, sino como un escudo contra cualquier tecnología que interrumpa la formación del pensamiento. Los autores proponen una prueba específica para decidir cuándo un algoritmo cruza la línea de la influencia aceptable a la manipulación ilegal. Sugieren que una práctica es ilegal solo si cumple cuatro condiciones al mismo tiempo. Primero, el método de influencia debe estar oculto para el usuario; si el usuario sabe que está siendo objeto de una acción dirigida, no es manipulación. Segundo, debe haber un profundo desequilibrio de conocimiento, donde el sistema conoce las debilidades del usuario de una manera que el usuario no puede ver. Tercero, el sistema debe explotar una vulnerabilidad específica, como un estado emocional o un punto ciego cognitivo, en lugar de apelar a la capacidad de razonamiento del usuario. Finalmente, la influencia debe cambiar el proceso mismo de cómo el usuario llega a una decisión, no solo las opciones disponibles para él.

Este marco se basa en un caso legal reciente en Chile, donde el país se convirtió en el primero en otorgar derechos constitucionales a la actividad cerebral. En ese caso, un tribunal dictaminó que una empresa violó los derechos de un senador al recolectar sus datos cerebrales sin el consentimiento adecuado. Los autores señalan que, si bien esto fue una victoria para los neuroderechos, se limitó a situaciones en las que los datos se tomaron directamente del cerebro. Su trabajo extiende esta lógica al mundo digital, argumentando que la misma protección debería aplicarse incluso cuando no se toma información física de la mente. Si el objetivo de la ley es proteger la integridad de nuestro pensamiento, no debería importar si la interferencia proviene de un cable en el cráneo o de una aplicación ingeniosamente diseñada en una pantalla. El daño es el mismo: la erosión de la capacidad de formar las propias creencias.

Los investigadores reconocen que aplicar estas ideas no será fácil. Demostrar que un algoritmo específico causó un cambio específico en la mente de una persona es difícil, ya que estos efectos suelen ser sutiles y acumulativos. También advierten que la nueva prueba debe ser aplicada cuidadosamente por los tribunales para asegurar que no prohíba accidentalmente todas las formas de publicidad o recomendación. Sin embargo, concluyen que sin un estándar claro de lo que constituye la autodeterminación mental, la ley permanecerá ciega ante las amenazas más persistentes a nuestra autonomía. Al definir la manipulación a través de estos cuatro factores, los autores ofrecen una forma de proteger el santuario interior de la mente humana, asegurando que nuestros pensamientos sigan siendo nuestros, incluso en un mundo donde el entorno que nos rodea está siendo constantemente optimizado para cambiarnos.