Algorithmic manipulation and mental self-determination: Operationalizing freedom of thought as a neuroright

A mente humana tem sido há muito tempo considerada um santuário privado, um lugar onde os pensamentos se formam em silêncio, livres de interferências externas. Durante décadas, o direito internacional protegeu esse espaço interior, conhecido como forum internum, como um direito absoluto que nenhum governo ou tecnologia pode violar. Essa proteção foi originalmente desenhada para impedir que as pessoas fossem forçadas a mudar suas crenças ou punidas pelo que pensam. No entanto, um novo tipo de ameaça surgiu, que não requer fios, implantes ou acesso direto ao cérebro. Em vez disso, vem dos algoritmos cotidianos que impulsionam as redes sociais, os feeds de notícias e as compras online. Esses sistemas não leem nossas mentes diretamente; eles observam nosso comportamento, aprendem nossos hábitos e sutilmente organizam o mundo ao nosso redor para guiar nossas escolhas. O perigo é que muitas vezes sentimos que estamos tomando nossas próprias decisões, mesmo quando essas decisões foram cuidadosamente projetadas por um programa de computador para explorar nossas fraquezas.

Dois pesquisadores da Universidade de Direito de Hanói, Thi Long Nguyen e Ngoc Hiep Tran, examinaram se nossas leis existentes são fortes o suficiente para deter essa influência invisível. Eles argumentam que as regras atuais, que se concentram na proteção de dados pessoais ou na regulamentação de tipos específicos de inteligência artificial, perdem o problema real. A questão não é apenas sobre quem vê nossas informações, mas sobre como nossa capacidade de pensar por conta própria está sendo silenciosamente remodelada. Os autores propõem que precisamos entender a "autodeterminação mental" não como um direito novo, mas como uma aplicação moderna do antigo direito à liberdade de pensamento. Eles sugerem um conjunto claro de condições para distinguir entre a persuasão normal e a manipulação ilegal, oferecendo uma forma de proteger a integridade do nosso pensamento em uma era digital onde as ferramentas mais poderosas nunca tocam nossos cérebros.

Os pesquisadores começaram examinando a lacuna nas proteções atuais. Eles descobriram que leis como a Lei de IA da União Europeia e as regulamentações de privacidade de dados não foram projetadas para capturar o dano específico causado pela manipulação algorítmica. A Lei de IA, por exemplo, proíbe sistemas que utilizam técnicas ocultas para distorcer o comportamento, mas exige a prova de que uma empresa teve a intenção de manipular e que o resultado causou um dano significativo e tangível. Este é um patamar elevado que muitos algoritmos cotidianos superam facilmente. Esses sistemas são frequentemente projetados para maximizar o engajamento ou as vendas, não para enganar explicitamente as pessoas, e seus efeitos são geralmente uma mudança lenta e gradual na forma como vemos o mundo, em vez de um erro único e dramático. Da mesma forma, as leis de proteção de dados focam na coleta e no armazenamento de informações. Elas perguntam se consentimos com o uso de nossos dados, mas não perguntam se a maneira como esses dados são usados está secretamente direcionando nossos pensamentos. Os autores argumentam que isso deixa um buraco estrutural na lei: um sistema poderia seguir todas as regras de privacidade de dados e segurança de IA e, ainda assim, efetivamente sequestrar o processo pelo qual uma pessoa forma um julgamento.

Para entender como isso acontece, os autores descrevem um processo que começa muito antes de um usuário ver uma postagem ou anúncio específico. O sistema primeiro constrói um modelo detalhado do usuário, aprendendo seus gatilhos emocionais, seus momentos de fraqueza e o que captura sua atenção. Isso cria um enorme desequilíbrio de conhecimento: o computador conhece as vulnerabilidades do usuário melhor do que o próprio usuário se conhece. O sistema então usa esse conhecimento para moldar o ambiente em que as escolhas são feitas. Ele pode mostrar certas notícias em um momento em que o usuário está cansado, ou apresentar opções em uma ordem específica que faz com que uma escolha pareça mais natural do que realmente é. O resultado é uma forma de influência que parece uma preferência pessoal. O usuário ainda sente que é o autor de suas próprias decisões, mas o caminho que percorreu para chegar lá foi secretamente pavimentado por um algoritmo. Isso é diferente de coerção, que força uma escolha, ou de persuasão, que oferece razões para serem pesadas. É um direcionamento oculto da mente que ignora a reflexão consciente.

O artigo argumenta que, para corrigir isso, devemos olhar para o direito à liberdade de pensamento não apenas como um escudo contra implantes cerebrais, mas como um escudo contra qualquer tecnologia que interrompa a formação do pensamento. Os autores propõem um teste específico para decidir quando um algoritmo cruza a linha da influência aceitável para a manipulação ilegal. Eles sugerem que uma prática só é ilegal se atender a quatro condições simultaneamente. Primeiro, o método de influência deve ser oculto ao usuário; se o usuário sabe que está sendo alvo, não é manipulação. Segundo, deve haver um profundo desequilíbrio de conhecimento, onde o sistema conhece as fraquezas do usuário de uma forma que o usuário não consegue ver. Terceiro, o sistema deve explorar uma vulnerabilidade específica, como um estado emocional ou um ponto cego cognitivo, em vez de apelar para a capacidade de raciocínio do usuário. Finalmente, a influência deve alterar o próprio processo de como o usuário chega a uma decisão, não apenas as opções disponíveis para ele.

Este framework baseia-se num caso jurídico recente no Chile, onde o país se tornou o primeiro a conceder direitos constitucionais à atividade cerebral. Naquele caso, um tribunal decidiu que uma empresa violou os direitos de um senador ao coletar seus dados cerebrais sem o devido consentimento. Os autores observam que, embora tenha sido uma vitória para os neurodireitos, foi limitada a situações em que os dados foram retirados diretamente do cérebro. O trabalho deles estende essa lógica para o mundo digital, argumentando que a mesma proteção deve se aplicar mesmo quando nenhum dado físico é retirado da mente. Se o objetivo da lei é proteger a integridade do nosso pensamento, não importa se a interferência vem de um fio no crânio ou de um aplicativo inteligentemente desenhado em uma tela. O dano é o mesmo: a erosão da capacidade de formar as próprias crenças.

Os pesquisadores reconhecem que aplicar essas ideias não será fácil. Provar que um algoritmo específico causou uma mudança específica na mente de uma pessoa é difícil, pois esses efeitos são frequentemente sutis e cumulativos. Eles também alertam que o novo teste deve ser aplicado cuidadosamente pelos tribunais para garantir que não acabe proibindo todas as formas de publicidade ou recomendação. No entanto, concluem que, sem um padrão claro para o que constitui a autodeterminação mental, a lei permanecerá cega às ameaças mais pervasivas à nossa autonomia. Ao definir a manipulação através desses quatro fatores, os autores oferecem uma forma de proteger o santuário interior da mente humana, garantindo que nossos pensamentos continuem sendo nossos, mesmo em um mundo onde o ambiente ao nosso redor está constantemente sendo otimizado para mudá-los.