💻 computer science

Explainable artificial intelligence in interface design influences user outcomes and cybersecurity literacy

Este estudo demonstra que a integração da inteligência artificial explicável (XAI) em ferramentas de design de interface melhora significativamente os resultados dos usuários, incluindo confiança criativa, aprendizagem percebida, confiança, autonomia e usabilidade, durante tarefas de design de UI, sugerindo que a XAI promove o engajamento crítico com as recomendações de IA ao mesmo tempo em que destaca a necessidade de pesquisas futuras para medir diretamente seu impacto nos comportamentos de literacia de cibersegurança e privacidade.

Autores originais: Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

Publicado 2026-09-25

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No mundo digital, as telas que tocamos e os botões em que clicamos não são neutros. Eles são projetados com uma intenção específica, às vezes para nos guiar suavemente e outras vezes para nos conduzir a escolhas que talvez não fizéssemos se pensássemos com mais cuidado. Esses designs manipuladores, frequentemente chamados de padrões obscuros (dark patterns), exploram a forma como nossos cérebros funcionam. Eles utilizam truques visuais, layouts confusos e padrões automáticos para fazer com que compartilhemos dados pessoais, aceitemos permissões intrusivas ou nos inscrevamos em pagamentos recorrentes sem perceber totalmente o custo. O problema não é apenas que esses designs existem, mas que eles dependem da nossa velocidade e falta de atenção. Quando uma decisão parece fácil e exige pouco esforço, muitas vezes clicamos sem questionar. Para nos protegermos, precisamos de mais do que apenas conhecimento; precisamos de interfaces que nos incentivem a pausar, olhar mais de perto e compreender o que nos está sendo solicitado.

É aqui que entra a ideia da inteligência artificial explicável. Imagine um programa de computador que ajuda você a projetar um site ou um aplicativo. Uma versão padrão de tal ferramenta poderia simplesmente oferecer uma sugestão: "Coloque este botão aqui". Ela dá a resposta, mas não o raciocínio. Uma versão explicável, no entanto, faz mais. Ela oferece a mesma sugestção, mas também fornece uma explicação clara do porquê ela foi feita, quais compensações (trade-offs) foram consideradas e qual o nível de confiança do sistema em sua escolha. O objetivo é transformar o usuário passivo em um parceiro ativo que pode avaliar o conselho, em vez de apenas aceitá-lo. Pesquisadores há muito se perguntam se essa camada extra de transparência realmente ajuda as pessoas a aprender, a confiar mais no sistema e a se sentirem com mais controle sobre suas próprias decisões.

Uma equipe de pesquisadores decidiu testar essa ideia em um experimento controlado envolvendo 128 participantes. Eles pediram a esses indivíduos que realizassem uma tarefa específica: projetar um painel (dashboard) para uma equipe de pesquisa de saúde. O painel precisava ajudar os pesquisadores a acompanhar números de recrutamento, prazos e relatórios de vários estudos em andamento. Os participantes tiveram trinta minutos para criar componentes de interface para esse cenário usando uma ferramenta assistida por IA. Os pesquisadores dividiram o grupo em duas equipes. Uma equipe usou uma ferramenta de IA padrão que oferecia sugestões de design sem nenhum contexto extra. A outra equipe usou uma ferramenta de IA explicável que apresentava as mesmas sugestões, mas incluía um painel explicando os princípios de design, o contexto e as potenciações de compromisso (trade-offs) para cada recomendação.

Os resultados mostraram uma diferença clara na forma como os dois grupos vivenciaram a tarefa. Aqueles que usaram a ferramenta explicável relataram um aumento significativo em sua confiança criativa. Antes da tarefa, sua crença em sua capacidade de criar ideias era menor, mas depois, ela subiu muito mais do que a do grupo que usou a ferramenta padrão. O grupo explicável também sentiu que aprendeu mais com a experiência, confiou mais nas sugestões da IA e sentiu um senso de autonomia mais forte sobre suas decisões finais. Eles avaliaram o sistema como muito mais utilizável e envolvente. De fato, o grupo com as explicações interagiu com a interface com muito mais frequência, abrindo os painéis de explicação para ler os detalhes, enquanto o outro grupo clicou em menos elementos informativos.

No entanto, os pesquisadores foram cuidadosos quanto ao que esses resultados realmente significavam. Embora os participantes tenham se sentido mais confiantes e tenham aprendido mais durante a tarefa de design, o estudo não testou se essa experiência os tornou melhores em detectar designs enganosos no mundo real. O experimento não incluiu quaisquer testes de literacia de privacidade, nem mediu se os participantes seriam capazes de resistir aos padrões obscuros quando confrontados com eles posteriormente. O estudo excluiu explicitamente a ideia de que haviam provado que a IA explicável cria um escudo contra a manipulação. Em vez disso, as descobertas sugerem que fornecer razões ao lado das sugestões da IA melhora a experiência imediata de uso da ferramenta e ajuda os usuários a se sentirem mais capazes e informados durante o processo de design.

O estudo também destacou que os benefícios não se limitaram àqueles que já eram especialistas em tecnologia. Mesmo participantes com menos familiaridade com inteligência artificial mostraram ganhos em confiança e aprendizado quando tiveram acesso às explicações. Isso sugere que o valor da transparência não é apenas para os tecnologicamente instruídos, mas pode apoiar uma gama mais ampla de usuários. No entanto, os autores observaram que o experimento foi uma sessão única, com duração de cerca de quarenta e cinco minutos. Eles não puderam determinar se esses sentimentos de confiança e confiança durariam ao longo do tempo ou se se transfeririam para situações diferentes, como tomar decisões sobre dados pessoais ou segurança.

Em última análise, a pesquisa aponta para uma direção promissora para a forma como interagimos com sistemas inteligentes. Ao adicionar explicações às sugestões da IA, os designers podem criar ferramentas que fazem os usuários se sentirem mais no controle e mais dispostos a interagir criticamente com a tecnologia. Essa abordagem alinha-se com esforços regulatórios crescentes, como os da União Europeia, que exigem que sistemas de IA de alto risco sejam transparentes o suficiente para que os usuários possam compreendê-los e utilizá-los adequadamente. Embora este estudo não tenha resolvido o problema mais amplo da cibersegurança ou da manipulação de privacidade, ele demonstrou que, quando uma ferramenta de IA dedica tempo para explicar seu pensamento, as pessoas se sentem mais confiantes, aprendem mais e confiam mais no processo. O próximo passo para a ciência é ver se esse aumento de engajamento pode se traduzir em proteção real contra os designs enganosos que ameaçam nossas vidas digitais.

Resumo Técnico: A Inteligência Artificial Explicável no Design de Interfaces Influencia os Resultados do Usuário e a Literacia em Cibersegurança

1. Declaração do Problema

O artigo aborda a interseção entre o design de interface, a inteligência artificial (IA) e a literacia de segurança do usuário. Ele postula que os "dark patterns" — designs de interface que manipulam os usuários para escolhas que conflitam com seus interesses (ex: divulgação de dados, permissões intrusivas) — exploram restrições de atenção e tomada de decisão rápida. Embora regulamentações como a Lei de Serviços Digitais da UE e a Lei de IA da UE exijam transparência, a mera transparência não garante a literacia ou o comportamento protetivo do usuário.

O problema central investigado é se a Inteligência Artificial Explicável (XAI), quando integrada em ferramentas de design de interface, pode fomentar competências relevantes para privacidade e cibersegurança. Especificamente, os autores questionam se fornecer justificativas e compensações (trade-offs) juntamente com recomendações geradas por IA incentiva os usuários a pausar, avaliar criticamente e engajar-se mais profundamente com os resultados do sistema, thereby potencialmente construindo o "engajamento crítico" necessário para resistir a interfaces enganosas. O estudo observa uma lacuna de evidências sobre se a interação apoiada por explicações realmente desenvolve essas competências ou se apenas aumenta a confiança sem melhorar a calibração da tomada de decisão.

2. Metodologia

O estudo empregou um experimento controlado entre grupos com 128 participantes recrutados via Prolific. Os participantes foram designados aleatoriamente para um de dois grupos:

Condição XAI ( $n=64$ ): Os participantes utilizaram uma ferramenta de design de UI assistida por IA onde cada sugestão de design era acompanhada por um painel de explicação. Este painel incluía a justificativa do design, considerações contextuais, potenciais compensações e um indicador de confiança.
Condição IA Padrão ( $n=64$ ): Os participantes utilizaram a mesma ferramenta e receberam sugestões de design idênticas, mas sem o painel de explicação dedicado.

Tarefa:
Os participantes completaram uma tarefa de design de UI de 30 minutos focada na melhoria de um dashboard para administração de pesquisa em saúde (monitoramento de recrutamento e prazos). A tarefa foi explicitamente não clínica para evitar a exigência de conhecimento médico.

Medidas:

Confiança Criativa: Medida via escala Likert de 3 itens, pré e pós-tarefa, para calcular o "ganho".
Percepções Pós-Tarefa: Confiança relatada, autonomia percebida e aprendizagem percebida (escalas Likert de 3 itens para cada).
Usabilidade: Medida usando a Escala de Usabilidade do Sistema (SUS).
Qualidade da Tarefa: Pontuada por dois avaliadores cegos em uma escala de 0 a 100.
Interações Registradas: Contagens automáticas de interações do usuário (abertura de painéis de explicação na XAI vs. cliques em tooltips/metadados na Padrão).
Covariáveis: Familiaridade prévia com IA e experiência em design de UI foram estratificadas durante o recrutamento.

Análise:
Os dados foram analisados utilizando testes t para amostras independentes para diferenças entre grupos, testes t pareados para mudanças dentro do grupo e correlações de Pearson. Modelos de regressão hierárquica foram usados para avaliar preditores de ganho de confiança criativa. Tamanhos de efeito foram reportados usando o $d$ de Cohen.

3. Principais Resultados

O estudo encontrou diferenças estatisticamente significativas favorecendo a condição XAI em múltiplas métricas comportamentais e de autorrelato:

Confiança Criativa: O grupo XAI mostrou um ganho significativamente maior em confiança criativa ( $d=0,68$ ) em comparação ao grupo Padrão. Ambos os grupos melhoraram, mas o grupo XAI melhorou mais.
Aprendizagem Percebida: A condição XAI gerou um grande tamanho de efeito para aprendizagem percebida ( $d=1,17$ ), indicando que os participantes sentiram que aprenderam mais com a tarefa.
Confiança Relatada: A confiança na ferramenta de IA foi significativamente maior na condição XAI ( $d=0,97$ ).
Autonomia Percebida: Participantes na condição XAI relataram maior autonomia percebida ( $d=0,42$ ).
Usabilidade: A pontuação SUS foi significativamente maior para a condição XAI ( $M=71,52$ ) comparada à condição Padrão ( $M=58,36$ ), com um tamanho de efeito de $d=1,78$ . A pontuação média do grupo XAI ultrapassou o limiar de "acima da média" (68), enquanto o grupo Padrão não o fez.
Qualidade da Tarefa: O grupo XAI produziu designs de maior qualidade ( $M=82,80$ ) do que o grupo Padrão ( $M=75,54$ ), com um grande tamanho de efeito ( $d=0,97$ ).
Interações Registradas: As contagens de interação foram significativamente maiores na condição XAI ( $d=2,66$ ). No entanto, os autores observam que estas contagens representam ações diferentes (abrir painéis vs. clicar em tooltips) e não devem ser tratadas como medidas equivalentes de engajamento.
Correlações: Em toda a amostra, as contagens de interações registradas correlacionaram-se positivamente com aprendizagem percebida, usabilidade, confiança relatada e qualidade da tarefa. No entanto, no grupo Padrão, as contagens de interação não correlacionaram com nenhum resultado.

4. Principais Contribuições

O artigo contribui com evidências empíricas de que o design de interface aprimorado por XAI influencia positivamente os resultados do usuário durante tarefas assistidas por IA. Especificamente, demonstra que fornecer justificativas e compensações junto às sugestões de IA:

Aumenta a confiança criativa e a aprendizagem percebida.
Melhora a confiança relatada e a autonomia percebida.
Melhora as classificações de usabilidade do sistema e a qualidade da tarefa.
Incentiva níveis mais altos de interação com a interface.

O estudo apoia a hipótesidade de que as explicações podem servir como um recurso de interface que promove o engajamento crítico com as recomendações de IA, indo além da simples transparência para o envolvimento ativo do usuário.

5. Significância e Alegações

Os autores mantêm um escopo modesto e preciso em relação à significância de seus achados:

Relevância para a Literacia, Não Prova de Resiliência: O artigo afirma explicitamente que os resultados não demonstram que a XAI melhora a literacia de privacidade, a literacia de cibersegurança ou a resistência a dark patterns. O estudo não mediu o reconhecimento de dark patterns, comportamento de esquiva ou calibração de confiança (o alinhamento da confiança com a precisão do sistema).
Potencial vs. Transferência Demonstrada: Os achados sugerem uma relevância potencial para a literacia de privacidade e cibersegurança. Os autores argumentam que, ao fomentar o engajamento crítico e a autonomia percebida durante uma tarefa de design, a XAI pode informar futuras intervenções para decisões de privacidade. No entanto, a transferência direta para contextos de segurança (ex: resistir a phishing ou fluxos de consentimento enganosos) permanece uma questão aberta que requer testes separados.
Calibração de Confiança: O estudo encontrou maior confiança relatada no grupo XAI, mas esclarece que isso não equivale a uma confiança calibrada. Uma confiança elevada sem medidas de precisão poderia potencialmente levar à dependência excessiva se a IA estiver incorreta.
Limitações: Os autores reconhecem limitações, incluindo a falta de dados longitudinais (persistência dos efeitos), a natureza específica da tarefa (não clínica, não de segurança) e a fonte de recrutamento (usuários do Prolific), o que pode limitar a generalização para populações com menor literacia digital.

Em conclusão, o artigo estabelece que interfaces apoiadas por explicações melhoram a experiência do usuário e a autoeficácia em tarefas de design assistidas por IA. Ele enquadra esses resultados como uma base necessária para pesquisas futuras sobre se tais interfaces podem efetivamente construir resiliência comportamental contra padrões de design enganosos, em vez de alegar ter resolvido diretamente o problema da literacia em cibersegurança.