From Dyad to Triad: Eliciting XAI Requirements in Stroke Rehabilitation

O Treinador Invisível e o Paciente Silencioso

Imagine que você está aprendendo a andar de bicicleta, mas em vez de um pai segurando o selim, um robô está te guiando. Este robô consegue ver seus desequilíbrios e sabe exatamente quando você está prestos a cair. Mas aqui está o detalhe: o robô nunca fala. Ele apenas inclina o guidão ou interrompe os pedais. Você pode ficar frustrado, perguntando-se: "Eu pedalei com muita força? A bateria está baixa? O robô está quebrado?" Este é o mundo da IA Explicável (XAI). Em termos simples, a XAI é a arte de fazer com que os programas de computador nos digam por que tomaram uma decisão, em vez de apenas nos mostrar o resultado.

Agora, imagine que este robô está ajudando um sobrevivente de AVC a reaprender como mover o braço. Um AVC é como uma queda de energia na fiação do cérebro, muitas vezes deixando as pessoas incapazes de falar claramente ou processar ideias complexas rapidamente. Durante anos, os médicos foram os "treinadores" neste cenário, explicando aos pacientes por que um exercício falhou e como corrigi-lo. Mas, à medida que a tecnologia intervém para ajudar, a equipe muda de uma dupla (médico e paciente) para um trio (médico, paciente e robô). A grande questão é: Como perguntar a uma pessoa que está lutando para encontrar as palavras certas que tipo de "explicação" ela precisa de um robô? Se você perguntar a ela: "Você prefere uma explicação contrastiva ou uma contrafactual?", ela poderá apenas encarar você. Este artigo mergulha exatamente nesse problema, tentando descobrir como ouvir pacientes que nem sempre conseguem falar por si mesmos, para que os robôs que eles utilizam não apenas funcionem, mas realmente façam sentido para eles.

---

Do "O quê?" ao "Por quê?"

Este artigo trata de um experimento inteligente projetado para resolver um enigma de comunicação. Os pesquisadores queriam saber o que os sobreviventes de AVC realmente precisam entender dos sistemas de IA que os ajudam na recuperação. Mas havia um obstáculo: muitos desses pacientes têm afasia, uma condição que dificulta o falar ou compreender linguagens complexas. Se você perguntar diretamente a eles: "Que tipo de transparência você deseja deste algoritmo?", eles podem travar ou, pior, apenas dizer "sim" para o que quer que você sugira porque não querem ser difíceis.

A equipe, liderada por Param Rajpura e Yogesh Kumar Meena, decidiu parar de fazer perguntas abstratas e começar a mostrar histórias. Eles criaram um protocolo de andaime baseado em vídeo. Pense no "andaime" como os suportes de madeira temporários que os construtores usam para ajudar a construir uma parede. Aqui, a "madeira" era uma série de vídeos curtos de 2 minutos mostrando uma personagem chamada Sunita tentando usar uma interface cérebro-computador (BCI) para mover seu braço. Os vídeos mostravam problemas realistas — como a máquina funcionando às vezes e outras não, ou dando um feedback confuso — mas eles não mostravam a solução. Em vez disso, os vídeos paravam exatamente no momento da confusão, perguntando aos espectadores: "O que ajudaria Sunita aqui?"

Para obter o máximo proveito desses vídeos, os pesquisadores usaram quatro truques especiais, ou "abordagens de andaime", para ajudar os pacientes a expressarem suas necessidades:

1. A Ponte do "Sistema Familiar" (Ponte Analógica): Em vez de falar sobre "sinais neurais" ou "impedância", os facilitadores comparavam a IA a coisas que todos conhecem. Por exemplo, eles compararam um sinal cerebral ruim a uma chamada de celular interrompida. De repente, a ideia de "consertar o sinal" fez todo o sentido para um paciente que nunca tinha ouvido falar de tecnologia EEG.
2. O Escudo da "Terceira Pessoa" (Personas Projetivas): Perguntar diretamente a um paciente: "Você está preocupado com sua privacidade?" pode parecer assustador ou constrangedor. Assim, os pesquisadores perguntaram: "O que uma pessoa cética se preocuparia?". Isso permitiu que os pacientes expressassem seus medos sem sentirem que estavam admitindo fraqueza.
3. A Escolha "A ou B" (Forçamento Binário): Às vezes, perguntas abertas são pesadas demais. Os pesquisadores simplificaram as coisas: "Você quer um resumo minúsculo ou um relatório enorme?" ou "A máquina deve te dizer o que fazer, ou um humano deve explicar?". Isso reduziu a carga mental e permitiu que os pacientes fizessem escolhas claras.
4. A Regra do "O Silêncio é de Ouro" (Tempo de Resposta Estendido): Eles deram aos pacientes de 15 a 30 segundos de silêncio após fazer uma pergunta. Para alguém com afasia, esse tempo extra é a diferença entre um olhar vazio e uma resposta ponderada.

O Que Eles Descobriram: Uma Multidão de Vozes Diferentes

O estudo envolveu três sobreviventes de AVC (dois dos quais tinham afasia moderada a grave) e três cuidadores familiares. Os resultados foram surpreendentes e mostraram que os pacientes não são um grupo único e uniforme.

• Eles querem diferentes níveis de detalhe: Um paciente queria um relatório minúsculo e simples ("Apenas me diga se eu consegui"), enquanto outro queria um detalhamento minucioso, passo a passo, de cada movimento. Se os designers tivessem perguntado a apenas uma pessoa, poderiam ter construído um sistema que irritaria a outra.
• Eles confiam em diferentes "treinadores": Quando o médico dizia uma coisa e a máquina dizia outra, alguns pacientes confiavam no médico, enquanto outros confiavam nos números da máquina porque os sentiam mais "objetivos". Curiosamente, não importava em quem confiavam, todos disseram que trabalhariam mais se se sentissem apoiados.
• Eles querem diferentes tipos de ajuda: Alguns pacientes queriam que a máquina falasse diretamente com eles para que pudessem corrigir seus próprios erros. Outros preferiam que um familiar ou um humano explicasse o erro primeiro, porque ainda não se sentiam confiantes para conversar com uma máquina.

A Armadilha Escondida: O Viés do "Especialista"

O artigo também lança luz sobre um problema delicado: os próprios pesquisadores podem acidentalmente estragar as coisas. Ao observar suas próprias interações, eles descobriram três maneiras pelas quais influenciaram as respostas involuntariamente:

1. O Viés do "Mais é Melhor": Quando um paciente pedia um relatório simples, o facilitador às vezes o resumia como um "relatório completo" porque assumia que a complexidade era o que a IA poderia oferecer. Isso apagou acidentalmente a preferência real do paciente pela simplicidade.
2. O Viés do "Eu já sabia": Quando um paciente dava uma resposta surpreendente (como dizer que queria que a máquina soubesse seus pensamentos), o facilitador às vezes passava rapidamente para a próxima resposta esperada, perdendo um insight valioso.
3. O Efeito "Médico na Sala": Devido à presença de um médico, os pacientes às vezes diziam que confiavam mais no médico do que na máquina, mesmo que na verdade preferissem a máquina. A presença da autoridade mudou a resposta.

A Conclusão

Este artigo sugere que não podemos simplesmente assumir que sabemos o que os pacientes precisam. Não podemos projetar um robô treinador baseado no que um médico acha que um paciente precisa, ou no que um engenheiro de software imagina ser o melhor. O estudo mostra que, com as ferramentas certas — como vídeos, analogias simples e bastante tempo — podemos ouvir as vozes reais de pacientes que lutam para falar.

No entanto, os autores são cuidadosos ao dizer que este é um estudo formativo, o que significa que é um primeiro passo para testar o método, não uma solução final para o mundo todo. Eles trabalharam apenas com seis pessoas em um centro na Índia. Eles não estão alegando ter resolvido o problema para todos os sobreviventes de AVC em todos os lugares. Em vez disso, estão oferecendo um protocolo (uma receita) e um conjunto de avisos (um checklist de vieses a evitar) para qualquer pessoa que tente projetar IA para pessoas com barreiras de comunicação.

A grande lição? Uma IA confiável não é apenas sobre tornar o código inteligente; é sobre garantir que as pessoas que a utilizam possam realmente entender o que o código está dizendo. E, para fazer isso, temos que aprender a ouvir de uma maneira totalmente nova.