I, Robot? Exploring Ultra-Personalized AI-Powered AAC; an Autoethnographic Account

Resumo Técnico: I, Robot? Explorando AAC Ultra-Pessoal Impulsionado por IA

1. O Problema

O artigo aborda os desafios enfrentados por usuários de Comunicação Aumentativa e Alternativa (AAC) que dependem de dispositivos para gerar fala. Embora sistemas de preenchimento automático genéricos (baseados em modelos de linguagem grandes - LLMs) existam, eles frequentemente falham em capturar a nuance da identidade pessoal, o tom e o estilo linguístico únicos do usuário.

• A Carga do Usuário: Usuários de AAC são forçados a editar sugestões genéricas com frequência, o que consome tempo e esforço cognitivo, criando um "ônus" severo em comparação com a fala natural.
• A Lacuna de Personalização: Embora seja tecnicamente viável treinar modelos em dados específicos do usuário, há uma falta de compreensão sobre como essa ultra-personalização impacta a agência (controle), a identidade e a privacidade dos usuários no mundo real.
• Riscos Éticos: Existe o risco de a IA homogeneizar a voz do usuário, violar a privacidade ao trazer detalhes íntimos para contextos inadequados ou minar a sensação de autoria sobre o que é dito.

2. Metodologia

O estudo adota uma abordagem autoetnográfica conduzida pelo autor principal (Tobias Weinberg), que é um usuário em tempo integral de AAC devido a uma doença neuromotora. O estudo foi dividido em três fases ao longo de 10 meses:

• Fase 1: Coleta de Dados (7 meses)

  • O autor utilizou um aplicativo iOS personalizado para registrar todas as suas conversas face a face.
  • Desafio Observado: A consciência de que os dados estavam sendo registrados levou a uma autocensura significativa. O autor evitou palavrões, humor sombrio e reclamações privadas para não "treinar" o modelo com esses conteúdos, alterando sua própria agência e autenticidade durante a coleta.
  • Dados Coletados: 247 threads de conversação com 19.764 mensagens.

• Fase 2: Curadoria e Treinamento do Modelo

  • Filtragem: Os dados foram filtrados para remover conteúdo tóxico ou que o autor não desejava delegar à IA (ex: palavrões), criando um conjunto de dados "socialmente bem-comportado".
  • Estruturação: Os dados foram formatados em pares de entrada/saída (usuário/assistente) para treinamento incremental (previsão de tokens subsequentes).
  • Treinamento: Vários modelos foram testados (Gemma, Llama, Cohere, GPT). O GPT-4.1-mini foi selecionado por melhor capturar o estilo bilíngue (inglês/espanhol) e o tom do autor.
  • Técnica: Supervised Fine-Tuning (SFT) realizado via API da OpenAI. O custo foi de ~$120. O modelo foi treinado para completar frases mantendo o estilo do usuário.

• Fase 3: Implantação e Avaliação (3 meses)

  • O autor utilizou o aplicativo com o modelo personalizado como seu dispositivo principal de AAC.
  • Interface: Sugestões de IA apareciam como "texto fantasma" (ghost text) inline. O usuário podia aceitar palavras parciais ou completas, mantendo o controle.
  • Coleta: Diário de bordo estruturado (diários reflexivos) e logs de interação (aceitação de sugestões, velocidade de digitação, contexto).

3. Contribuições Principais

1. Insights Empíricos sobre Ultra-Personalização: Fornece uma conta detalhada de como um LLM treinado exclusivamente nos dados de um único usuário de AAC molda a agência, identidade e privacidade ao longo do tempo.
2. Identificação de Tensões: Revela os trade-offs entre eficiência e autenticidade. A personalização pode restringir a agência através da autocensura prévia, remodelar a identidade ao amplificar certos traços e suprimir outros, e ameaçar a privacidade ao resgatar detalhes biográficos em momentos inapropriados.
3. Método de Pesquisa Experiencial: Demonstra o valor de estudos longitudinais e autoetnográficos para capturar dinâmicas sutis (como a mudança na percepção de autoria) que estudos de laboratório de curto prazo não conseguem detectar.

4. Resultados e Descobertas

• Agência e Autocensura:

  • A simples existência do sistema de registro alterou o comportamento do usuário, reduzindo a espontaneidade.
  • Durante o uso, a IA às vezes "guiava" a conversa para tópicos familiares, limitando a expressão em vez de expandi-la, especialmente em contextos de mudança rápida de assunto (ex: conversas em bares).

• Identidade e Co-construção:

  • Sucesso Cultural: O modelo demonstrou alta capacidade de capturar nuances culturais e linguísticas, como Spanglish e gírias argentinas ("che boludo"), permitindo uma performance de identidade mais autêntica em contextos bilíngues.
  • Viés de "Boa Comportamento": Devido à filtragem na Fase 2, o modelo refletia apenas a parte "polida" da identidade do usuário, perdendo a complexidade do humor e da fala informal que são cruciais para a construção da identidade.

• Privacidade e Integridade Contextual:

  • Violações de Contexto: O modelo resgatou detalhes biográficos íntimos ou marcadores religiosos em momentos inadequados (ex: em ambientes profissionais ou com estranhos), violando a "integridade contextual".
  • Visibilidade: A visibilidade das sugestões na tela para interlocutores criou confusão sobre quem estava falando (o usuário ou a IA), levando a um efeito de "Ghostwriter" onde a autoria parecia diluída.

• Desempenho Técnico:

  • O usuário aceitou sugestões em 153 de 6.564 mensagens.
  • A taxa média de aceitação foi de 7,5 palavras por sugestão.
  • Houve uma melhoria marginal na velocidade de escrita (de 31,4 para 41,7 palavras por minuto em média), mas o valor principal foi a fluidez em contextos específicos, não apenas a velocidade bruta.

5. Significado e Direções Futuras

O estudo conclui que a ultra-personalização em AAC não é apenas uma questão técnica de precisão do modelo, mas um desafio sociotécnico complexo.

• Design Sensível ao Contexto: Os sistemas devem ser projetados para entender quando sugerir (baseado no contexto social e na relação com o interlocutor) e o que sugerir (respeitando os limites de privacidade e identidade multifacetada).
• Arquitetura Modular: Em vez de um único modelo monolítico, sugere-se um ecossistema de modelos menores e contextuais que aprendem e se adaptam continuamente, permitindo que o usuário controle qual "parte" de sua identidade está sendo ativada.
• Controle do Usuário (Agency): É crucial fornecer ferramentas para que os usuários possam "sintonizar" o modelo (ajustar sugestões, definir limites de privacidade e controlar a visibilidade das sugestões). O sistema deve evoluir com o usuário, não o contrário.

Conclusão Final: A IA ultra-personalizada tem o potencial de restaurar a fluidez e a identidade em usuários de AAC, mas sem um design cuidadoso que priorize a agência humana, a privacidade contextual e a autenticidade, ela corre o risco de tornar a comunicação invasiva, inautêntica e desumanizante.