Resumo Técnico: IRA – Um Chatbot Híbrido Interpretável para Classificação de Intenção Consciente de Emoções com Fallback de Resposta Generativa

1. Declaração do Problema

Sistemas de IA conversacional implantados em saúde mental, educação e atendimento ao cliente frequentemente dependem de backbones de transformadores ou Large Language Models (LLMs) residentes na nuvem e opacos. Estes sistemas apresentam três limitações críticas:

1. Falta de Interpretabilidade: Clínicos e usuários finais não podem auditar o processo de decisão (ex: quais pistas lexicais impulsionaram uma classificação de intenção específica), criando um problema de "caixa preta" inadequado para domínios sensíveis à segurança.
2. Registro Emocional Inadequado: Datasets e modelos existentes muitas vezes carecem dos padrões de diálogo informais, de código misto e "amigáveis" necessários para o engajamento empático, baseando-se em vez disso em corpora formais de negócios ou FAQs.
3. Restrições de Conectividade e Recursos: Muitos sistemas avançados exigem acesso constante à internet e alto poder computacional, limitando sua utilidade em ambientes com recursos limitados ou offline.
4. Lacunas de Segurança Clínica: Uma parte significativa dos chatbots de saúde mental carece de validação clínica, e as saídas estocásticas de LLMs correm o risco de interpretação errônea em contextos psiquiátricos.

2. Metodologia

O artigo propõe o IRA (Interactive Responsive Assistance), um framework conversacional híbrido projetado para equilibrar segurança determinística com flexibilidade generativa.

Arquitetura

O IRA opera em dois modos distintos:

• Modo Offline (Determinístico): Utiliza um classificador Perceptron Multicamadas (MLP) leve e interpretável.
  • Processamento de Entrada: O texto é pré-processado usando NLTK para tokenização e lematização (WordNetLemmatizer).
  • Extração de Características: Uma representação Bag-of-Words (BoW) converte o texto em vetores binários.
  • Modelo: Um MLP raso com duas camadas ocultas (128 e 64 neurônios, ativação ReLU) otimizado via solver Adam.
  • Saída: Um rótulo de intenção discreto que aciona uma resposta pré-curada e determinística.
• Modo Online (Generativo): Quando a conectividade permite, o sistema roteia as consultas para a API GPT-3.5-Turbo da OpenAI para um diálogo aberto e consciente do contexto.

Construção do Dataset

Um dataset customizado (intents.json) foi construído para abordar a falta de dados empáticos e de código misto:

• Escala: 182 amostras iniciais cobrindo 27 classes de intenção.
• Conteúdo: Inclui categorias sensíveis à segurança (ex: 'Pensamentos Suicidas', 'Depressão', 'Ansiedade') juntamente com estados emocionais cotidianos ('Triste', 'Feliz') e interações sociais ('Saudações', 'Amigo').
• Estilo: Captura padrões de diálogo informais e de código misto (Híndi/Urdu-Inglês) ausentes em corpora padrão.
• Balanceamento: O oversampling manual (fator de 2) foi aplicado para tratar o desequilíbrio de classes antes do treinamento.

Mecanismos de Interpretabilidade

Para garantir a transparência, o modelo offline emprega:

• SHAP (SHapley Additive exPlanations): Fornece atribuição por token para revelar quais características lexicais (ex: "triste", "ajuda", "ansioso") impulsionaram uma previsão específica.
• Visualização t-SNE: Mapeia as ativações das camadas ocultas para um espaço 2D, demonstrando como o modelo agrupa intenções emocionais e tópicas (ex: separando 'Pensamentos Suicidas' de 'Tristeza').

3. Principais Contribuições

Os autores enquadram suas contribuições como melhorias de engenharia e metodológicas, em vez de novidade algorítmica:

1. Arquitetura Híbrida de Dois Modos: Um sistema que acopla um classificador de intenção interpretável e determinístico a um caminho generativo na nuvem, garantindo a continuidade operacional tanto em condições offline quanto online.
2. Dataset de Código Misto Consciente de Emoções: Um corpus customizado de 182 enunciados abrangendo 27 classes, explicitamente projetado para capturar padrões de diálogo de conforto e estilo amigável.
3. Camada de Interpretabilidade Conjunta: A integração de atribuição de tokens SHAP e visualização t-SNE camada-a-camada no mesmo backbone, expondo pistas de decisão a clínicos e usuários.
4. Transparência Computacional: Um perfil completo relatando tempo de treinamento (2.93s), uso de memória (1.30 MB), tamanho do modelo (1.22 MB) e latência de inferência (0.006908 ms/amostra), métricas frequentemente omitidas na literatura comparativa.
5. Avaliação Comparativa Crítica: Uma comparação direta contra seis sistemas de última geração, acompanhada de uma análise de formulação de tarefa explicando por que a comparação numérica entre corpora é metodologicamente imprópria devido a espaços de rótulos heterogêneos.

4. Resultados

Avaliado no corpus proposto, o classificador MLP offline alcançou:

• Acurácia de Teste: 95.04% (Nota: o oversampling baseado em duplicação não introduz variação lexical).
• Métricas Médias Macro: Precisão (0.98), Recall (0.97), F1-Score (0.96).
• Desempenho por Classe: A maioria das classes alcançou pontuações perfeitas (1.00). No entanto, a classe 'Depressão' apresentou uma precisão de 0.42 (F1: 0.59), indicando uma tendência para falsos positivos, provavelmente devido à sobreposição de características com 'Tristeza' e 'Pensamentos Suicidas' na representação BoW.
• Eficiência: O modelo treina em 2.9 segundos e requer apenas 1.30 MB de RAM, permitindo a implantação em dispositivos com recursos limitados.
• Desempenho Comparativo: Ao ser testado contra três datasets públicos ([36], [37], [38]) usando o mesmo pipeline, o dataset proposto alcançou a maior acurácia de teste (95.04% vs. 21.28%–71.60%), embora os autores alertem que isso reflete consistência interna em vez de uma classificação direta cabeça a cabeça, uma vez que os espaços de rótulos diferem entre os corpora. Além disso, o dataset obteve pontuações superiores em empatia, suporte e personalização cultural.

5. Significância e Limitações

Significância:
O artigo posiciona o IRA como um baseline transparente e um protótipo de engenharia, em vez de uma ferramenta clínica finalizada. Sua principal significância reside em:

• Documentar uma abordagem reproduzível e interpretável para IA consciente de emoções em domínios onde arquiteturas de nuvem opacas são inapropriadas.
• Quantificar explicitamente os trade-offs entre acurácia, interpretabilidade e custo computacional.
• Fornecer um dataset e um framework de avaliação metodologicamente justificados para pesquisas futuras em diálogo empático e de código misto.

Limitações e Trabalho Futuro:
Os autores reconhecem explicitamente várias restrições:

• Tamanho do Dataset: O corpus inicial é pequeno (182 amostras); trabalhos futuros planejam a expansão para 2.000–5.000 amostras via paráfrase impulsionada por LLM e crowdsourcing.
• Baselines de Modelo: O estudo carece de uma comparação direta contra baselines de transformadores (ex: DistilBERT) no mesmo dataset, uma lacuna identificada para replicação futura.
• Validação de Segurança: O sistema não possui validação clínica. Trabalhos futuros exigem uma camada de roteamento de resposta de crise determinística, auditorias de privacidade para o modo online e estudos de viabilidade clínica pré-registrados.
• Dependência de API: O modo online depende de uma API de terceiros (OpenAI), introduzindo preocupações de exposição de dados e custos; iterações futuras visam substituir isso por um Small Language Model (ex: Phi-3-mini) hospedado localmente.
• Ablação e Estudos de Usuário: O artigo nota a ausência de estudos de ablação (variando arquitetura/oversampling) e estudos de usuário com populações-alvo como lacunas pendentes.

Em conclusão, o IRA oferece um ponto de partida escalável e interpretável para a interação humano-IA em aplicações críticas, priorizando a transparência e a eficiência de recursos enquanto reconhece as etapas rigorosas de validação necessárias antes da implantação clínica.