Resumo Técnico: PSYCHOSAFE

Declaração do Problema

Os Grandes Modelos de Linguagem (LLMs) enfrentam uma tensão fundamental entre maximizar a utilidade e prevenir danos. Os mecanismos de segurança atuais tipicamente tratam a recusa como um problema de classificação binária: um modelo ou atende a uma solicitação ou emite uma negação direta e não complacente. Embora isso evite o dano direto, os autores argumentam que tal "não conformidade bruta" muitas vezes falha em apoiar as necessidades subjacentes dos usuários em situações de alto risco envolvendo crise, coerção ou intenção crescente. Uma simples recusa pode interromper o dano imediato, mas pode deixar o usuário sem suporte, potencialmente exacerbando o sofrimento. O artigo postula que a própria recusa pode ser uma forma de comunicação útil se for fundamentada em teoria psicológica, transformando uma negação em uma intervenção estruturada e de apoio.

Metodologia

1. O Framework PSYCHOSAFE

Os autores operacionalizam as "recusas psicologicamente informadas" integrando princípios estabelecidos da psicologia do aconselhamento, entrevista motivacional e comunicação de crise. O framework é construído sobre três estágios principais:

• Harmonização de Risco: Os autores agregaram 16 benchmarks de segurança pública e harmonizaram suas taxonomias heterogêneas usando agrupamento semântico (via embeddings sentence-t5-large e HDBSCAN). Esse processo identificou cinco clusters de risco específicos onde a intervenção psicológica é mais apropriada:
  1. Suicídio e Autolesão: Requer desescalada e encaminhamento para recursos de crise.
  2. Crimes Sexuais: Requer ênfase em consentimento e proteção à vítima.
  3. Uso de Substâncias: Visa incentivar a reflexão e a busca por ajuda.
  4. Armas: Prioriza a interrupção de ações prejudiciais e a reflexão sobre consequências.
  5. Violência: Foca na desescalada e redirecionamento.
• Princípios de Intervenção: O framework adapta estratégias baseadas em evidências (ex: Primeiros Socorros Psicológicos, Entrevista Motivacional, Planejamento de Segurança) em uma estrutura de recusa reutilizável. Cada resposta segue um template de quatro partes:
  1. Reconhecimento caloroso acompanhado de uma recusa gentil.
  2. Um passo de autoajuda personalizado, fundamentado na estratégia de intervenção do cluster de risco específico.
  3. Encaminhamento para recursos profissionais externos relevantes (ex: linhas de ajuda).
  4. Um encerramento breve e esperançoso vinculado ao contexto do usuário.
• Construção do Dataset: Os autores construíram o dataset PSYCHOSAFE, composto por 8.019 pares de prompt–resposta. Esses pares mapeiam prompts dos cinco clusters de risco para respostas geradas por especialistas humanos seguindo o template de intervenção. O dataset inclui metadados sobre o cluster de risco e proveniência.

2. Estratégias de Elicitação

O estudo avalia dois métodos para induzir este comportamento no modelo Qwen 3.5 27B:

• Aprendizado em Contexto (Prompting): Um prompt de sistema dedicado (v1) codifica o framework completo do PSYCHOSAFE, instruindo o modelo a seguir a estrutura de quatro partes, personalizar as respostas com base nas pistas do usuário e priorizar riscos agudos (ex: suicídio) se múltiplos clusters forem detectados.
• Ajuste Fino Supervisionado (SFT): O modelo é ajustado finamente no dataset PSYCHOSAFE aumentado com "rastros de raciocínio". Esses rastros foram gerados por um modelo maior (GPT-OSS-120B) para simular o processo de raciocínio intermediário antes da recusa final. O modelo SFT é treinado para internalizar o comportamento de recusa e o raciocínio associado, visando reproduzir o comportamento sem depender de um longo prompt de sistema.

3. Avaliação

Os autores avaliaram ambas as abordagens em um conjunto de validação retido de 500 prompts (100 por cluster de risco) usando um pipeline de LLM-como-juiz (selecionado como Qwen 3.5 397B-A17B com base no maior acordo com avaliadores humanos, $\kappa = 0.61$). Os critérios de avaliação foram:

• Recusa: Verificação binária de não conformidade.
• Fundamentação Psicológica: Pontuação (1–5) no uso de validação empática e estratégias de intervenção.
• Referências Externas: Verificação binária de encaminhamento de recursos.
• Relevância: Pontuação (1–5) sobre o quão bem a resposta é adaptada ao contexto específico do usuário.

Avaliações adicionais foram realizadas no SORRY-Bench (robustez adversarial), XSTest (sobre-recusa e segurança adversarial) e benchmarks de capacidade geral (MMLU, HellaSwag).

Principais Resultados

Qualidade da Recusa

• Prompting (v1): A estratégia de prompting do PSYCHOSAFE melhorou a qualidade geral da recusa em 28,1% em relação a uma linha de base genérica (v0). Os ganhos mais significativos foram em Encaminhamento de Recursos Externos (+46,8%) e Fundamentação Psicológica (+34,8%).
• Ajuste Fino (SFT): O modelo ajustado atingiu taxas quase perfeitas de recusa e encaminhamento de recursos (aproximando-se de 100%). No entanto, apresentou uma queda significativa em Relevância (-25% a -28%) em comparação com a abordagem de prompting. A análise qualitativa indicou que o modelo SFT frequentemente aplicava um template de intervenção de crise genérico de forma muito ampla, falhando em se adaptar a contextos específicos de usuários ou interpretando erroneamente prompts benignos como crises agudas.
• Estabilidade: O modelo ajustado foi quase indiferente à versão do prompt de sistema, enquanto o desempenho do modelo base variou significamente entre v0 e v1.

Segurança e Robustez

• SORRY-Bench: O modelo ajustado do PSYCHOSAFE alcançou conformidade quase nula (0,0–0,1%) em todas as condições de prompt e 19 mutações linguísticas, superando significativamente o modelo base.
• XSTest (Sobre-recusa): O modelo ajustado manteve baixas taxas de sobre-recusa em prompts benignos (3,6%–9,2%), descartando a recusa indiscriminada. No entanto, sua taxa de segurança em prompts adversariais fora do domínio foi menor que a do modelo base (17,0% vs. 59,0%), sugerindo generalização limitada além dos cinco domínios de treinamento.
• Capacidades Gerais: O desempenho em MMLU e HellaSwag permaneceu amplamente estável, com apenas diminuições modestas (aproximadamente 4–5 pontos percentuais) observadas em algumas configurações, o que os autores consideram aceitável dados os ganhos de segurança.

Significância e Alegações

O artigo afirma que utilidade e prevenção de danos não são necessariamente objetivos opostos. Ao recorrer a práticas de intervenção humana estabelecidas, os LLMs podem recusar solicitações inseguras enquanto simultaneamente fornecem respostas de apoio e construtivas.

• Contribuição Teórica: O trabalho une a pesquisa de alinhamento de IA com estratégias estabelecidas de intervenção psicológica, argumentando que o design de recusa deve ser fundamentado na teoria psicológica para garantir generalização e coerência conforme os modelos evoluem.
• Contribuição Prática: Demonstra que recusas psicologicamente informadas podem ser elicitadas via prompting ou incorporadas nos pesos do modelo via ajuste fino.
• Limitações e Escopo: Os autores afirmam modestamente que o PSYCHOSAFE é mais adequado para implantações de domínio específico (ex: plataformas de saúde mental ou intervenção de crise) onde os riscos são conhecidos e as recusas de apoio de alta qualidade são críticas. Eles reconhecem que a abordagem atual carece de ampla generalização fora do domínio e que o modelo ajustado às vezes carece de julgamento pragmático para aplicar intervenções de forma seletiva. Os autores declaram explicitamente que o PSYCHOSAFE não é um substituto para a intervenção profissional de saúde mental e enfatizam a necessidade de testes de estresse extensivos antes da implantação.