💻 computer science

Why This, Not That? Mining User Profiles for Pair-wise Counterfactuals

Este artigo propõe uma nova tarefa para explicações de classificação de itens por pares fundamentadas na lógica de algoritmos de recomendação, utilizando aprendizado contrafactual para identificar itens específicos do perfil do usuário que determinam por que um item é classificado acima de outro.

Autores originais: Meysam Varasteh, Veronika Bogina, Noam Koenigstein, Robin Burke

Publicado 2026-08-25

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Meysam Varasteh, Veronika Bogina, Noam Koenigstein, Robin Burke

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Vivemos em uma era em que as máquinas sugerem constantemente o que devemos assistir, ler ou comprar. Durante décadas, pesquisadores têm se concentrado em responder a uma pergunta simples: "Por que o sistema recomendou este filme específico para mim?". Eles desenvolveram maneiras de explicar essa escolha individual, muitas vezes apontando para um recurso que o usuário gosta, como um ator favorito ou um gênero preferido. No entanto, a tomada de decisão humana raramente acontece no vácuo. Quando escolhemos uma opção em vez de outra, estamos frequentemente comparando-as lado a lado. Perguntamos: "Por que escolhi este filme em vez daquele?". Essa questão comparativa é fundamental para entendermos nossas próprias preferências, mas recebeu muito menos atenção dos designers de sistemas de recomendação. Compreender a diferença entre duas escolhas é, muitas vezes, mais revelador do que compreender uma única escolha isolada, pois destaca os fatores específicos que inclinaram a balança.

Uma equipe de pesquisadores partiu para resolver esse problema, desenvolvendo uma nova maneira de explicar por que um sistema de recomendação classifica um item acima de outro. Eles abordaram a tarefa fazendo uma pergunta do tipo "e se": o que teria que mudar no histórico de uma pessoa para que o sistema invertesse a ordem desses dois itens? Este método, conhecido como raciocínio contrafactual, busca pelo conjunto mínimo de mudanças necessárias para reverter uma decisão. No contexto de uma recomendação de filmes, os pesquisadores queriam identificar os filmes específicos que um usuário assistiu anteriormente e que fizeram o sistema preferir um clássico de ficção científica em vez de um épico histórico. Se esses filmes específicos do passado fossem removidos do histórico do usuário, o sistema deveria, teoramente, recomendar o épico histórico primeiro. O objetivo era encontrar o grupo de itens passados mais pequeno e preciso que, se apagado, inverteria o ranking.

Para testar essa ideia, os pesquisadores construíram um novo tipo de modelo computacional projetado para atuar como um explicador. Eles treinaram este modelo em três grandes coleções de dados de usuários: uma contendo mais de meio milhão de avaliações de filmes, outra com preferências musicais e uma terceira com atividade de "pinagem". Eles testaram sua abordagem contra vários métodos existentes, incluindo técnicas que explicam itens individuais ou aquelas que tentam comparar itens observando seus recursos gerais. Os pesquisadores descobriram que seu novo método, que aprendeu a observar o item alvo e o item concorrente simultaneamente, era muito mais eficaz. Ele conseguia identificar os itens passados específicos responsáveis pela diferença de classificação com maior precisão e utilizando menos itens do que os outros métodos. Em muitos casos, o novo modelo conseguia explicar a preferência pelo item principal sobre o segundo para mais de 80 por cento dos usuários em seus grupos de teste, muitas vezes exigindo a remoção de apenas um pequeno número de interações passadas para alcançar a inversão.

O estudo também revelou que a qualidade dessas explicações depende fortemente do tipo de sistema de recomendação que está sendo usado. Quando o sistema subjacente era baseado em um método que aprende padrões ocultos no comportamento do usuário, o novo explicador teve um desempenho excepcional. No entanto, os pesquisadores notaram uma complicação envolvendo itens populares. Às vezes, a maneira mais eficaz de alterar um ranking era remover filmes ou músicas extremamente famosos que quase todo mundo já viu. Embora isso seja matematicamente correto, os pesquisadores suspeitaram que poderia não ser uma explicação útil para uma pessoa real. Dizer a um usuário: "Você recebeu este filme porque assistiu Star Wars e Titanic", pode parecer óbvio ou inútil, já que esses são itens que quase todos já viram. Para testar isso, eles rodaram uma versão de seu modelo que ignorava os itens mais populares. Esta versão ainda conseguia encontrar explicações, mas funcionava para menos pessoas, sugerindo que itens populares desempenham um papel significativo na forma como esses sistemas tomam decisões, mesmo que não sejam a parte mais interessante da história.

Os pesquisadores concluíram que sua abordagem gera com sucesso explicações comparativas que são tanto precisas quanto concisas. Eles mostraram que, ao treinar um modelo para olhar dois itens de uma vez, em vez de um de cada vez, poderiam descobrir as razões específicas para uma diferença de classificação. Os resultados sugerem que este método é uma forma viável de tornar os sistemas de recomendação mais transparentes, permitindo que os usuários vejam não apenas por que receberam uma sugestão, mas por que receberam uma sugestão em vez de outra. Embora o trabalho atual se concentre na capacidade técnica de gerar essas explicações, os pesquisadores observaram que o próximo passo é ver se as pessoas realmente acham essas explicações úteis e fáceis de entender. Eles planejam realizar estudos com usuários humanos para determinar se esses cenários de "e se" ajudam as pessoas a compreender as escolhas que as máquinas fazem por elas.

Resumo Técnico: Mineração de Perfis de Usuários para Contra-factuais Pareados

Definição do Problema

O artigo aborda uma lacuna na pesquisa de explicação de sistemas de recomendação (RS). Embora os métodos existentes expliquem eficazmente por que um único item é recomendado (ex: "Por que o Item A foi recomendado?"), eles frequentemente falham em abordar as perguntas comparativas que os usuários naturalmente fazem, tais como "Por que o Item A está classificado acima do Item B?".

Baseando-se em achados psicológicos de que os seres humanos preferem explicações contrastivas para a tomada de decisão, os autores propõem uma nova tarefa: Interpretação Pareada de Classificações de Itens. O objetivo é gerar uma explicação contrafactual que identifique o conjunto mínimo de itens no perfil de um usuário cuja remoção inverteria a ordem de classificação de um item alvo ( $T$ ) e um item comparativo ( $C$ ). A explicação assume a forma: "O Item $T$ é classificado acima do $C$ porque o perfil do usuário inclui os itens $x_1, x_2, x_3$ . Se estes estivessem ausentes, o $C$ seria classificado acima".

Os autores definem duas métricas de qualidade para estas explicações baseadas nos máximas de Grice:

Veracidade: Remover os itens identificados deve realmente causar a classificação de $C$ acima de $T$ .
Sucintude: O conjunto de itens removidos (a perturbação) deve ser o menor possível.

Metodologia

A abordagem proposta estende o framework LXR (Learning-based eXplanation for Recommendations), que foi originalmente projetado para explicações de item único. Os autores introduzem uma classe de técnicas chamada CLXR (Comparative LXR) para lidar com a tarefa pareada.

1. Adaptação da Linha de Base: CLXR-score

Esta abordagem reutiliza um explicador LXR pré-treinado ( $e_l$ ) treinado para itens únicos. Ele gera duas máscaras separadas: uma para o item alvo ( $m^l_T$ ) e uma para o item comparativo ( $m^l_C$ ). A máscara comparativa ( $m_C$ ) é computada via multiplicação elemento a elemento: $m_C = m^l_T \odot (1 - m^l_C)$ . Esta lógica assume que os itens que contribuem para o ranking de $T$ , mas não para o de $C$ , são a causa da preferência.

2. Abordagens de Otimização Direta

Os autores propõem dois métodos que otimizam diretamente o objetivo comparativo usando uma função de perda composta por quatro termos:

$\mathcal{L}_{cmp}$ : Maximiza a diferença de pontuação entre $T$ e $C$ após aplicar a máscara.
$\mathcal{L}_{pred}$ : Garante que $T$ permaneça altamente classificado quando suportado pela máscara.
$\mathcal{L}_{inv}$ : Garante que o ranking de $T$ caia quando a máscara é invertida (itens removidos).
$\mathcal{L}_{reg}$ : Impõe esparsidade (minimizando o tamanho da perturbação).

Duas implementações específicas são detalhadas:

CLXR-joint: Utiliza uma arquitetura de rede siamesa. Uma rede intermediária compartilhada ( $e_s$ ) processa tanto $T$ quanto $C$ para gerar máscaras intermediárias, que são então combinadas para formar a máscara comparativa final. A rede é treinada de ponta a ponta usando a função de perda combinada (Eq. 2).
CLXR-tdlr: Adapta a perda Targeted Deviation - Logit Ranking (TDLR), comumente usada em ataques adversários. Este método aprende diretamente a máscara comparativa sem uma rede intermediária, baseando-se apenas na perda comparativa e na regularização de esparsidade.

3. Métricas de Avaliação

Como não existem métricas padrão para explicações pareadas, os autores definem:

MPRR (Minimal Perturbation for Ranking Reversal): A menor fração (ou contagem) de itens do perfil de topo (baseado nos scores do explicador) que deve ser removida para inverter o ranking de $T$ e $C$ . Quanto menor, melhor.
Cobertura (Coverage): A porcentagem de pares usuário-item para os quais uma perturbação válida (causando uma inversão de ranking) pode ser encontrada dentro do espaço de busca.

Configuração Experimental

O estudo avalia os métodos através de três conjuntos de dados (MovieLens-1M, Yahoo Music, Pinterest) e dois algoritmos de recomendação:

Fatoração de Matriz (MF): Um modelo padrão de fatores latentes.
Autoencoder Variacional (VAE): Um modelo generativo probabilístico.

Os modelos CLXR são comparados contra várias linhas de base:

Popularidade (POP): Um classificador simples baseado em popularidade.
SHAP & LIME: Métodos de perturbação agnósticos ao modelo (adaptados para RS).
ACCENT: Um método contrafactual baseado em funções de influência.
LXR: O explicador original de item único.

Principais Resultados

Os experimentos demonstram que a otimização explícita para a tarefa comparativa produz resultados superiores em comparação com a adaptação de métodos de item único ou o uso de baselines agnósticos ao modelo.

Desempenho: O CLXR-joint supera consistentemente todas as linhas de base tanto em Cobertura quanto em MPRR na maioria das combinações de dataset/recomendador. Por exemplo, no dataset MovieLens com um recomendador VAE, o CLXR-joint alcançou 92% de Cobertura com um MPRR de 21 itens, superando significativamente o próximo melhor método (LXR com 82% de Cobertura, 30 itens).
CLXR-tdlr também é altamente competitivo, particularmente com modelos de Fatoração de Matriz.
Baselines: Embora o LXR (item único) tenha um desempenho razoável, ele geralmente fica aquém dos modelos CLXR otimizados conjuntamente. SHAP e LIME frequentemente sofrem de menor cobertura ou requerem perturbações maiores. O ACCENT apresenta bom desempenho em cenários específicos de VAE/Pinterest, mas carece da consistência do CLXR-joint.
Viés de Popularidade: Os autores investigaram o impacto de itens populares nas explicações. Quando itens populares (top 15%) foram filtrados durante o treinamento (CLXR-filter), a Cobertura caiu significativamente (ex: de 81% para 56,3% no ML-1M com MF). Isso sugere que, embora os itens populares frequentemente impulsionem as inversões de ranking, depender deles pode produzir explicações que são tecnicamente corretas, mas potencialmente insatisfatórias ou pouco intuitivas para os usuários (ex: "Se você não tivesse assistido Star Wars...").

Significância e Alegações

O artigo posiciona-se como uma incursão inicial em explicações de ranking comparativas usando aprendizagem contrafactual. Suas principais contribuições são:

Formulação da Tarefa: Define formalmente o problema "Por que $T$ é classificado acima de $C$ ?" e argumenta que soluções eficazes devem estar fundamentadas na lógica do próprio algoritmo de recomendação, em vez de serem desacopladas.
Inovação Metodológica: Demonstra que a aprendizagem contrafactual pode ser efetivamente adaptada para aproximar perturbações de perfil para explicações comparativas. O método CLXR-joint, utilizando uma rede siamesa e um objetivo contrastivo combinado, mostra-se o mais eficaz para gerar explicações sucintas e verificáveis.
Validação Empírica: Através de experimentos extensos, os autores mostram que a otimização explícita do objetivo contrastivo (CLXR-joint) leva a explicações mais fiéis e sucintas do que a adaptação de métodos de item único (CLXR-score) ou o uso de técnicas agnósticas ao modelo.
Limitações e Trabalho Futuro: Os autores reconhecem modestamente que seu método fornece aproximações eficientes em vez de explicações minimais garantidas. Eles observam que algumas inversões de ranking podem ser impossíveis devido a fortes vieses de popularidade (ex: um filme de nicho versus um blockbuster). Eles concluem que, embora suas métricas offline validem o desempenho técnico, o trabalho futuro deve incluir uma avaliação centrada no humano para determinar se estas perturbações contrafactuais são percebidas como úteis e acionáveis por usuários reais. Eles também sugerem que trabalhos futuros explorem mecanismos de sumarização (ex: agrupamento/clustering) para lidar com casos em que grandes perturbações são necessárias.