🤖 machine learning

Normative Alignment of Recommender Systems via Internal Label Shift

NAILS é um método escalável e livre de retreinamento que alinha as saídas de sistemas de recomendação com objetivos normativos como equidade e diversidade ao induzir uma distribuição alvo sobre atributos de itens por meio de deslocamento interno de rótulos, equilibrando assim valores globais com o engajamento do usuário.

Autores originais: Johannes Kruse, Kasper Lindskow, Michael Riis Andersen, Ryotaro Shimizu, Julian McAuley, Pierre-Alexandre Mattei, Jes Frellsen

Publicado 2026-07-14

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Johannes Kruse, Kasper Lindskow, Michael Riis Andersen, Ryotaro Shimizu, Julian McAuley, Pierre-Alexandre Mattei, Jes Frellsen

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está administrando uma banca de jornais enorme e de alta velocidade que usa um robô superinteligente para adivinhar o que cada cliente quer comprar. Normalmente, esse robô é obcecado por uma única coisa: fazer você clicar. Ele aprende que, se você ama vídeos de gatos, ele deve mostrar apenas vídeos de gatos para você. Mas aqui está o problema: se o robô só te mostrar gatos, você pode perder uma história científica legal ou uma atualização divertida sobre esportes locais. Os donos da banca de jornais (os "stakeholders") querem uma mistura de tudo para manter toda a loja interessante e justa, mesmo que isso signifique que o robô tenha que ocasionalmente sugerir algo que você não pediu explicitamente.

Este é o problema que Johannes Kruuse e sua equipe enfrentaram com uma nova ferramenta chamada NAILS (Normative Alignment of recommender systems via Internal Label Shift).

O Problema: A Visão de Túnel do Robô

A maioria dos sistemas de recomendação é como um adolescente faminto que só come pizza. Se você perguntar o que ele quer, ele dirá "Pizza!" repetidamente. No mundo real, isso cria "bolhas de filtro", onde as pessoas veem apenas o mesmo tipo de conteúdo (como apenas notícias de crimes ou apenas entretenimento) e perdem a visão panorâmica. O artigo argumenta que, embora esses sistemas sejam ótimos para conseguir cliques, eles frequentemente falham em atender objetivos maiores, como justiça, diversidade ou os próprios valores editoriais de um jornal.

A Solução: Um Empurrãozinho Gentil, Não um Reset Total

A equipe não queria jogar fora o céreio do robô ou treiná-lo do zero (o que seria lento e caro). Em vez disso, eles criaram um truque inteligente chamado Internal Label Shift (Deslocamento de Rótulo Interno).

Pense no cérebro do robô como uma biblioteca gigante de livros. Normalmente, o robô escolhe livros com base no que você já gostou antes. O NAILS atua como um bibliotecário que sussurra uma regra secreta no ouvido do robô logo antes de ele escolher um livro. A regra diz: "Ei, precisamos garantir que tenhamos uma boa mistura de gêneros nos 10 principais livros que mostraremos para todos".

O robô não esquece o que você gosta; ele apenas ajusta ligeiramente suas escolhas para se adequar à nova regra de "mistura". É como se você estivesse escolhendo suas 10 melhores músicas para uma festa. Você ainda escolhe as músicas que ama, mas garante que não escolha 10 faixas de heavy metal só porque você ama metal; você troca algumas delas por pop ou jazz para manter a festa equilibrada.

O Que Eles Descobriram (A Prova)

A equipe testou isso em um conjunto de dados real chamado EB-NeRD, que contém mais de 37 milhões de registros de artigos de notícias clicados por mais de 1 milhão de usuários únicos. Eles analisaram 13.336.710 desses cliques para ver quão bem o sistema classificava os artigos e usaram 200.000 amostras extras para verificar se a "mistura" das categorias estava correta.

Aqui está o que os experimentos mostraram:

Funciona: Quando eles aumentaram o "empurrão" (uma configuração que chamam de $\lambda$ , variando de 0 a 1), o sistema tornou-se muito melhor em corresponder à mistura desejada de categorias de notícias. Por exemplo, ao visar uma distribuição "Uniforme" (onde cada categoria tem a mesma chance), a diferença entre o que o sistema mostrou e o que eles queriam caiu significativamente.
Não é Perfeito (Mas é Bom): Eles compararam o NAILS com um método existente chamado CaliRec. O CaliRec é como um chef rigoroso que rearranja todo o prato para obter o equilíbrio perfeito, mas é lento e ganancioso. O NAILS é mais como um ajuste rápido. Em seus testes, o CaliRec às vezes obteve uma "pontuação" ligeiramente melhor para o equilíbrio perfeito (medida por algo chamado divergência KL, onde valores menores são melhores), mas o NAILS foi muito mais rápido e não precisou resolver um quebra-cabeça matemático complexo toda vez que fazia uma recomendação.
O Trade-off: O artigo descobriu que nem sempre se pode ter o bolo e comê-lo também. Quando forçaram o sistema a ser perfeitamente equilibrado (como mostrar todas as categorias de notícias igualmente), a capacidade do sistema de prever o clique de um usuário específico (medida pelo AUC) às vezes diminuiu. No entanto, quando visaram a "Distribuição Editorial" (uma mistura que correspondia aos próprios valores do jornal), o sistema na verdade ficou melhor em prever cliques enquanto permanecia equilibrado.

O Que Eles Explicitamente Dizem "Não"

O artigo é muito claro sobre o que o NAILS não é.

Não é um método que retreina todo o modelo de IA do zero. Isso levaria muito tempo e custaria muito caro.
Não é um ajuste "centrado no usuário" que se preocupa apenas com o histórico de uma pessoa. Em vez disso, ele adota uma visão "centrada no stakeholder", o que significa que se preocupa com os objetivos de toda a plataforma ou organização de notícias.
Não garante uma correspondência perfeita todas as vezes. Os autores observam que, como mantêm as preferências originais do usuário fixas enquanto ajustam as categorias, o resultado é uma "solução aproximada" que acerta a direção, mesmo que não seja matematicamente idêntica ao alvo.

O Quão Certos Eles Estão?

Os autores estão confiantes nos números que mediram. Eles não apenas adivinharam; eles rodaram o sistema em um conjunto de dados massivo e observaram os resultados. Eles descobriram que o NAILS melhora consistentemente o alinhamento com as distribuições alvo. No entanto, eles são cuidadosos para não chamar isso de um "problema resolvido". Eles sugerem que, embora os resultados sejam promissores, ainda não sabemos como isso se desenrolará a longo prazo em um ambiente real. Eles afirmam explicitamente que trabalhos futuros são necessários para ver como essas mudanças afetam o engajamento do usuário e a dinâmica do sistema ao longo do tempo.

A Conclusão

O NAILS é uma maneira simples e eficiente de dizer a um robô de recomendação: "Continue fazendo o que você faz bem, mas, por favor, certifique-se de que a lista final pareça a mistura diversa e justa que queremos". É uma ferramenta leve que ajuda editores de notícias e plataformas a permanecerem fiéis aos seus valores sem quebrar seus mecanismos de recomendação. Como sugere o artigo, é um passo prático em direção à construção de sistemas de recomendação que não são apenas viciantes, mas também responsáveis.

Resumo Técnico: Alinhamento Normativo de Sistemas de Recomendação via Deslocamento Interno de Rótulos (NAILS)

Definição do Problema
Sistemas de recomendação são predominantemente otimizados para métricas de engajamento do usuário (ex: taxas de clique), muitas vezes em detrimento de objetivos normativos mais amplos, como equidade, diversidade ou valores editoriais. Em domínios como o de notícias, a personalização puramente baseada no comportamento pode reforçar bolhas de filtro e sub-representar conteúdos importantes, porém menos populares. Embora a pesquisa existente sobre "calibração" em sistemas de recomendação aborde o alinhamento das recomendações com a distribuição de preferências históricas de um usuário (centrada no usuário), há uma carência de métodos escaláveis para alinhar as recomendações com objetivos normativos globais definidos por partes interessadas (ex: o conselho editorial de uma organização de notícias) em toda a população de usuários.

Metodologia: NAILS
Os autores propõem o NAILS (Normative Alignment of recommender systems via Internal Label Shift), um framework de pós-processamento leve e agnóstico ao modelo. Diferente de métodos que exigem retreinamento ou otimização restrita complexa (ex: programação inteira mista), o NAILS utiliza o conceito de deslocamento de rótulo (label shift) dentro de um framework de classificação hierárquica.

Formulação Teórica:
- O sistema modela a probabilidade conjunta de um usuário $u$ , um item $i$ e um atributo do item $c$ (ex: categoria) como $p(c, i, u) = p(c|i)p_\theta(i|u)p(u)$ .
- O objetivo é substituir a distribuição marginal natural de atributos $p(c)$ por uma distribuição normativa alvo $\tilde{p}(c)$ (ex: uma mistura editorial específica ou uma distribuição uniforme).
- O NAILS assume que a distribuição condicional de itens e usuários dado um atributo permanece invariante ( $p(i, u|c) = \tilde{p}(i, u|c)$ ).
- Sob essa premissa, a probabilidade alinhada de um usuário interagir com um item é derivada como:
  $\tilde{p}(i|u) \propto p_\theta(i|u) \sum_{c \in C} \frac{\tilde{p}(c)}{p(c)} p(c|i)$
- Isso efetivamente repondera os escores do modelo original ( $p_\theta(i|u)$ ) por um fator dependente da razão entre a distribuição de atributos alvo e a atual.
Implementação:
- O termo de reponderação pode ser implementado adicionando $\log(\sum_{c} \frac{\tilde{p}(c)}{p(c)} p(c|i))$ às log-probabilidades do modelo antes da camada softmax.
- Um hiperparâmetro ajustável $\lambda \in [0, 1]$ permite a interpolação entre o recomendador original e a versão totalmente alinhada: $\tilde{p}_\lambda(i|u) = \lambda \tilde{p}(i|u) + (1-\lambda)p_\theta(i|u)$ .
- O método suporta tanto a seleção determinística quanto a amostragem estocástica.

Principais Contribuições

Perspectiva Centrada nas Partes Interessadas: O artigo desloca o foco da calibração para o histórico individual do usuário para o alinhamento dos outputs do sistema com metas normativas globais.
Algoritmo Eficiente: O NAILS fornece uma solução simples e escalável que evita o custo computacional de otimização gulosa ou retreinamento, tornando-se adequado para implantações em larga escala.
Validação Empírica: O método é avaliado no dataset EB-NeRD (Ekstra Bladet News Recommendation Dataset), um benchmark de larga escala com mais de 37 milhões de logs de impressões e 125.000 artigos divididos em oito categorias editoriais.

Resultados Experimentais
Os autores avaliaram o NAILS contra o CaliRec (um baseline de pós-processamento guloso) utilizando o modelo NRMS como recomendador base.

Eficácia de Alinhamento:
- O NAILS conseguiu reduzir a divergência de Kullback–Leibler (KL) entre a distribuição recomendada e as distribuições alvo (Editorial ou Uniforme).
- Embora o CaliRec tenha alcançado a menor divergência KL em algumas configurações devido à sua otimização explícita para KL, o NAILS ofereceu uma aproximação robusta sem o custo computacional.
- O NAILS demonstrou uma cobertura superior (a fração de artigos únicos selecionados) em comparação ao CaliRec, particularmente em configurações determinísticas, sugerindo que ele equilibra melhor o alinhamento de distribuição com a diversidade de conteúdo.
Desempenho de Ranking (AUC):
- O impacto na qualidade do ranking (medido por AUC) variou conforme a distribuição alvo.
- O alinhamento com a distribuição Editorial (que reflete listas de candidatos curadas) de fato melhorou o AUC tanto para o NAILS quanto para o CaliRec.
- O alinhamento com uma distribuição Uniforme geralmente reduziu o AUC, destacando o conflito inerente entre a conformidade estrita de equidade/diversidade e a relevância para o usuário.
Trade-offs: Os resultados confirmam que a escolha da distribuição alvo é crítica. O NAILS permite que as partes interessadas ajustem o $\lambda$ para equilibrar a força do alinhamento com a preservação das métricas de engajamento.

Significância e Alegações
O artigo afirma que o NAILS oferece um mecanismo prático e principiológico para uma "recomendação orientada por valores". Sua principal significância reside em:

Escalabilidade: Permite que plataformas (especificamente publicadores de notícias com missões definidas) imponham valores editoriais ou metas de diversidade sem retreinar modelos complexos de deep learning.
Flexibilidade: Fornece um controle ajustável ( $\lambda$ ) para gerenciar o equilíbrio entre o alinhamento normativo e o desempenho de ranking.
Direção Futura: Os autores afirmam modestamente que, embora o NAILS seja eficaz, a noção de "otimalidade" é dependente de contexto. Eles posicionam este trabalho como um passo para estender a calibração além das visões centradas no usuário para metas normativas globais, argumentando que esta é uma direção necessária para a IA responsável em sistemas editoriais e de políticas. Eles explicitamente observam que trabalhos futuros são necessários para compreender os efeitos de longo prazo de tais intervenções em ambientes reais.