Resumo Técnico: One Size, Many Fits (OSMF)

Declaração do Problema

Os atuais sistemas de geração de imagens publicitárias em larga escala dependem predominantemente de uma estratégia de "tamanho único", otimizando para uma única Taxa de Cliques (CTR) agregada para toda a base de usuários. Embora avanços recentes tenham integrado o CTR como um sinal de recompensa no Aprendizado por Reforço com Feedback Humano (RLHF), essa abordagem falha em considerar a substancial heterogeneidade de preferências entre diferentes grupos de usuários.

Como observado na introdução, tratar as preferências gerais de usuários como universalmente aplicáveis leva a um desempenho subótimo para grupos demográficos específicos. Por exemplo, as preferências por anúncios de smartphones podem diferir significativamente por gênero, enquanto os anúncios de calçados podem variar mais por idade. Um modelo unificado que tenta satisfazer essas preferências conflitantes (ex: "cenas naturais" vs. "campo esportivo" como fundos) simultaneamente frequentemente resulta em imagens que falham em engajar grupos específicos, limitando assim a eficácia do marketing direcionado e desperdiçando gastos publicitários. Além disso, as abordagens existentes de RLHF por grupo enfrentam dois desafios críticos: (1) Escalabilidade Limitada de Agrupamento de Usuários, onde agrupamentos estáticos de atributos fixos não conseguem se adaptar a diversas categorias de produtos; e (2) Conflitos de Preferência em Modelagem Unificada, onde modelos de saída única lutam para resolver preferências de imagem contraditórias.

Metodologia: O Framework OSMF

Para enfrentar essas limitações, os autores propõem o One Size, Many Fits (OSMF), um framework unificado projetado para alinhar diversas preferências de cliques por grupo. O framework consiste em duas etapas primárias:

1. Product-Aware Adaptive Grouping (PAAG)

O PAAG substitui o agrupamento de usuários rígido e estático por uma abordagem dinâmica que integra atributos de usuários com características de produtos.

• Modelagem de Preferência do Usuário: O sistema modela o comportamento de clique do usuário através de três ramos: atributos do usuário ($A$), imagens publicitárias ($I$) e títulos de produtos ($T$). Ele utiliza codificadores para extrair características semânticas de imagens e textos. Crucialmente, utiliza mecanismos de atenção cruzada para criar representações de usuário conscientes do produto ($e_{u|t}$ e $e_{u|c}$), permitizando que as características do usuário atendam à semântica específica do produto e às características visuais.
• Agregação de Características de Grupo: Os usuários são agrupados com base nesses embeddings conscientes do produto usando K-Means. Para capturar a diversidade intra-grupo em vez de depender de um único centroide, o PAAG constrói representações coletivas ricas ($G_{s,k}$) amostrando múltiplos pontos representativos da distribuição do cluster (incluindo o centroide e pontos periféricos em vários percentis). Isso garante que a característica do grupo encapsule tanto traços centrais quanto variações sutis.

2. Preference-Conditioned Image Generation (PCIG)

O PCIG aproveita os grupos derivados do PAAG para gerar imagens personalizadas via um Modelo de Linguagem Grande Multimodal Consciente de Grupo (G-MLLM).

• Arquitetura G-MLLM: O modelo integra informações de grupo ao prefixar um token de grupo ($e_{G_{s,k}}$) à sequência de entrada padrão. Ele passa por um pré-treinamento especializado em quatro tarefas:
  1. Análise de Grupo: Descrever perfis típicos de usuários em linguagem natural.
  2. Predição de Comportamento: Predizer futuros clicadores com base em clicadores existentes.
  3. Compreensão de Produto: Predizer títulos de produtos a partir de imagens.
  4. Geração de Prompts: Criar prompts de imagem adaptados a usuários específicos.
• Alinhamento de Preferência por Grupo (Group-DPO): Para alinhar o modelo com o engajamento do mundo real, os autores introduzem um Modelo de Recompensa Consciente de Grupo (GRM). O GRM avalia pares de imagens publicitárias condicionadas a embeddings de grupos específicos para predizer o desempenho relativo de CTR. Usando esses pares de preferência, o G-MLLM é ajustado via Group Direct Preference Optimization (Group-DPO). Este processo maximiza a probabilidade de gerar prompts que resultem em um CTR mais alto para grupos alvo específicos, resolvendo efetivamente conflitos de preferência entre grupos sem a necessidade de modelos separados para cada grupo.

Principais Contribuições

O artigo delineia três contribuições primárias:

1. PAAG: Um mecanismo dinâmico de agrupamento de usuários que aprende preferências conscientes do produto e deriva características coletivas ricas através de agrupamento adaptativo e amostragem de características, superando as limitações de agrupamento estático em cenários de larga escala.
2. PCIG: Um framework de geração condicionado à preferência que utiliza um G-MLLM pré-treinado e Group-DPO para permitir que um modelo unificado gere imagens personalizadas para diversos grupos de usuários, resolvendo conflitos de preferência.
3. Dataset GAIP: A introdução do dataset Grouped Advertising Image Preference (GAIP), o primeiro dataset público de larga escala para preferências de imagem por grupo. Ele contém aproximadamente 600.000 grupos de usuários derivados de 40 milhões de usuários, fornecendo anotações de preferência por grupo abrangentes que excedem significativamente os datasets existentes em escala e granularidade.

Resultados Experimentais

Os autores avaliaram o OSMF através de extensos experimentos offline e online:

• Modelagem de Preferência (PAAG): Comparado contra baselines (CACS, WIYD, JAC), o OSMF alcançou o menor NDCG@5 (0,3066) e o maior AUROC (0,6372), indicando uma capacidade superior de distinguir preferências distintas de grupos e modelar cliques de usuários.
• Desempenho de CTR Online: Em um teste online de uma semana em 10.000 produtos de alta exposição, o OSMF alcançou uma melhoria relativa de 5,479% no CTR sobre um baseline de G-MLLM pré-treinado e superou o método de última geração CAIG (que melhorou 3,425%). Isso demonstra que modelar explicitamente as preferências de nível de grupo gera melhores resultados comerciais do que a otimização agregada.
• Modelagem de Recompensa: O Modelo de Recompensa Consciente de Grupo (GRM) superou significativamente os MLLMs de propósito geral e os modelos de recompensa de CTR existentes em Precisão de Par (melhorando 4,7% sobre o CAIG), validando a importância do contexto de grupo na estimativa de preferência.
• Análise Qualitativa: Resultados visuais mostraram que o OSMF gera com sucesso imagens estilisticamente diversas (ex: vibrante vs. minimalista) adaptadas a grupos de usuários específicos para o mesmo produto, confirmando sua capacidade de se adaptar a demandas heterogêneas.

Significância

O artigo afirma que o OSMF representa uma mudança significativa do paradigma de "tamanho único" na geração de imagens publicitárias. Ao introduzir um framework que alinha dinamicamente diversas preferências de grupos, ele aborda a ineficiência comercial da geração de anúncios genéricos. Os autores enfatizam que até melhorias marginais de CTR se traduzem em ganhos de receita substanciais em e-commerce de larga escala. Além disso, o lançamento do dataset GAIP posiciona-se como um recurso fundamental para pesquisas futuras em geração de imagens consciente de grupo, preenchendo uma lacuna crítica na disponibilidade de dados de preferência de grupo do mundo real em larga escala. O trabalho demonstra que equilibrar escalabilidade com personalização através da otimização por grupo é um caminho viável e eficaz para a publicidade em escala industrial.