Enhancing Goal Inference via Correction Timing

Título: Enhancing Goal Inference via Correction Timing

Autores: Anjiabei Wang, Shuangge Wang, Tesca Fitzgerald (Yale University)
Conferência: AAMAS 2026

---

1. Problema e Motivação

O trabalho aborda o aprendizado de robôs a partir de correções físicas feitas por humanos durante a execução de tarefas. Quando um robô falha ou parece prestes a falhar, um humano pode intervir fisicamente para corrigir seu movimento.

• Limitação do Estado da Arte: A maioria dos trabalhos anteriores trata correções apenas como:
  1. Novas demonstrações (comportamento modificado).
  2. Preferências (trajetória corrigida é melhor que a original).
• A Lacuna Identificada: Esses métodos ignoram um elemento crucial: o momento (timing) da decisão humana de intervir. A decisão de corrigir não é arbitrária; ela é influenciada por fatores como progresso da tarefa, alinhamento com expectativas, legibilidade do movimento e otimalidade.
• Hipótese: O timing da intervenção humana contém sinais valiosos sobre os objetivos da tarefa e as restrições que o humano considera importantes, permitindo inferir o objetivo pretendido mais cedo e com maior precisão.

O artigo investiga três perguntas de pesquisa (RQs):

1. Quais características do movimento do robô levam os humanos a corrigi-lo?
2. Podemos inferir o objetivo final da tarefa usando apenas as informações no início da correção (timing + direção inicial)?
3. O uso de informações de timing melhora a precisão da inferência de restrições da tarefa em comparação com o uso apenas de informações espaciais?

---

2. Metodologia

Os autores propõem uma abordagem de duas etapas para modelar e utilizar o timing das correções.

2.1. Definição do Problema

• Entrada: Uma trajetória pré-planejada do robô $\xi$ e um objetivo $g$.
• Intervenção: O humano intervém no tempo $t_c$, criando uma trajetória corrigida $c$.
• Dados Extraídos:
  • Temporal: $t_c$ (momento do início da correção).
  • Espacial: $c_p$ (posição de agarre), $c'_p$ (velocidade/direção inicial), $c_l$ (posição de liberação).
• Objetivo: Aprender a distribuição condicional $P(t_c | \xi, g)$ para prever quando correções ocorrem e usar isso para inferir $P(g | \xi, t_c, s_c)$.

2.2. Etapa 1: Predição do Timing (Modelo WHEN)

Para responder à RQ1, os autores treinam um modelo para prever quando uma correção ocorrerá.

• Extração de Características (Features): São extraídas 7 características da trajetória do robô, baseadas em trabalhos anteriores sobre percepção humana:
  1. Alinhamento de Expectativa (Velocidade e Posição).
  2. Alinhamento de Direto ao Objetivo.
  3. Consistência de Velocidade.
  4. Legibilidade (Score de Dragan et al.).
  5. Progresso da Tarefa (Distância ao objetivo).
  6. Otimalidade (Modelo de Racionalidade de Boltzmann).
• Arquitetura: Um modelo Transformer (2 camadas, 8 cabeças de atenção) que processa a sequência temporal das características.
• Saída: Uma probabilidade acumulada (CDF) de correção ocorrer em cada passo de tempo.

2.3. Etapa 2: Inferência de Objetivo (Modelos de Comparação)

Para responder às RQ2 e RQ3, três modelos são comparados para inferir a distribuição do objetivo $P(g)$:

1. Modelo WHERE (Baseline): Usa apenas informações espaciais no início da correção ($c_p, c'_p$) para prever onde o humano soltaria o robô e, a partir daí, inferir o objetivo.
2. Modelo WHEN: Usa apenas a informação temporal ($t_c$) para inferir o objetivo, assumindo uma priori uniforme.
3. Modelo COMBINED: Integra informações espaciais e temporais. Combina a probabilidade de timing $P(t_c|g)$ com a probabilidade espacial derivada do movimento inicial.
   • A inferência é feita via regra de Bayes, ponderando a contribuição do timing e do espaço (com um peso $\alpha$).

2.4. Coleta de Dados

• Estudo com Usuários: 120 participantes realizaram tarefas de "pegar e colocar" com um braço robótico Kinova Gen3.
• Tarefa: Colocar formas geométricas em furos coloridos correspondentes.
• Dados: 7.435 episódios de interação e 3.585 trajetórias de correção.
• Configuração: O robô executava trajetórias pré-planejadas (às vezes com erros ou ineficiências intencionais) e os participantes podiam intervir a qualquer momento.

---

3. Resultados Principais

3.1. Predição de Timing (RQ1)

• O modelo multi-característica (Transformer) superou consistentemente a linha de base baseada apenas em otimalidade de Boltzmann.
• Ablação de Features: A remoção de características como "Alinhamento de Velocidade Direta" e "Consistência de Velocidade" causou quedas significativas na precisão (F1 Score), indicando que humanos reagem a múltiplos aspectos do movimento, não apenas à otimalidade.
• Curiosamente, a remoção da "Distância ao Objetivo" melhorou o desempenho em certos pontos, sugerindo que humanos focam mais em como o robô se move (cues de movimento) do que na distância absoluta.

3.2. Inferência de Objetivo no Início da Correção (RQ2)

• Resultado Chave: O modelo COMBINED (Espaço + Tempo) obteve uma divergência KL (Kullback-Leibler) significativamente menor (melhor precisão) do que os modelos WHERE e WHEN isolados para correções que ocorrem em 70%, 80% e 90% da trajetória.
• Isso demonstra que o timing da intervenção ajuda a inferir o objetivo pretendido antes que a correção seja concluída, permitindo uma resposta mais rápida do robô.

3.3. Inferência de Objetivo no Fim da Correção (RQ3)

• Quando a inferência é feita com base na posição final de liberação ($c_l$), o modelo COMBINED não superou o modelo WHERE.
• Explicação: Em tarefas simples como a deste estudo, a posição onde o humano solta o robô já é um indicador quase perfeito do objetivo. Portanto, o sinal de timing torna-se redundante quando a informação espacial final está completa.

---

4. Contribuições e Significância

1. Novo Sinal de Aprendizado: O trabalho estabelece que o timing da intervenção humana é um sinal informativo valioso, não apenas um ruído ou um evento binário.
2. Inferência de Intento Antecipada: Demonstra-se que combinar o momento da correção com a direção inicial permite que o robô infira o objetivo do humano mais cedo, sem precisar esperar o fim da interação física. Isso é crucial para assistência proativa em sistemas de autonomia compartilhada.
3. Análise de Comportamento Humano: A ablação de características revela que as decisões de correção são não-Markovianas (dependem do histórico da trajetória) e são influenciadas por múltiplos fatores (legibilidade, consistência, alinhamento), e não apenas pela otimalidade da trajetória.
4. Limitações e Futuro: O benefício do timing diminui em tarefas simples onde a posição final é óbvia. O trabalho sugere que o timing será ainda mais valioso em tarefas complexas com múltiplas restrições, onde a posição final não revela imediatamente a intenção completa.

Conclusão

O artigo conclui que o timing das correções humanas oferece insights profundos sobre os objetivos da tarefa. Integrar esse sinal temporal com cues espaciais permite uma inferência de objetivo mais precisa e rápida, especialmente durante a fase inicial da correção, permitindo que robôs adaptem seu comportamento de forma mais dinâmica e intuitiva durante a colaboração com humanos.