Safe Probabilistic Planning for Human-Robot Interaction using Conformal Risk Control

Este artigo apresenta um novo framework de controle probabilístico seguro para interação humano-robô que combina funções de barreira de controle com controle de risco conformal para fornecer garantias formais de segurança, ajustando dinamicamente as margens de segurança e demonstrando, em experimentos, uma redução significativa nas colisões e violações de segurança em comparação com métodos de base.

O essencial

Imagine que você está dirigindo um carro autônomo em uma rua movimentada cheia de pedestres. O grande desafio para o robô é: "Como eu sei que aquele pedestre vai atravessar a rua ou continuar andando na calçada?"

O comportamento humano é imprevisível. Às vezes, a pessoa olha para o celular e não vê o carro; outras vezes, ela decide mudar de direção de última hora. Se o robô for muito "medroso", ele vai parar o tempo todo e nunca chegar ao destino. Se for muito "atrevido", ele pode bater em alguém.

Este artigo apresenta uma solução inteligente chamada CRC-CBF. Vamos explicar como funciona usando analogias do dia a dia:

1. O Problema: O "Oráculo" Imperfeito

O robô usa um "oráculo" (um modelo de inteligência artificial) para prever o que o pedestre vai fazer. Mas esse oráculo não é perfeito; ele comete erros.

• O jeito antigo: Os robôs antigos assumiam que o erro era sempre o pior cenário possível (como se o pedestre pudesse pular na frente do carro a qualquer segundo). Isso fazia o robô ficar paralisado de medo, muito conservador.
• O jeito novo: O robô precisa saber quão provável é que o oráculo erre, e ajustar sua "medo" dinamicamente.

2. A Solução: O "Cinto de Segurança" Ajustável

A ideia central do artigo é criar um Cinto de Segurança Ajustável (chamado de Margem de Segurança).

• Imagine um cinto de segurança em um carro:
  • Se você está dirigindo em uma estrada reta e vazia (baixo risco), o cinto fica frouxo, permitindo que você se mova com liberdade e rapidez.
  • Se você entra em uma curva fechada ou chove muito (alto risco), o cinto se aperta automaticamente para te segurar com mais firmeza.

O robô faz exatamente isso. Ele usa uma técnica estatística chamada Controle de Risco Conformal (CRC) para medir o "clima" da interação:

• Cenário de Baixo Risco: O pedestre está andando calmamente, longe do robô. O sistema entende que a previsão é boa e afrouxa a margem de segurança. O robô age de forma mais natural e eficiente.
• Cenário de Alto Risco: O pedestre está hesitando, olhando para o celular ou muito perto. O sistema percebe que a previsão é incerta e aperta a margem de segurança. O robô fica mais cauteloso, reduz a velocidade ou espera, garantindo que não haverá colisão.

3. Como eles ensinaram o robô a fazer isso?

Os autores não inventaram uma fórmula mágica do nada. Eles usaram um processo de dois passos, como um treinador de atletas:

1. Treinamento (Fase Offline): Eles deixaram o robô "brincar" com milhares de simulações de pedestres (usando dados reais de multidões). Eles observaram: "Quando o robô achava que o pedestre ia para a esquerda, mas ele foi para a direita, qual foi o erro?"
2. Aprendizado (Fase Online): Eles criaram um modelo que aprendeu a dizer: "Olha, neste momento específico, com este pedestre, o erro provável é X. Vamos ajustar o cinto de segurança para X".

Isso permite que o robô aprenda com a experiência e ajuste seu comportamento em tempo real, sem precisar de supercomputadores lentos.

4. O Resultado: O Equilíbrio Perfeito

O artigo testou essa ideia em simulações de robôs andando com pessoas.

• Robôs antigos (CBF-QP): Eram ou muito lentos (paravam tudo) ou batiam muito (38% de colisões!).
• Robôs "medrosos" fixos: Paravam tudo o tempo todo, demorando muito para chegar ao destino.
• O Robô Inteligente (CRC-SF): Conseguiu chegar ao destino com 84% de sucesso, batendo em apenas 3% dos casos (o menor índice de todos).

Resumo em uma frase

Este trabalho cria um "copiloto" para robôs que sabe exatamente o quanto deve ter medo em cada momento: nem tanto a ponto de travar, nem tão pouco a ponto de bater, ajustando sua cautela como um motorista experiente que sente o clima da estrada.

É uma forma de dar ao robô confiança estatística: ele sabe que, matematicamente, há uma chance de 99% de que ele não vai bater em ninguém, mesmo com humanos imprevisíveis ao redor.

Resumo técnico

Título: Planejamento Probabilístico Seguro para Interação Humano-Robô usando Controle de Risco Conformal

1. O Problema

A implantação segura de robôs autônomos em ambientes humanos (como direção autônoma ou robôs de serviço) enfrenta desafios fundamentais devido à imprevisibilidade do comportamento humano. Especificamente:

• Multimodalidade e Dependência Histórica: O comportamento humano não é apenas estocástico, mas multimodal (existem múltiplos comportamentos distintos possíveis, como passar à esquerda ou à direita) e depende do histórico de interações.
• Limitações das Abordagens Atuais: Métodos tradicionais de controle seguro frequentemente assumem distribuições de erro simples (ex: Gaussianas) ou utilizam restrições de chance que podem ser conservadoras demais ou computacionalmente caras.
• Falta de Garantias Formais: Métodos baseados em amostragem lidam com distribuições complexas, mas carecem de garantias formais de segurança em tempo real.
• Desafio Central: Desenvolver algoritmos que lidem com a incerteza complexa do comportamento humano sem serem excessivamente conservadores, fornecendo garantias quantificáveis de probabilidade de satisfação de restrições de segurança.

2. Metodologia

O artigo propõe um novo framework de controle seguro que combina Funções de Barreira de Controle (CBFs) com Controle de Risco Conformal (CRC).

Conceitos Fundamentais:

• Funções de Barreira de Controle (CBFs): Garantem a invariância de um conjunto de estados seguros. O robô resolve um problema de otimização (QP) para minimizar o desvio de uma política nominal, sujeito a restrições de segurança.
• Controle de Risco Conformal (CRC): Uma extensão da previsão conformal que permite controlar o risco esperado de violação de uma função de perda definida pelo usuário, sem assumir distribuições específicas dos dados. É adaptável a mudanças de distribuição (shifts) e dependências temporais.

Abordagem Proposta (CRC-CBF):

1. Modelagem da Incerteza: O comportamento humano é modelado como uma política estocástica desconhecida $P(u_H | x_{0:k})$. O robô não conhece a ação futura do humano ($u_H$), apenas uma distribuição prevista.
2. Margem de Segurança Dinâmica ($\lambda$): Em vez de usar uma margem de segurança fixa, o método introduz um parâmetro $\lambda$ que atua como um "buffer" contra erros de previsão.
   • Se a incerteza é alta, $\lambda$ aumenta, restringindo mais o espaço de controle do robô (comportamento mais conservador).
   • Se a incerteza é baixa, $\lambda$ diminui, permitindo comportamentos mais eficientes.
3. Sintonização Online via CRC:
   • O sistema utiliza dados offline para calibrar a relação entre o contexto da interação e a margem de segurança necessária.
   • Define-se uma função de perda baseada no erro entre a barreira de segurança verdadeira e a prevista.
   • O CRC é aplicado para encontrar o menor $\lambda$ que garante que o risco esperado de violação da barreira esteja abaixo de um limiar $\alpha$ (nível de risco desejado), mesmo com dependências temporais nos dados (usando pesos de decaimento geométrico).
4. Filtro de Segurança Adaptativo: Durante a operação online, um modelo (LSTM) prevê a margem de segurança $\lambda$ baseada no estado atual e no histórico, ajustando dinamicamente as restrições do QP do CBF.

3. Principais Contribuições

1. Novo Framework de Controle Seguro: Integração pioneira de CRC com CBFs para fornecer garantias de segurança de alta probabilidade em interações humano-robô.
2. Análise Teórica Rigorosa: Estabelecimento da conexão teórica entre a quantificação de incerteza baseada em CRC e garantias probabilísticas de segurança, provando que o erro de previsão da barreira pode ser limitado com alta confiança.
3. Algoritmo de Adaptação Dinâmica: Desenvolvimento de um algoritmo "livre de suposições" (assumption-light) que ajusta as margens de segurança em tempo real baseado no contexto de interação, sem depender de suposições de estacionariedade.
4. Validação Empírica: Demonstração prática em cenários de navegação com dados reais de pedestres, mostrando superioridade sobre métodos de base.

4. Resultados Experimentais

Os autores avaliaram o método (denominado Online CRC-SF) em cenários de agente único e multiagente, comparando com:

• CBF-QP: Sem consideração de incerteza humana.
• Fixed CRC-SF: Usa uma margem de segurança fixa calculada offline.
• MPPI: Método baseado em amostragem sem garantias formais.

Resultados Chave:

• Cenário de Agente Único (Colisão Frontal):
  • O Online CRC-SF alcançou a melhor compensação entre segurança e eficiência.
  • O CBF-QP teve alta taxa de colisão (16,0%) e violação de segurança.
  • O Fixed CRC-SF foi extremamente conservador, resultando em baixa eficiência (apenas 14% de sucesso em atingir o objetivo) para evitar colisões.
  • O Online CRC-SF reduziu colisões para 2,0% mantendo 78% de sucesso no objetivo.
• Cenário Multiagente (Multidões):
  • Utilizando um modelo de difusão treinado em dados reais de pedestres.
  • O Online CRC-SF apresentou a melhor taxa de segurança (3,0% de colisão) e eficiência (84,8% de sucesso) entre todos os métodos.
  • O método demonstrou consistência em cinco cenários diferentes, enquanto outros métodos apresentaram alta variância.
• Comportamento Qualitativo: O robô com CRC-SF adapta-se proativamente, "desacelerando e esperando" quando a incerteza é alta, enquanto o CBF-QP tende a cruzar perigosamente, resultando em colisões.

5. Significância e Conclusão

Este trabalho representa um avanço significativo na segurança de robôs em ambientes humanos. Ao utilizar o Controle de Risco Conformal, o método supera as limitações de abordagens que exigem suposições distributivas rígidas ou que são excessivamente conservadoras.

• Garantias Formais: Oferece garantias probabilísticas rigorosas para cada passo de tempo, algo crucial para aplicações críticas.
• Adaptabilidade: A capacidade de ajustar dinamicamente a conservatividade do robô permite um equilíbrio ótimo entre segurança e eficiência, permitindo que o robô seja ágil quando seguro e cauteloso quando necessário.
• Aplicabilidade: O framework é computacionalmente eficiente para controle em tempo real e validado com dados do mundo real, sugerindo viabilidade para implantação em sistemas autônomos reais.

Em resumo, o paper propõe uma solução teórica e prática para o problema de "como ser seguro sem ser paralisante" na interação humano-robô, utilizando estatística conformal moderna para quantificar e gerenciar riscos de forma adaptativa.