Safety with Agency: Human-Centered Safety Filter with Application to AI-Assisted Motorsports

Resumo Técnico: Filtro de Segurança Centrado no Humano com Agência (HCSF)

O artigo propõe uma nova abordagem para a autonomia compartilhada (shared autonomy) em sistemas de alto risco, utilizando o automobilismo de alta performance como caso de estudo. O objetivo principal é resolver o conflito entre a necessidade de garantir a segurança e a preservação da agência humana (o sentimento de controle e intenção do operador).

1. O Problema

Em sistemas de autonomia compartilhada, os filtros de segurança tradicionais (como o Last-Resort Safety Filter - LRSF) costumam atuar de forma abrupta e descontínua. Eles monitoram o sistema e, no último momento possível, substituem completamente a ação do humano por uma política de emergência. Isso causa:

• Surpresa de Automação: Intervenções imprevisíveis que confundem o operador.
• Perda de Agência: O motorista sente que perdeu o controle do veículo.
• Desconforto: Movimentos bruscos (jerk) que degradam a experiência e a confiança no sistema de IA.

2. Metodologia Proposta

Os autores introduzem o Human-Centered Safety Filter (HCSF), fundamentado em duas bases matemáticas principais:

• Análise de Alcançabilidade Hamilton-Jacobi (HJ): Utilizada para aprender uma função de valor de segurança neural ($V(x)$) e uma função de valor de segurança estado-ação ($Q(x, u)$). O diferencial é que o aprendizado é feito via Reinforcement Learning (RL) model-free, ou seja, o sistema aprende através de interações com o ambiente (caixa-preta) sem precisar conhecer as equações dinâmicas do veículo.
• Função de Barreira de Controle (Q-CBF): Em vez de uma substituição abrupta, o HCSF utiliza uma nova restrição de barreira de controle baseada em $Q$ ($Q(x, u) \geq \gamma V(x)$).

O mecanismo de intervenção: O HCSF resolve um problema de otimização em tempo real que busca encontrar uma ação que seja o mais próxima possível da intenção do humano ($u_{human}$), mas que ainda satisfaça a restrição de segurança. Isso resulta em "toques" ou "ajustes" suaves e mínimos, em vez de sobreposições totais.

3. Principais Contribuições

1. Primeiro Filtro CBF totalmente model-free: Diferente dos métodos tradicionais que exigem modelos matemáticos complexos da dinâmica do sistema, o HCSF funciona em sistemas de "caixa-preta" (como simuladores de alta fidelidade).
2. Escalabilidade: A abordagem utiliza redes neurais para aproximar as funções de segurança, permitindo lidar com espaços de estados de alta dimensão (como os de um carro de corrida).
3. Design Centrado no Humano: A integração de pistas visuais (setas na tela indicando a magnitude e direção da correção da IA) para aumentar a transparência e a colaboração humano-máquina.

4. Resultados Experimentais

O método foi validado em um estudo com 83 participantes utilizando o simulador de alta fidelidade Assetto Corsa. Os resultados compararam o HCSF com o LRSF (filtro convencional) e a condução sem assistência:

• Robustez: O HCSF manteve níveis de segurança comparáveis ou superiores ao LRSF, reduzindo drasticamente incidentes de saída de pista e falhas em relação à condução sem assistência.
• Agência Humana: O HCSF permitiu que os motoristas mantivessem um sentimento de controle significativamente maior do que o LRSF, com modificações de entrada muito menores e mais suaves.
• Conforto: Houve uma redução significativa no jerk (variação brusca de aceleração) e na descontinuidade das entradas de controle em comparação ao filtro convencional.
• Satisfação: O HCSF obteve os maiores índices de satisfação geral, sendo percebido como mais confiável, previsível e competente.

5. Significância e Impacto

Este trabalho é significativo por mudar o paradigma de "segurança como substituição" para "segurança como colaboração". Ao provar que é possível manter a robustez técnica sem sacrificar a experiência e a agência do operador, a pesquisa abre caminho para sistemas de assistência ao motorista (ADAS) mais avançados, robótica de serviço e qualquer aplicação de autonomia compartilhada onde a confiança e o conforto humano sejam críticos para o sucesso da missão.