🤖 AI

Contextual Safety Reasoning and Grounding for Open-World Robots

O artigo apresenta o CORE, um quadro de segurança que utiliza modelos de linguagem e visão para raciocinar, fundamentar e aplicar regras de segurança dependentes do contexto em robôs operando em ambientes abertos e desconhecidos, superando as limitações das abordagens tradicionais de segurança fixa.

Autores originais: Zachary Ravichandran, David Snyder, Alexander Robey, Hamed Hassani, Vijay Kumar, George J. Pappas

Publicado 2026-02-26

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Zachary Ravichandran, David Snyder, Alexander Robey, Hamed Hassani, Vijay Kumar, George J. Pappas

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está ensinando um robô a andar por uma cidade nova, mas você não tem um mapa e não pode dar a ele uma lista de regras fixas como "não pise na grama" ou "não se aproxime de pessoas". O mundo real é muito caótico e imprevisível para isso.

O artigo que você apresentou descreve uma solução brilhante chamada CORE (Raciocínio e Execução de Segurança Contextual). Pense no CORE como se fosse dar ao robô um "olho humano" e um "cérebro social" ao mesmo tempo.

Aqui está como funciona, explicado de forma simples:

1. O Problema: O Robô Cego de Regras

Antes do CORE, os robôs eram como carros autônomos que só viam "coisas sólidas". Se havia um cone de trânsito no chão, o robô via um objeto físico e desviava. Mas e se o cone não fosse um obstáculo físico, mas sim um sinal de que "a área atrás dele é perigosa"? Ou se o robô precisasse entender que "não devo pisar na grama" porque é socialmente inadequado, mesmo que a grama seja fisicamente possível de atravessar?
Os robôs antigos não entendiam o contexto. Eles precisavam que um humano dissesse tudo de antemão.

2. A Solução: O Robô com "Sentido Comum"

O CORE muda o jogo. Em vez de ter regras fixas, o robô usa um Modelo de Linguagem e Visão (VLM). Imagine que esse modelo é como um turista experiente que está olhando pela câmera do robô.

O processo acontece em três etapas mágicas:

Etapa 1: O "Detetive" (Raciocínio Contextual)

O robô olha para a cena e o "turista" (a IA) pensa:

"Ah, vejo um sinal de 'Piso Molhado'. Isso não é apenas um objeto, é um aviso de que o chão ao redor é escorregadio."
"Vejo uma fila de cones. Eles não são obstáculos individuais, mas formam uma barreira invisível que diz 'Não entre aqui'."
"Vejo uma pessoa. Preciso manter uma distância de respeito, não apenas para não bater nela, mas por educação."

O robô inventa as regras na hora, baseando-se no que vê, sem precisar de um manual prévio.

Etapa 2: O "Cartógrafo" (Ancoragem Semântica)

Depois de entender o que é perigoso, o robô precisa transformar essas ideias abstratas em algo físico.

O "turista" diz: "Não entre na área ao redor do sinal de piso molhado."
O "cartógrafo" pega essa frase e desenha um mapa invisível no chão do robô. Ele cria uma "zona de segurança" ao redor do sinal.
Ele faz o mesmo para as pessoas (criando uma bolha de espaço pessoal) e para os cones (criando uma linha proibida).

É como se o robô pudesse ver "fantasmas" de zonas proibidas desenhadas no chão, baseados no que ele entende, não apenas no que ele toca.

Etapa 3: O "Guarda-Costas" (Execução Segura)

Agora que o robô tem seu mapa de zonas proibidas, ele usa um sistema matemático chamado Funções de Barreira de Controle (CBF).
Imagine que o robô tem um guarda-costas invisível que segura uma corda elástica.

Se o robô tenta ir para uma zona proibida (como perto de uma pessoa ou no chão molhado), a corda puxa ele de volta suavemente.
Se o caminho é seguro, a corda fica frouxa e o robô anda livremente.
O legal é que esse sistema é tão inteligente que ele sabe que a "visão" do robô pode ter pequenas falhas (como um mapa borrado). Então, ele adiciona uma margem de segurança extra, garantindo que, mesmo se o robô não tiver certeza absoluta, ele não vai se machucar.

Por que isso é revolucionário?

Os testes mostraram que robôs com o CORE funcionam quase tão bem quanto um robô que já conhece o ambiente perfeitamente (um "oráculo"), mas 5 vezes melhor do que robôs que só olham para obstáculos físicos.

A analogia final:

Robô Antigo: É como um cego com um bastão. Ele só sabe que algo está no caminho se bater nele.
Robô com CORE: É como uma pessoa com visão e senso comum. Ela vê um sinal de "Cuidado, Cachorro Bravo" e para antes de chegar perto, mesmo sem ver o cachorro. Ela vê uma pessoa e dá espaço. Ela entende que um cone de trânsito significa "obra à frente", não apenas "cone".

O CORE permite que os robôs entrem em ambientes totalmente novos (como uma casa, um hospital ou uma fábrica) e aprendam a se comportar com segurança e educação instantaneamente, apenas olhando e pensando.

1. O Problema

Robôs operando em ambientes do mundo real (lares, escritórios, armazéns) enfrentam desafios de segurança que vão além da simples detecção de obstáculos geométricos. A segurança é contextual e semântica:

Um sinal de "piso molhado" não é apenas um objeto físico, mas indica que a área ao redor é perigosa.
Uma linha de cones de trânsito pode delimitar uma área proibida, mesmo que os cones individuais não sejam barreiras físicas intransponíveis.
Normas sociais exigem que o robô mantenha distância de pessoas, mesmo que o caminho físico esteja livre.

Abordagens tradicionais de segurança (como Funções de Barreira de Controle - CBFs) exigem que as restrições de segurança sejam definidas a priori por um especialista e baseadas em mapas ou modelos fixos. Isso é impraticável para ambientes abertos e dinâmicos onde o robô encontra contextos desconhecidos. O desafio é permitir que o robô raciocine sobre a segurança com base em observações visuais em tempo real, sem conhecimento prévio do ambiente.

2. Metodologia: O Framework CORE

O artigo propõe o CORE (Contextual Safety Reasoning and Enforcement), um framework de três estágios que opera online sem necessidade de mapas prévios ou especificações de segurança fixas.

A. Raciocínio de Segurança Contextual (Vision-Language Model - VLM)

O CORE utiliza um Modelo Visão-Linguagem (VLM) para analisar as observações visuais do robô.
Em vez de apenas detectar objetos, o VLM infere regras de segurança dependentes do contexto.
O modelo é instruído a gerar predicados estruturados combinando classes semânticas (ex: piso_molhado, pessoa) com operadores espaciais:
- ON: Superfícies navegáveis (seguras).
- NEAR: Buffer de colisão para objetos sólidos (inseguro).
- AROUND: Zonas de perigo ao redor de indicadores de risco ou entidades sociais (inseguro).
- BETWEEN: Áreas proibidas delimitadas por arranjos de objetos (ex: cones em linha).
O VLM fornece também uma justificativa de "cadeia de pensamento" (Chain-of-Thought) para suas decisões.

B. Ancoragem Semântica (Semantic Grounding)

As regras inferidas pelo VLM (texto) são mapeadas para o espaço físico do robô.
Um modelo de segmentação de imagem (ex: SAM3) localiza os objetos mencionados.
Os operadores espaciais são aplicados aos pixels segmentados para criar conjuntos de pixels seguros e inseguros na imagem.
Esses conjuntos são projetados em uma nuvem de pontos 3D e acumulados em uma grade 2D para formar conjuntos de segurança espacialmente definidos ( $S$ ).
Uma função de barreira $h(x)$ é construída baseada na distância sinalizada a esses conjuntos.

C. Aplicação de Segurança Probabilística (CBFs)

O sistema utiliza Funções de Barreira de Controle (CBFs) para sintetizar um comando de controle seguro ( $u_{safe}$ ) que minimiza o desvio do controlador nominal, garantindo que o robô permaneça dentro do conjunto seguro.
Incerteza Perceptiva: Como a inferência do VLM e a ancoragem são ruidosas, o CORE não assume segurança absoluta. Ele modela a probabilidade de detecção de regiões inseguras.
O framework fornece garantias probabilísticas de segurança: mesmo com falhas de detecção, o robô tem uma probabilidade garantida ( $1-\delta$ ) de não entrar em uma região insegura, desde que o tempo de latência do sensor e a velocidade do robô respeitem certos limites de "observações por distância".

3. Principais Contribuições

Módulo de Raciocínio Baseado em VLM: Capacidade de inferir restrições de segurança contextuais a partir de observações visuais brutas, sem conhecimento prévio do ambiente.
Método de Ancoragem: Uma técnica para mapear restrições de linguagem natural para conjuntos de segurança espaciais definidos geometricamente.
Mecanismo de Aplicação Probabilística: Uso de CBFs que incorporam a incerteza da percepção, oferecendo garantias teóricas de segurança mesmo quando a percepção falha.
Validação Experimental: Demonstração em simulação e hardware (robô Boston Dynamics Spot) em ambientes desconhecidos.

4. Resultados Experimentais

Os experimentos foram realizados em ambientes simulados (Isaac Sim) e no mundo real, comparando o CORE com três baselines:

Oracle: Possui conhecimento ground-truth das restrições (limite superior ideal).
No Context: Usa um LLM para gerar regras offline (antes da execução), sem raciocínio online.
Geometric: Apenas evita obstáculos físicos (sem semântica).

Desempenho Chave:

Sucesso em Tarefas Seguras: O CORE atingiu 96,6% de sucesso (comparável ao Oracle de 100%), enquanto o método "Sem Contexto" teve 93,3% e o Geométrico 100% (mas falhou em tarefas inseguras).
Prevenção de Comportamentos Inseguros: O CORE preveniu comportamentos inseguros em 93,3% dos casos.
- O método "Sem Contexto" falhou em 83,4% das tarefas inseguras (apenas 16,6% de prevenção), pois dependia de regras genéricas pré-definidas.
- O método Geométrico falhou em 100% das tarefas inseguras, pois não entendia que cones ou sinais de perigo criavam zonas proibidas.
Ablação: Estudos mostraram que tanto a lógica de segurança estruturada quanto o raciocínio de "cadeia de pensamento" (CoT) no VLM são essenciais para a precisão. O modelo Gemma 3 27B mostrou o melhor equilíbrio entre precisão e latência.

5. Significado e Conclusão

O trabalho representa um avanço significativo na robótica de mundo aberto ao fechar a lacuna entre a percepção semântica de alta nível e o controle de baixo nível seguro.

Autonomia Realista: Permite que robôs operem em ambientes não estruturados onde regras de segurança não podem ser mapeadas manualmente.
Segurança Adaptativa: O sistema adapta-se dinamicamente a novos perigos (ex: um novo sinal de perigo ou uma pessoa em uma área restrita) sem reprogramação.
Garantias Teóricas: Diferente de muitas abordagens baseadas em IA que são "caixas pretas", o CORE integra a incerteza da IA em uma estrutura matemática rigorosa (CBFs probabilísticas), oferecendo limites de segurança quantificáveis.

Em resumo, o CORE demonstra que é possível criar robôs que não apenas "veem" obstáculos, mas "compreendem" o contexto de segurança ao seu redor e agem de acordo, superando drasticamente métodos tradicionais e abordagens sem raciocínio contextual.