Resumo Técnico: LabGuard

Declaração do Problema

Embora agentes incorporados sejam cada vez mais capazes de executar procedimentos laboratoriais complexos utilizando modelos de Visão-Linguagem-Ação (VLA) e aprendizado por imitação, garantir a segurança em ambientes laboratoriais dinâmicos continua sendo um desafio significativo. A pesquisa atual de segurança frequentemente assume que a informação de segurança já está formalizada. No entanto, em laboratórios do mundo real, o conhecimento de segurança existe primariamente como linguagem natural não estruturada (ex: Procedimentos Operacionais Padrão, manuais, protocolos e regras de manuseio químico).

O problema central abordado por este artigo é o "elo perdido" entre essas regras de segurança em linguagem natural e as restrições de tempo de execução verificáveis por máquina exigidas pelos controladores de robôs. As abordagens existentes frequentemente negligenciam a etapa intermediária de transformar regras de segurança textuais em especificações executáveis que possam ser ativamente monitoradas e aplicadas na fronteira do controlador durante a execução. Os autores identificam três desafios principais:

1. Representação: Como representar a linguagem de segurança laboratorial para que os controladores possam ativar e verificar as regras.
2. Aterramento (Grounding): Como mapear diversas fontes de linguagem natural (SOPs, manuais, etc.) em uma representação tipada e executável.
3. Compilação: Como compilar essas representações aterradas em monitores de tempo de execução que possam verificar estados ao vivo e intervir (passar, modificar ou bloquear) ações antes da execução.

Metodologia: A Suíte LabGuard

Os autores propõem o LabGuard, uma suíte de segurança de linguagem para execução projetada para aterrar regras laboratoriais de linguagem natural em guardiões (guards) de execução em tempo real. O sistema opera através de um pipeline de três estágios:

1. LabGuard-IR (Representação Intermediária)

Os autores definem o LabGuard-IR, uma representação executável tipada que serve como o alvo para o aterramento e a entrada para a compilação. Diferente de simples descrições textuais, o LabGuard-IR captura a semântica de execução necessária para a verificação no lado do controlador. Ele consiste em seis campos:

• $\hat{t}$ (Tipo de Restrição): Seleciona a lógica de segurança (ex: incompatibilidade química, limites de temperatura, verificação de sequência).
• $\hat{S}$ (Conjunto de Substâncias/Entidades): Vincula menções textuais a entidades laboratoriais concretas e rastreáveis.
• $\hat{p}$ (Predicado de Estado): Define a condição avaliada contra o estado ao vivo ou a ação proposta.
• $\hat{T}$ (Escopo de Ação): Ativa a regra apenas para ações relevantes do controlador.
• $\hat{v}$ (Gravidade): Determina a prioridade da violação.
• $\hat{i}$ (Modo de Intervenção): Especifica a resposta (ex: registrar, modificar, bloquear).

2. LabGuard-Bench (Benchmark Supervisionado)

Para treinar e avaliar o processo de aterramento, os autores construíram o LabGuard-Bench.

• Dados: Contém 812 anotações supervisionadas expandidas a partir de 203 regras laboratoriais semente.
• Fontes: As sementes são extraídas de quatro famílias distintas: manuais de segurança laboratorial, declarações GHS da PubChem, regras elaboradas por especialistas voltadas para o controlador e referências de segurança química.
• Anotação: Cinco anotadores com formação em química/robótica revisaram os dados, garantindo a equivalência semântica entre paráfrases e regras canônicas. O conjunto de dados cobre 15 tipos de restrição agrupados em quatro famílias (compatibilidade de materiais, manuseio físico/quantitativo, verificações de processo/equipamento e ambiente/EPI/resíduos).

3. LabGuard-Grounder e Pipeline

• LabGuard-Grounder: Um componente treinável (implementado como um modelo de linguagem com ajuste fino via LoRA) que mapeia regras de linguagem natural para o esquema LabGuard-IR. É treinado via geração de sequência supervisionada para recuperar os campos estruturados necessários para a compilação subsequente.
• Pipeline LabGuard:
  • Tempo de Compilação: A instância de IR aterrada é validada contra o esquema e compilada em um monitor de execução em tempo real ($\rho$). O compilador instancia funções de verificação ($f_{check}$), predicados de escopo ($\phi_{scope}$) e parâmetros ($\theta$) baseados nos campos do IR.
  • Tempo de Execução (Runtime): Em cada etapa de controle, o controlador base propõe uma ação bruta. O executor de tempo de execução ativa os monitores relevantes com base no escopo da ação. O filtro de segurança (SafeFilter) avalia a ação contra o estado vivo do laboratório (incluindo identidades de substâncias, volumes, temperaturas e cinemática). Ele então retorna um veredito: passar, modificar ou bloquear.

Principais Contribuições

1. LabGuard-IR: Uma representação tipada que torna a linguagem de segurança laboratorial utilizável pelo controlador ao capturar explicitamente tipos de restrição, vínculos de entidades, escopos de ação e modos de intervenção.
2. LabGuard-Bench & Grounder: Um benchmark supervisionado com 812 anotações e um modelo de aterramento correspondente que mapeia diversas regras de linguagem natural para o esquema de IR executável.
3. Pipeline LabGuard: Um sistema completo que compila instâncias de IR aterradas em monitores de tempo de execução e os integra com agentes incorporados (especificamente políticas ACT em LabUtopia) para testar a redução de perigos e a preservação de tarefas.

Resultados Experimentais

Os autores avaliaram o LabGuard através de três estágios: aterramento, reprodução offline e execução em tempo real.

• Aterramento de Linguagem Laboratorial: Sob configurações de exclusão de fonte (testando a generalização para fontes de regras não vistas), o LabGuard-Hybrid (combinando aterramento aprendido com normalização baseada em regras) alcançou um F1 de escopo de tarefa de 79.4. Em configurações de exclusão de química (categorias químicas não vistas), atingiu 91.8 F1.
• Reprodução de Monitor Compilado: Em testes de estresse offline envolvendo 70 cenários inseguros, os monitores compilados a partir de regras aterradas pelo LabGuard-Hybrid alcançaram uma taxa de detecção de 58.6% e 69.5 F1, aproximando-se do limite oracle de rótulos de ouro (77.1% de detecção, 84.4 F1). Os resultados indicam que o roteamento preciso do escopo da tarefa e o vínculo de substâncias são críticos para a segurança subsequente, mesmo que a recuperação exata do predicado seja desafiadora.
• Execução em Tempo Real (LabUtopia): Integrado com políticas ACT no LabUtopia (Níveis 1–4):
  • Segurança: Eventos inseguros foram reduzidos de 39.5% para 23.8% após a compilação do monitor.
  • Sucesso da Tarefa: A camada de segurança preservou ou melhorou as taxas de sucesso das tarefas. Por exemplo, na tarefa "HeatLiquid", a taxa de sucesso aumentou de 33.3% (Base) para 46.7% (Full LabGuard).
  • Sobrecarga (Overhead): As taxas de intervenção permaneceram baixas (≤0.5%), indicando que o sistema não introduz bloqueios espúrios para ações seguras.
  • Ablação: O módulo "Action Filter" contribuiu mais para as melhorias na taxa de sucesso, enquanto as verificações semânticas e a pontuação de risco forneceram benefícios complementares.

Significância e Alegações

O artigo afirma que o LabGuard fornece um caminho auditável do conhecimento de segurança laboratorial legível por humanos para monitores executáveis. Ao separar o aterramento, a compilação e a execução, o sistema preenche a lacuna entre a linguagem natural e os loops de controle de robôs sem exigir o retreinamento da política base.

Os autores enfatizam que seu trabalho demonstra a viabilidade de conectar a linguagem natural laboratorial a monitores de tempo de execução em simulação. Eles declaram explicitamente que os resultados ainda não estabelecem a segurança laboratorial no mundo real, pois o implante físico exigiria validação contra a dinâmica real do robô, ruído de sensores e procedimentos institucionais. O trabalho é apresentado como um passo fundamental para uma segurança "representável, aprendível e executável" para agentes científicos incorporados.