Skip to main content
Guardrails de IA permitem que administradores Enterprise definam limites de segurança sobre como os usuários interagem com o Devin em toda a organização. Esses guardrails analisam automaticamente as mensagens recebidas dos usuários — incluindo mensagens iniciais, mensagens de acompanhamento e comentários em PR — para detectar prompt injection, tentativas de exfiltração de dados e violações de políticas antes que o Devin as processe.

​
Visão geral

Os guardrails funcionam como uma camada adicional de supervisão em mensagens enviadas para o Devin. Eles analisam mensagens de usuários em tempo real e podem:
  • Registrar mensagens suspeitas para revisão (log_only)
  • Avisar o usuário com um banner visível enquanto a mensagem ainda é processada (warn_user)
  • Bloquear mensagens que violem as políticas da organização (block_message)

​
Configurando Guardrails

Os Guardrails são configurados no nível Enterprise, em Configurações > Guardrails, por administradores com a permissão Gerenciar configurações Enterprise. A configuração de cada guardrail se aplica a todas as organizações do Enterprise — não é possível configurar guardrails por organização, e as configurações da organização não têm uma página própria de Guardrails. A página tem duas abas:
  • Guardrails — Os guardrails predefinidos, agrupados em categorias como Controles de dados e privacidade e Uso aceitável. Selecione um guardrail para ver sua descrição e exemplos de mensagens.
  • Violações — Um gráfico de violações ao longo do tempo e uma tabela de violações registradas, que podem ser filtradas por guardrail e por organização do Enterprise. Cada linha contém um link para a sessão de origem para investigação.
Cada guardrail tem um único menu suspenso que o ativa e define a ação tomada em caso de violação:
Encerrar uma sessão em caso de violação (kill_session) não é uma ação configurável. O valor ainda pode aparecer em violações históricas registradas quando essa ação era configurável.

​
Eventos de guardrail

Quando um guardrail é disparado, Devin registra o evento com detalhes, incluindo:
  • A mensagem do usuário que disparou o guardrail
  • A regra de guardrail que foi acionada
  • A ação executada (log_only, warn_user ou block_message)
  • Um link para a sessão em que o evento ocorreu
Os eventos de guardrail aparecem nos logs de auditoria com o tipo de ação ai_guardrail_violation, permitindo monitoramento e alerta automatizados. Você também pode recuperar eventos de guardrail de forma programática pela API de violações de guardrail.

​
Casos de uso

Configurações comuns de guardrails incluem:
  • Detecção de prompt injection — Identificar e bloquear mensagens de usuários que tentam substituir as instruções do Devin ou manipular seu comportamento
  • Prevenção de exfiltração de dados — Marcar ou bloquear mensagens que tentam instruir o Devin a enviar dados confidenciais para destinos não autorizados
  • Garantia de conformidade com políticas — Verificar solicitações de usuários para garantir que estejam alinhadas com as políticas organizacionais de segurança e uso
AI Guardrails é um recurso Enterprise. Entre em contato com a equipe da sua conta para saber mais sobre como ativar guardrails para sua organização.