Skip to main content
Le AI Guardrails consentono agli amministratori Enterprise di definire i limiti di sicurezza relativi alle modalità con cui gli utenti interagiscono con Devin all’interno dell’organizzazione. Le barriere filtrano automaticamente i messaggi in arrivo degli utenti — inclusi messaggi iniziali, messaggi di follow-up e commenti alle pull request (PR) — per rilevare prompt injection, tentativi di esfiltrazione di dati e violazioni delle policy prima che Devin li elabori.

​
Panoramica

Le barriere di sicurezza costituiscono un ulteriore livello di supervisione sui messaggi inviati a Devin. Analizzano i messaggi degli utenti in tempo reale e possono:
  • Registrare nei log i messaggi sospetti per una revisione (log_only)
  • Avvisare l’utente con un banner visibile continuando comunque a elaborare il messaggio (warn_user)
  • Bloccare i messaggi che violano le policy dell’organizzazione (block_message)

​
Configurazione delle barriere di sicurezza

Le barriere di sicurezza vengono configurate a livello Enterprise, in Settings > Guardrails, dagli amministratori con l’autorizzazione Manage enterprise settings. L’impostazione di ogni barriera di sicurezza si applica a tutte le organizzazioni dell’Enterprise: non è possibile configurare le barriere di sicurezza per singola organizzazione e le Settings dell’organizzazione non dispongono di una propria pagina Guardrails. La pagina contiene due schede:
  • Guardrails — Le barriere di sicurezza predefinite, raggruppate in categorie quali Controlli dei dati e privacy e Uso accettabile. Seleziona una barriera di sicurezza per visualizzarne la descrizione e i messaggi di esempio.
  • Violazioni — Un grafico delle violazioni nel tempo e una tabella delle violazioni registrate, filtrabili per barriera di sicurezza e organizzazione nell’Enterprise. Ogni riga rimanda alla sessione di origine per consentire ulteriori indagini.
Ogni barriera di sicurezza dispone di un unico menu a discesa che la abilita e imposta l’azione da eseguire in caso di violazione:
Terminare una sessione in caso di violazione (kill_session) non è un’azione configurabile. Il valore può comunque comparire nelle violazioni storiche registrate quando era configurabile.

​
Eventi delle barriere di sicurezza

Quando una barriera di sicurezza viene attivata, Devin registra l’evento includendo i seguenti dettagli:
  • Il messaggio dell’utente che ha attivato la barriera di sicurezza
  • La regola della barriera di sicurezza che è stata applicata
  • L’azione intrapresa (log_only, warn_user o block_message)
  • Un collegamento alla sessione in cui si è verificato l’evento
Gli eventi delle barriere di sicurezza compaiono nei log di audit con il tipo di azione ai_guardrail_violation, consentendo il monitoraggio e l’invio di avvisi automatici. Puoi anche recuperare gli eventi delle barriere di sicurezza a livello di codice tramite l’API delle violazioni delle barriere di sicurezza.

​
Casi d’uso

Le configurazioni dei guardrail più comuni includono:
  • Rilevamento di prompt injection — Identificare e bloccare i messaggi degli utenti che tentano di sovrascrivere le istruzioni di Devin o di manipolarne il comportamento
  • Prevenzione dell’esfiltrazione di dati — Segnalare o bloccare i messaggi che tentano di istruire Devin a inviare dati sensibili a destinazioni non autorizzate
  • Garantire la conformità alle policy — Analizzare le richieste degli utenti per assicurarsi che siano allineate alle policy di sicurezza e di utilizzo dell’organizzazione
AI Guardrails è una funzionalità Enterprise. Contatta il tuo team di account per saperne di più su come abilitare i guardrail per la tua organizzazione.