Skip to main content
AI Guardrails を使用すると、Enterprise の管理者は、組織全体でユーザーが Devin とどのようにやり取りするかについて、安全上の境界を定義できます。ガードレールは、最初のメッセージ、フォローアップメッセージ、PR コメントを含む受信したユーザーメッセージを自動的に検査し、Devin が処理する前にプロンプトインジェクション、データ流出の試み、およびポリシー違反を検出します。

​
概要

ガードレールは、Devin に送信されるメッセージに対する追加の監視レイヤーとして機能します。ユーザーメッセージをリアルタイムで分析し、次のことができます。
  • 不審なメッセージをレビュー用に記録する (log_only)
  • メッセージの処理は継続しつつ、表示バナーでユーザーに警告する (warn_user)
  • 組織のポリシーに違反するメッセージをブロックする (block_message)

​
ガードレールの設定

ガードレールは、Enterprise settings の管理権限を持つ管理者が、Settings > Guardrails でEnterpriseレベルに設定します。各ガードレールの設定は、Enterprise内のすべての組織に適用されます。組織ごとにガードレールを設定することはできず、組織設定に専用のGuardrailsページはありません。 このページには2つのタブがあります。
  • Guardrails — データ管理とプライバシーや適正利用などのカテゴリに分類された、あらかじめ設定されたガードレールです。ガードレールを選択すると、説明とメッセージ例を確認できます。
  • Violations — 時系列の違反チャートと、記録された違反の表が表示されます。ガードレールおよびEnterprise内の組織で絞り込めます。各行から、調査のために元のセッションに戻ることができます。
各ガードレールには、有効化と違反時の対応の設定を兼ねるドロップダウンが1つあります。
違反時にセッションを終了する (kill_session) ことは、設定可能なアクションではありません。この値は、設定可能だった期間に記録された過去の違反に表示される場合があります。

​
ガードレールイベント

ガードレールがトリガーされると、Devin は次の内容を含むイベントを記録します。
  • ガードレールをトリガーしたユーザーメッセージ
  • 一致したガードレールルール
  • 実行されたアクション (log_only、warn_user、block_message のいずれか)
  • イベントが発生したセッションへのリンク
ガードレールイベントは、ai_guardrail_violation アクション種別として 監査ログ に表示され、自動監視やアラート通知を自動化できます。guardrail violations API を通じて、ガードレールイベントをプログラムから取得することもできます。

​
ユースケース

一般的なガードレール設定には、次のようなものがあります。
  • プロンプトインジェクションの検出 — Devin の指示を上書きしたり、その挙動を操作しようとするユーザーメッセージを特定してブロックする
  • データ持ち出しの防止 — Devin に対して機密データを許可されていない送信先に送るよう指示しようとするユーザーメッセージを検知し、フラグ付けまたはブロックする
  • ポリシー遵守の徹底 — ユーザーリクエストをスクリーニングし、組織のセキュリティおよび利用ポリシーに沿っていることを確認する
AI Guardrails は Enterprise 向け機能です。組織でガードレールを有効化する方法については、アカウントチームまでお問い合わせください。