AI Guardrails

AI Guardrails を使用すると、Enterprise の管理者は、組織全体でユーザーが Devin とどのようにやり取りするかについて、安全上の境界を定義できます。ガードレールは、最初のメッセージ、フォローアップメッセージ、PR コメントを含む受信したユーザーメッセージを自動的に検査し、Devin が処理する前にプロンプトインジェクション、データ流出の試み、およびポリシー違反を検出します。

​

概要

ガードレールは、Devin に送信されるメッセージに対する追加の監視レイヤーとして機能します。ユーザーメッセージをリアルタイムで分析し、次のことができます。

• 不審なメッセージをレビュー用に記録する (log_only)
• メッセージの処理は継続しつつ、表示バナーでユーザーに警告する (warn_user)
• 組織のポリシーに違反するメッセージをブロックする (block_message)

​

ガードレールの設定

ガードレールは、Enterprise settings の管理権限を持つ管理者が、Settings > Guardrails でEnterpriseレベルに設定します。各ガードレールの設定は、Enterprise内のすべての組織に適用されます。組織ごとにガードレールを設定することはできず、組織設定に専用のGuardrailsページはありません。 このページには2つのタブがあります。

• Guardrails — データ管理とプライバシーや適正利用などのカテゴリに分類された、あらかじめ設定されたガードレールです。ガードレールを選択すると、説明とメッセージ例を確認できます。
• Violations — 時系列の違反チャートと、記録された違反の表が表示されます。ガードレールおよびEnterprise内の組織で絞り込めます。各行から、調査のために元のセッションに戻ることができます。

各ガードレールには、有効化と違反時の対応の設定を兼ねるドロップダウンが1つあります。

​

ガードレールイベント

ガードレールがトリガーされると、Devin は次の内容を含むイベントを記録します。

• ガードレールをトリガーしたユーザーメッセージ
• 一致したガードレールルール
• 実行されたアクション (log_only、warn_user、block_message のいずれか)
• イベントが発生したセッションへのリンク

ガードレールイベントは、ai_guardrail_violation アクション種別として 監査ログ に表示され、自動監視やアラート通知を自動化できます。guardrail violations API を通じて、ガードレールイベントをプログラムから取得することもできます。

​

ユースケース

一般的なガードレール設定には、次のようなものがあります。

• プロンプトインジェクションの検出 — Devin の指示を上書きしたり、その挙動を操作しようとするユーザーメッセージを特定してブロックする
• データ持ち出しの防止 — Devin に対して機密データを許可されていない送信先に送るよう指示しようとするユーザーメッセージを検知し、フラグ付けまたはブロックする
• ポリシー遵守の徹底 — ユーザーリクエストをスクリーニングし、組織のセキュリティおよび利用ポリシーに沿っていることを確認する