仕組み
Devin が PR を作成した後、テストモード に入ることができます。これは、Devin が次のことを行う体系的なワークフローです。- 環境をセットアップする — 依存関係をインストールし、サービスを起動し、必要なアカウントにログインする
- テスト計画を立てる — 差分とコードベースを読み、最小限で焦点の定まったテスト計画を作成する
- 動画を記録する — 画面録画を開始し、デスクトップ上でテスト計画を実行し、重要なポイントに注釈を付ける
- 結果を送信する — 録画を停止し、動画を処理して、メッセージの添付ファイルとして送信する
テストの開始方法
PR を作成すると、Devin がアプリのテストを提案します。Test the app をクリックすると、Devin がテストワークフローを開始します。
ボタンをクリックしなくても PR 作成後に Devin がテストを実行するようにするには、Settings > Preferences で Pre-approve testing をオンにしてください。これにより、Devin は事前に承認を求めることなくアプリをテストします。
テストワークフロー
Devin がテストモードに入ると、明確に構造化された 3 つのフェーズから成るプロセスに従います。フェーズ 1: セットアップ
テストを始める前に、Devin が環境を準備します:- PR とコードベースを読んで、 何をテストする必要があるかを把握する
- リポジトリ内の (
.agents/skills/配下の) 関連するスキルを確認し、 見つかった場合はそれに従う - 必要なサービスにログインし、 アクセスに関する問題を解消する
- 利用可能な環境 (staging、dev、local) を確認し、 接続を確認する
- 必要に応じて 不足しているシークレットをあなたに依頼 — Devin は最初に認証情報を求め、今後のセッションのために保存する
フェーズ 2: テスト計画
セットアップが完了すると、Devin は短いテスト計画を作成します:- 機能が正しく動作することを証明する、最も重要なエンドツーエンドのフローを 1 つだけ特定する
- 具体的で、あいまいさのない手順を書く (例: 「右上にある『Save』と表示されたボタンをクリックする」— 「保存オプションを探す」ではない)
- 実際のコードに基づいて計画を立てる — フロントエンドをトレースして、その機能への正確な UI パスを見つける
- 本当に重要なエッジケースがある場合にのみ、追加のテストフローを加える
フェーズ3:録画と実行
CI がグリーンになり、レビューコメントへの対応が完了したら、Devin がテストを実行します。- 録画を開始 — 画面全体をキャプチャします
- 重要な瞬間に注釈を追加 — 重要なポイントにテキストラベル (例:「Testing login flow」「Feature confirmed working」) を追加し、最終的な動画に表示されます
- テスト計画を実行 — ブラウザを通じてアプリを操作し、各ステップに従って実行します
- 録画を停止 — 動画は重要な瞬間の注釈や速度調整を含めて自動的に処理されます
- 動画を送信 — 録画をメッセージに添付し、そのまま再生できるようにします
ビデオ録画の詳細
Devin の画面録画には、レビューに役立つ次のような機能があります。- 注釈 — 動画内の重要なタイミングでテキストラベルが表示され、Devin が何をテストしているかを示します。注釈が付いている箇所の前後では動画がスローになり、詳細を確認しやすくなります。
- 自動ズーム — Devin がクリックして操作している箇所へ自動的にズームし、カーソルを追従するようになめらかにパンし、アイドル状態のときには自然に引き戻します。
- 自動処理 — 元の録画を処理して重要な操作を強調し、アイドル時間を圧縮します。
- 添付ファイルとして送信 — 動画はセッション内のメッセージに添付され、Devin のウェブアプリまたは Slack から直接閲覧できます。
スキルの提案
アプリのテストが完了すると、Devin は試したことやうまくいったこと (セットアップ手順、環境設定、アプリの起動方法など) を書き出し、PR を通じて Skill を新規作成または更新することを提案します。PR はそのままマージしても、手順を洗練させるために内容を調整してからマージしてもかまいません。各セッションで得た知見が蓄積されていくため、時間がたつほど、Devin はあなたのプロジェクトのテストをよりうまく行えるようになります。 また、任意のタイミングで Devin にこれを行うよう指示することもできます (例: 「create a skill for how to test this app」) 。スキルの作成と管理の詳細については、Skills guide を参照してください。 以下はテスト用スキルの一例です:良い指示
- “チェックアウトフローをテストする:商品をカートに追加し、チェックアウトに進み、フォームに入力し、注文確認ページに正しい合計金額が表示されることを確認する”
- “設定ページのダークモード切り替えが機能することを検証する — テキストが読みやすく、要素が消えないこと”
- “CSV エクスポートで、正しいヘッダー付きのファイルがダウンロードされることをテストする”
あいまいな指示
- “全部テストする”
- “アプリがちゃんと動くことを確認する”
- “何も壊れていないことを確認する”

