ほとんどのAIオートメーションは、一度の不正出力で終わる。システムが致命的に失敗したからではない。誤ったアクションがレビューなしに送出され、誰かが気づき、信頼が崩壊したからだ。オートメーションは無効化される。チームは手動作業に戻る。
そのミスは修正可能だった。ゲートが存在しなかったことは修正できなかった。
3つのオートメーション状態——それぞれに属するもの
オートメーションを構築する前に、すべてのアクションタイプを3つの状態のいずれかに割り当てる。
完全自律。 システムはレビューなしに実行する。低リスク・高頻度・容易に取り消せるアクションに適している。例：レコードのタグ付け、フィールドの更新、イベントのログ記録。アクションが誤っていても、修正コストは低く、修正は迅速だ。
ゲート付き自律。 アクションはステージングされる。実行前に人間が承認する。速度が重要だがエラーが下流に影響する中リスクのアクションに適している。例：アウトバウンドメッセージの送信、ミーティングのスケジュール、CRM内の連絡先ステータスの更新。システムが作業を行い、人間が確認する。
ヒューマン・イン・ループ。 AIが下書きし、人間が送信する。誤った出力のコストが評判上または契約上の問題となる、高リスク・高コンテキストのアクションに適している。例：提案書、価格回答、法的確認。
ほとんどのチームはすべてに対して一つの状態をデフォルトにする。完全自動化して痛い目を見るか、すべてにヒューマン・イン・ループを維持してスループットが改善しない理由を不思議に思うかのどちらかだ。
正しい答えは意図的なマッピングだ：アクションタイプ → 状態。そのマップが信頼できるシステムの基盤となる。
承認ゲートパターン
ゲート自体は4つのコンポーネントで構成される。
1. ステージングされたアクション。 システムはアクションを準備するが実行しない。出力はキューに入る。まだ何も起きていない。
2. オペレーターへのコンパクトなサマリーのルーティング。 オペレーターは短くスキャン可能なサマリーを受け取る。完全な出力ではなく、ダイジェストだ。キューに入っているアクション、トリガーとなったもの、システムが実行しようとしていること。レビューに30秒以内で済むべきだ。
3. 時間制限付き承認ウィンドウ。 オペレーターは承認または拒否のための定義されたウィンドウを持つ。一般的なウィンドウはアクションタイプに応じて15分から4時間の範囲だ。ウィンドウは実行時ではなく設定時に決定される。
4. 期限切れ動作。 ウィンドウが応答なしに閉じた場合、システムは2つのうちいずれかを行う：セカンダリレビュアーへの自動エスカレーション、または次のレビューサイクルまでのアクションの自動保留。自動実行はしない。無応答は同意ではない。
このパターンは新しくない。決済処理業者が不正フラグを処理する方法だ。外科チームが術前チェックリストを処理する方法だ。準備とコミットメントを分離するから機能する。
ゲート付き自律が両方の代替案を上回る理由
運用上の計算を示す。
担当者がすべてのアウトバウンドメッセージを下書きして送信するヒューマン・イン・ループのワークフローは、1日に20件の連絡先を処理できるかもしれない。システムが下書きし、担当者がバッチで承認するゲート付き自律のワークフローは、同じ担当者で1日60件の連絡先を処理できる。これは3倍のスループット向上だ——担当者が速く働くからではなく、アクションあたりの認知負荷が下書きからレビューに下がるからだ。
完全自律は純粋なスループットで両方を上回る。しかし、誤ったメッセージを誤った連絡先に送信した最初の瞬間、チームはそれを無効化する。信頼コストは短期的には回復できない。1日20件の手動作業に戻る。
ゲート付き自律は無期限に1日60件を維持する——すべてのゲートイベントがログエントリだからだ。
その最後の点はスループット数値よりも重要だ。すべての承認、すべての拒否、すべての期限切れは構造化されたレコードだ。監査できる。システムがどこでなぜ間違っているかを確認できる。モデル、プロンプト、またはトリガー条件を調整できる。ゲートは単なる安全機構ではない。フィードバックループだ。
完全自律は何かが壊れるまでフィードバックを与えない。ヒューマン・イン・ループはフィードバックを与えるが、個々の担当者の行動に埋もれる。ゲート付き自律はそれを体系的に表面化する。
過剰設計せずに実装する方法
一つのアクションタイプから始める。現在ヒューマン・イン・ループだが、もっと速くできるはずだと感じているものを選ぶ。そのアクションに対して4つのゲートコンポーネントをマッピングする。2週間実行する。ログをレビューする。
3つのうちいずれかを発見するだろう：システムが十分な頻度で正しいのでウィンドウを広げられる、システムが修正可能なパターンで間違っている、またはそのアクションタイプは結局完全自律に属する。
その2週間のサイクルが信頼構築の単位だ。華やかではない。何ヶ月も問題なく静かに動作するシステムに到達する方法だ。
DK1.AIでは、First Lead Inboxプロダクトがインバウンドリード処理にこのパターンを使用している。アクションはステージングされ、要約され、アウトバウンド応答が送出される前に承認のためにルーティングされる。ゲートログにより、オペレーターは推測なしに時間をかけて応答動作を調整できる。
オートメーションを構築していて、どこにゲートを置くべきか悩んでいるなら、それはまさに短い会話に値する運用上の質問だ。