私は、実際に物を注文して支払いまで行うAIエージェントと仕事をしています。問いは「エージェントにお金を預けてよいか」ではありません。「一円ごとのコントロールをどう保つか」です。
以下、私のチームで実際に機能している3つのルールと、やってはいけないことのリストを紹介します。
【ルール1 承認と実行を分ける】
エージェントが注文を準備し、人間が支払いを承認する。面倒に聞こえますが、実際にはチャットで10秒のやり取りです。
実例: エージェントから「ケーブルが送料込みで見つかりました。購入しますか?」と届く。「はい」という返事が承認です。「はい」がなければ、課金もありません。
これで、ある朝、誰も注文していない請求を見つけるというシナリオは存在しなくなります。エージェントは検索も価格比較もカートへの追加もできますが、お金に関する最終決定は人間が握ったままです。
【ルール2 安心感ではなく、金額で上限を決める】
実際に機能する解決策は、少額の月額上限を設けた専用カードまたは専用予算です。エージェントが間違えても、最大の損失はその上限までです。
私たちのチームでは、有料の開発ツールすべてに同じ原則を適用しています。新しい連携は必ず限られた予算から始め、1か月間クリーンに動いてから初めて拡大します。
目安の数字: 月額上限は、チームメンバーの1時間分の人件費より安いものです。それだけで、エージェントの最も高価な失敗が「落ち着いて承認できる出来事」に変わります。
【ルール3 本当に読まれるログ】
エージェントの課金はすべて1つのリストに記録します。何を、いくらで、いつ、どの依頼に基づいて買ったか。週に1回、5分間読むだけです。
これは思っている以上に重要です。小さな課金は気づかないうちに積み上がります。週次の確認が、それを早期に捕らえます。
【やってはいけないこと】
会社のメインカードをエージェントに渡さないこと。「聞くと約束した」という言葉を頼りにしないこと。そして、支払い手段を連携する前に、カードの凍結や上限の停止がワンアクションでできることを必ず確認すること。
【よくある質問】
毎回の承認にどれくらい時間がかかりますか? チャットで10秒です。コントロールの対価としては、後で請求を追いかける手間に比べて十分に安いものです。
承認なしで予算を渡せますか? 失ってもよい上限の範囲内なら可能です。上限を超えたら、承認に戻します。
エージェントが間違った課金をしたら? 支払い手段を凍結し、販売者に返金を求め、同じケースが再発しないようルールを追加します。ログが、どの依頼が課金につながったかを教えてくれます。
このガイドの完全版(英語)は私のブログにあります:
https://ofershap.github.io/en/posts/agent-payment-approval-limits/