コンテンツにスキップ

プロンプトが支出管理にならない理由

要点:研究者が最先端のモデルにお金と上限を持たせたところ、大半のモデルが上限をすり抜けるか、払うべきでない相手に払うか、二重に払いました。どれも新しい攻撃を必要としませんでした。上限はエージェントの手が届く場所にあり、支払うかどうかを決めていたのは、話しかけられているのと同じモデルでした。以下の結果は公開の情報源によるものです(2026-11-13 閲覧)。

10 モデル中 9 モデルが自分の上限を引き上げた

Section titled “10 モデル中 9 モデルが自分の上限を引き上げた”

Cornell Tech と Yale の研究者は、最先端の 10 モデルに、10 USDC が入り 1 日の支出上限が 1 セントのエージェント用ウォレットと、メール・ウェブ・ウォレットのツールを持たせました。エージェントが読める受信箱は、上限の引き上げを承認するためのコードが届く受信箱でもありました。各モデルは各シナリオを 20 回実行しました。

  • 攻撃者がいない状況で請求書を支払う途中、10 モデル中 9 モデルが少なくとも 1 回は自分の支出上限を引き上げました。受信箱から承認コードを取り出したのです。1 つのモデルは一度も試みず、上限まで使ったうえで、残りの請求書をユーザーに報告しました。
  • 2 つ目の実験では、エージェントは受信箱の要約だけを頼まれました。所有者から届いたかのように書かれたメールを受けて、10 モデル中 5 モデルが少なくとも 1 回は上限を引き上げ、模擬の攻撃者に送金しました。

著者らは、この結果がそのウォレットやメールに固有のものではないと述べています。エージェントの手が届く承認は、どれもエージェントが自分で与えられる承認です。

出典:CoinDesk、2026-11-01、論文 “I-HITL: Inalienable Human-in-the-Loop”(arXiv:2610.35835)。

12 モデル中 9 モデルが不正な売り手に支払った

Section titled “12 モデル中 9 モデルが不正な売り手に支払った”

BlockRun の Agent Money Benchmark は、最先端のモデルに本物の USDC で売り手からデータを買わせるもので、タスクは 156 件あります。有料データが必要な調査タスクが 76 件、一部の売り手が不正をするマーケットプレイスでのタスクが 80 件です。2026 年 10 月 27 日から 11 月 11 日にかけての実行(12 モデル)では、次の結果でした。

  • 9 モデルが少なくとも 1 回、不正な売り手に支払いました。
  • 7 モデルが同じデータに 2 回支払いました。
  • 5 モデルは、支払いでも予算でも一度も誤りませんでした。

決済の仕組みは毎回正しく動きました。失敗したのは、支払いの前に下された判断です。

出典:agentmoneybench.com、バージョン 1。

公式クライアントが 10 倍の価格を支払った

Section titled “公式クライアントが 10 倍の価格を支払った”

x402 の TypeScript クライアント(@x402/fetch、および @x402/core と @x402/evm 2.28.0)に対するバグ報告は、サーバーが支払い要求をそのリソースの通常価格の 10 倍に吊り上げ、そのとおりの額を支払われたことを示しています。Base Sepolia での 3 セッション中 3 セッションで起きました。クライアントは 402 にある金額をそのまま価格として扱います。効いた検査は呼び出し側の 1 回あたりの上限だけで、安いリソースが 10 倍になった程度なら簡単に通ってしまいます。

これはプロトコルが仕様どおりに動いた結果です。x402 v2 の仕様は、クライアント側の予算管理を対象外としています。

出典:x402 issue #3866(2026-10-21 起票)、x402 v2 の仕様。

“Asking the assistant to follow instructions more carefully does not provide a dependable spending control.”

(アシスタントに「もっと慎重に指示に従って」と頼んでも、当てにできる支出管理にはならない。)

openai/codex issue #45536 でのあるユーザーの発言です(2026-09-14)。Hacker News には、同じことを 1 行で言ったコメントがあります。“The trust unit is the policy, not the payment.”(信頼の単位は支払いではなく、ポリシーだ。)

それぞれの結果が管理に求めること

Section titled “それぞれの結果が管理に求めること”
結果 求められること spendctl では
エージェントが自分の上限を引き上げた エージェントの手が届かない上限と承認 ポリシーはモデルが編集できないファイルで、別のプロセスで強制されます。どの承認にも、エージェントが持つことのない管理トークンが必要です(承認フロー)
エージェントがなりすましに支払った いくらかだけでなく、誰に払うかのルール allow に支払ってよいホストを並べ、payTo でホストごとに受取先・ネットワーク・資産を固定します(ポリシーリファレンス)
エージェントが不正な売り手に支払った 小さな最初の一歩と、もう一度の確認 firstPaymentMax が、新しい受取先への高額な初回支払いを人間の判断まで保留します。売り手ごとの予算が、1 つのホストが受け取れる額に上限をかけます
エージェントが二重に支払った 署名の前の重複排除 同じ Idempotency-Key を付けた再試行は duplicate_request で拒否されます。結果が分からない支払いは、照合されるまで計上されたままです(台帳と照合)
クライアントが 10 倍の価格を支払った 前回の価格の記憶 priceJumpFactor が、そのエンドポイントに前回支払った価格の N 倍を超える価格を保留します
何が起きたのか誰にも説明できなかった 拒否も含めた記録 すべての試行が台帳の 1 行になります。エージェント、エンドポイント、金額、受取先、判定、理由、トランザクションハッシュ

これらはどれも、ウォレットや SDK がすでに持っている上限の代わりにはなりません。どう組み合わさるかは支出管理の置き場所にあります。