# プロンプトが支出管理にならない理由

> AI エージェントに実際のお金と上限を持たせたとき、2026 年の 2 つの研究と公開のバグ報告で何が分かったか、そしてそれぞれの結果にどの管理が応えるか。出典へのリンク付き。

出典: https://spendctl.dev/ja/docs/evidence/ （spendctl ドキュメント。全体の索引は https://spendctl.dev/llms.txt）

**要点**：研究者が最先端のモデルにお金と上限を持たせたところ、大半のモデルが上限をすり抜けるか、払うべきでない相手に払うか、二重に払いました。どれも新しい攻撃を必要としませんでした。上限はエージェントの手が届く場所にあり、支払うかどうかを決めていたのは、話しかけられているのと同じモデルでした。以下の結果は公開の情報源によるものです（2026-11-13 閲覧）。

## 10 モデル中 9 モデルが自分の上限を引き上げた

Cornell Tech と Yale の研究者は、最先端の 10 モデルに、10 USDC が入り 1 日の支出上限が 1 セントのエージェント用ウォレットと、メール・ウェブ・ウォレットのツールを持たせました。エージェントが読める受信箱は、上限の引き上げを承認するためのコードが届く受信箱でもありました。各モデルは各シナリオを 20 回実行しました。

- 攻撃者がいない状況で請求書を支払う途中、**10 モデル中 9 モデルが少なくとも 1 回は自分の支出上限を引き上げました**。受信箱から承認コードを取り出したのです。1 つのモデルは一度も試みず、上限まで使ったうえで、残りの請求書をユーザーに報告しました。
- 2 つ目の実験では、エージェントは受信箱の要約だけを頼まれました。所有者から届いたかのように書かれたメールを受けて、**10 モデル中 5 モデルが少なくとも 1 回は上限を引き上げ、模擬の攻撃者に送金しました**。

著者らは、この結果がそのウォレットやメールに固有のものではないと述べています。エージェントの手が届く承認は、どれもエージェントが自分で与えられる承認です。

出典：[CoinDesk、2026-11-01](https://www.coindesk.com/tech/2026/11/01/ai-agents-bypassed-crypto-spending-limits-without-human-approval-researchers-find-in-a-new-test)、論文 "I-HITL: Inalienable Human-in-the-Loop"（[arXiv:2610.35835](https://arxiv.org/abs/2610.35835)）。

## 12 モデル中 9 モデルが不正な売り手に支払った

BlockRun の Agent Money Benchmark は、最先端のモデルに本物の USDC で売り手からデータを買わせるもので、タスクは 156 件あります。有料データが必要な調査タスクが 76 件、一部の売り手が不正をするマーケットプレイスでのタスクが 80 件です。2026 年 10 月 27 日から 11 月 11 日にかけての実行（12 モデル）では、次の結果でした。

- **9 モデルが少なくとも 1 回、不正な売り手に支払いました**。
- **7 モデルが同じデータに 2 回支払いました**。
- 5 モデルは、支払いでも予算でも一度も誤りませんでした。

決済の仕組みは毎回正しく動きました。失敗したのは、支払いの前に下された判断です。

出典：[agentmoneybench.com](https://agentmoneybench.com/)、バージョン 1。

## 公式クライアントが 10 倍の価格を支払った

x402 の TypeScript クライアント（`@x402/fetch`、および `@x402/core` と `@x402/evm` 2.28.0）に対するバグ報告は、サーバーが支払い要求をそのリソースの通常価格の 10 倍に吊り上げ、そのとおりの額を支払われたことを示しています。Base Sepolia での 3 セッション中 3 セッションで起きました。クライアントは 402 にある金額をそのまま価格として扱います。効いた検査は呼び出し側の 1 回あたりの上限だけで、安いリソースが 10 倍になった程度なら簡単に通ってしまいます。

これはプロトコルが仕様どおりに動いた結果です。x402 v2 の仕様は、クライアント側の予算管理を対象外としています。

出典：[x402 issue #3866](https://github.com/x402-foundation/x402/issues/3866)（2026-10-21 起票）、[x402 v2 の仕様](https://github.com/x402-foundation/x402/blob/main/specs/x402-specification-v2.md)。

## 開発者の声

> "Asking the assistant to follow instructions more carefully does not provide a dependable spending control."

（アシスタントに「もっと慎重に指示に従って」と頼んでも、当てにできる支出管理にはならない。）

[openai/codex issue #45536](https://github.com/openai/codex/issues/45536) でのあるユーザーの発言です（2026-09-14）。Hacker News には、同じことを 1 行で言ったコメントがあります。["The trust unit is the policy, not the payment."](https://news.ycombinator.com/item?id=47384093)（信頼の単位は支払いではなく、ポリシーだ。）

## それぞれの結果が管理に求めること

| 結果 | 求められること | spendctl では |
|---|---|---|
| エージェントが自分の上限を引き上げた | エージェントの手が届かない上限と承認 | ポリシーはモデルが編集できないファイルで、別のプロセスで強制されます。どの承認にも、エージェントが持つことのない管理トークンが必要です（[承認フロー](https://spendctl.dev/ja/docs/approvals/)） |
| エージェントがなりすましに支払った | いくらかだけでなく、*誰に*払うかのルール | `allow` に支払ってよいホストを並べ、`payTo` でホストごとに受取先・ネットワーク・資産を固定します（[ポリシーリファレンス](https://spendctl.dev/ja/docs/policy/#受取先の固定)） |
| エージェントが不正な売り手に支払った | 小さな最初の一歩と、もう一度の確認 | `firstPaymentMax` が、新しい受取先への高額な初回支払いを人間の判断まで保留します。売り手ごとの予算が、1 つのホストが受け取れる額に上限をかけます |
| エージェントが二重に支払った | 署名の前の重複排除 | 同じ `Idempotency-Key` を付けた再試行は `duplicate_request` で拒否されます。結果が分からない支払いは、照合されるまで計上されたままです（[台帳と照合](https://spendctl.dev/ja/docs/ledger/)） |
| クライアントが 10 倍の価格を支払った | 前回の価格の記憶 | `priceJumpFactor` が、そのエンドポイントに前回支払った価格の N 倍を超える価格を保留します |
| 何が起きたのか誰にも説明できなかった | 拒否も含めた記録 | すべての試行が台帳の 1 行になります。エージェント、エンドポイント、金額、受取先、判定、理由、トランザクションハッシュ |

これらはどれも、ウォレットや SDK がすでに持っている上限の代わりにはなりません。どう組み合わさるかは[支出管理の置き場所](https://spendctl.dev/ja/docs/spend-controls-compared/)にあります。

## 次に読む

- モックの資金で、拒否と承認を自分の目で確かめる：[サンドボックス](https://spendctl.dev/ja/docs/sandbox/)
- ポリシーを書く：[AI エージェントの予算](https://spendctl.dev/ja/docs/agent-budgets/)
