AIに“30%で止まれ”は通じない、利用量を測る現場が見つけたエージェントの盲点

AIエージェントに仕事を任せる場面が増えるなか、あらためて問われているのが「AIはどこまで自分をコントロールできるのか」という問いだ。noteでAI活用の連載を続ける下北沢のライブハウス経営者は、AIに「30%で止まれ」と指示しても、そもそもAIには「30%」が見えていなかったという気づきを最新回で綴った。日常業務でAIを使い続けながら利用量を数字として測ってきた現場からの報告は、エージェント活用が身近になった今、多くのユーザーに共通する論点を浮き彫りにしている。

利用量を実測して見えた「クセ」

連載を続けているのは、2度のメジャーデビューを経て現在は下北沢のライブハウス「Music Island O」を経営するドラマー兼エンジニアだ。音楽制作とライブハウス運営の現場にAIを組み込みながら、その過程を「AI編」と題する連載で公開している。便利さの紹介に留まらず、利用量を計測し続けている点に特徴がある。

前回の回で報告されたのは、「大仕事ほど高い」とは限らない、という実測の結果だ。依頼内容の規模と利用量は必ずしも比例しない。大きな仕事ほど多く消費する、という素朴な想像とは異なる挙動が、日々の計測から見えてきたという。

利用量の大小は、タスクの見かけの大きさだけで決まらない。やり取りの回数、指示の出し直し、文脈の長さなど、複数の要因が重なって変動する。一見小さな作業でも、やり直しを重ねれば消費は膨らむ。逆に大きな仕事でも、指示が一度で通ればまとまった処理で済む。この感覚は、利用上限が話題になるサブスクリプション型のAIサービスを日常的に使う人ほど切実なものになる。

「30%で止まれ」と命令した結果

そして最新回のテーマは、利用量の制御そのものだ。「30%で止まれ」とAIに命令したところ、そもそもAIには「30%」が見えていなかった。見出しの言葉を借りるなら、そういう結末だった。

指示を出した人間の側には、予算全体と現在の消費という二つの数字がある。ところがAIの側には、そのどちらも自動的には渡ってこない。「30%で止まれ」という言葉だけを受け取ったAIにとって、「30%」は実体のない記号にすぎない。命令は通じたように見えて、判断材料が最初から揃っていなかったことになる。

この気づきは軽視できない。自律的に動くエージェントに「予算の3割を使ったら止まって」と頼むのは、一見もっともらしい運用に思える。だがその指示が成立するには、AI自身が自分の消費をリアルタイムに把握している必要があり、現状の生成AIにはその仕組みが備わっていない。

なぜAIは自分の利用量を知らないのか

仕組みを整理すれば、理由は単純だ。生成AIのモデルが受け取れるのは、プロンプトとして与えられたテキストの範囲だけである。利用量や課金の数字は、サービス側の管理画面やAPIの応答に記録される情報であって、モデルの会話の中へ自動で差し込まれるものではない。

つまり、利用量をAIに知らせるには、人間が数字をコピーして文脈に貼り付けるしかない。貼られた時点の数値は参照できても、その後の消費をモデルが自力で数え続けることはできない。割合の指示は「全体量」と「現在値」が揃って初めて意味を持つが、この二つは通常、AIの手元にない。

利用上限の管理は、むしろプラットフォーム側の仕事として実装されている。主要なAIサービスでは契約プランごとに利用枠が設けられ、上限に近づくとサービス側が通知や制限を行う。モデルが「そろそろ止めよう」と自覚して節制するのではなく、システムが外側から流量を抑える設計だ。裏を返せば、モデル自身のセルフコントロールに期待できないことの裏付けでもある。

言葉の指示から仕組みのガードレールへ

連載が示しているのは、AIの制御を「言葉」で解決しようとする場合の限界だ。人間の部下なら「予算の3割で止めて」と伝えれば、相手は自分の残高を見て判断できる。AIにはその自己観測にあたる器官がない。だから利用の制御は、指示文の工夫ではなく仕組みの側に用意する必要がある。

現実的なのは、利用量を測るのは人間の側だと割り切る運用だ。管理画面で消費を確認し、節目で数字をAIの文脈に貼って「残りはこれだけ」と伝える。あるいは予算の枠をサービス側の設定で管理し、AIにはその範囲内の仕事だけを依頼する。エージェントに自律性を持たせるほど、外側のガードレールの重要性は増していく。

たとえば長めの資料づくりをエージェントに任せる場合、途中で利用量を確認するタイミングを人間側で設け、必要に応じてその時点の数字を文脈に渡して方針を修正する。消費の偏りがタスクの進め方次第で動く以上、数字を見ながら運用を調整する役割は人間に残るというわけだ。

個人現場に根づき始めた「AI原価」の視点

「大仕事ほど高いとは限らない」と「30%は見えていない」。一見別の発見に見えるこの二つは、同じ根っこから生えている。利用量はタスクの見た目ではなく運用の実態で決まること、そしてその実態をAI自身は知り得ないこと。計測できるのは使う側の人間だけだ、という当たり前の帰結だ。

こうした実測と検証を、大企業のDX部門ではなく一人の個人事業主が続けている点も、この連載を特徴づけている。ライブハウスという小規模な現場では、AIの利用料も光熱費と同じく経費の一部であり、感覚ではなく数字で捉える必然性が最初からある。

生成AIの利用形態は、月額固定のサブスクリプションから従量性の強いAPI利用まで幅が広い。そのいずれを選んでも、便利さの体感と原価の実感の間にあるズレを埋める作業は地道で、続けるのが難しい。それでも計測を続けることでしか見えない事実があることを、この連載は回を重ねるごとに示してきた。AIに何を頼むかと同じくらい、AIに何が見えているのかを知ること。エージェント活用が身近になった今、地味だが確かな知見として残る現場からの報告だ。