トークンが安くなるにつれて価値が高まるもの

最高情報責任者（CIO）とAIについて話すと、遅かれ早かれ必ずコストの話になります。企業全体でエージェントを運用するにはどれくらいの費用がかかるのか？数百、数千と増えていくと、予算はどうなるのか？これはもっともな疑問であり、現時点で自信を持って答えられる人はいないと思います。

知能の価格は急速に下落しています。トークンは数年以内にほぼ無料になると考える人もいますが、それは正しいかもしれません。しかし、価格曲線を確信を持って提示する人は、たとえチャートがどれほど自信に満ちたものに見えても、あくまで推測に過ぎません。

そこで、今日からでも取り組める別の質問を提案したいと思います。もしインテリジェンスが安価になったとしたら、何が高価なまま残るのでしょうか？そこにこそ、優位性が生まれるのです。そして、価格曲線がどちらの方向に傾こうとも、今行う投資が必ず報われるのも、まさにこの点です。

安価な電力では工場は改善しなかった

工場が初めて電化されたとき、多くの工場は蒸気機関があった場所に大型の電気モーターを設置しただけでした。電力は安価でクリーンになったものの、動力源は依然として同じシャフトとベルトで、同じフロアを流れていたため、生産性はほとんど向上しませんでした。真の成果は、工場が新しい動力源に合わせて再設計された後に得られました。つまり、各機械にモーターが設置され、駆動軸の配置ではなく、動力の流れに基づいて作業が計画されるようになってからです。

エンタープライズAIは、まだ初期段階にあります。多くの組織は、従来のプロセスがあった場所に、より安価でスマートなモデルを導入し、その周辺、つまり夜間処理パイプライン、コピーのコピー、誰かが開くのを覚えておかなければならないダッシュボードなどはそのままにしています。このような構成では、安価なモデルでは安価な回答しか得られません。より良い回答が得られるわけではありません。

トークン価格の下落は、ビジネスモデルの経済性を変えますが、ビジネスの物理的側面を変えるわけではありません。どれほど安価な情報が得られるようになったとしても、時間、正確性、一貫性、そして信頼という4つの要素は依然として希少なままです。

時間：ビジネスが時計を合わせる

ビジネスにおけるあらゆる意思決定には時間制限があり、モデルがそれを設定するわけではありません。カード認証にはほんの一瞬しかありません。電話中の顧客は我慢の限界に達するまで数秒しか猶予を与えてくれませんし、補充注文にも締め切りがあります。自由推論によって、これらの時間制限が長くなることはありません。

ウィンドウ内で主に行われているのは、思考ではなく、移動作業です。スキーマの取得、あるシステムへのクエリ、別のシステムでの回答の確認、ほぼ一致する顧客IDの照合などです。トークンが安価になれば、これらの各ステップのコストは下がりますが、時間は短縮されません。また、エージェント同士が手作業で連携する場合、待ち時間が積み重なり、あるステップでは些細に見える遅延が、10ステップにわたってウィンドウ全体を消費してしまう可能性があります。

重要なのは、モデルの応答速度ではなく、ビジネスで何らかの事象が発生してから、それを反映したアクションが実行されるまでの時間です。その時間は、モデル契約ではなく、データアーキテクチャの中に存在します。

正確性: 安価な回答が増幅される

価格が下がれば、人々はそれをより多く利用するようになります。データに対する質問にほとんどコストがかからなければ、質問の回数は大幅に増え、エージェントの実行回数も増え、エージェントの稼働回数も増えるでしょう。それが重要な点です。同時に、あらゆるエラーの原因がデータ量に応じて増幅されることも意味します。

4時間前のデータに基づいて推論するモデルや、CFOが承認しないような収益の定義に基づいて推論するモデルは、無料だからといって問題を解決するわけではありません。より安価に誤った推論を行うことができ、使用頻度が高くなるにつれて、誤りの頻度も高くなります。より高度なモデルは、古い回答をより説得力のあるものにすることはできますが、最新の情報にすることはできません。

正確さは文脈から生まれます。つまり、適切な定義、適切な関係性、そしてビジネスの現状です。これらはデータの特性であり、モデルの価格を下げたところで得られるものではありません。

一貫性：多数のエージェント、単一のビジネスバージョン

安価な情報システムを使えば、何百ものエージェントがあなたの社員と連携して、同じ顧客、注文、アカウントを担当してくれます。あるエージェントが在庫を確保している間に、別のエージェントが注文の価格を設定します。サービス担当者は、エージェントが先ほどアカウントを更新した顧客と話しています。

それは、全員が同時に同じバージョンのビジネス情報を見ている場合にのみ有効です。エージェントが他のエージェントが書いた内容を確認できなかったり、ある人が一方の数字を見ている間にエージェントが別の数字に基づいて行動したりした場合、少し古い回答が得られるどころか、互いに矛盾する2つの行動が、どちらも完全に自信を持って実行されることになります。

信頼：注意力こそが真の予算である

行動コストが下がると、組織内で最も希少な資源は人間の注意力となります。1000のエージェントが行うすべての決定を誰かが検証することは不可能です。したがって、信頼は事後的に検証するのではなく、設計段階から組み込む必要があります。

信頼は、いくつかの単純な疑問に集約されます。このエージェントは、見たものや行ったことを許可されていたのか？その決定はどのようなデータに基づいていたのか？誰が、あるいは何がこの記録を変更したのか？そして、それを元に戻すことは可能なのか？

エージェントを大規模に展開する組織は、エージェントが処理するデータに対して権限とビジネス定義を強制的に適用する組織となるでしょう。そうすることで、すべてのアクションが構造的に説明責任を持つようになり、人々は本当に注意を払うべき例外事項に集中できるようになります。

今すぐ尋ねるべき4つの質問

これらはいずれも、3年後のトークン価格には左右されません。

どの意思決定に期限があり、それらの意思決定の根拠となるデータはどれくらい古いのか？重要な意思決定、それぞれの期限、そして意思決定が行われた時点でのデータの古さをリストアップしてください。この2つの数値の差が、あなたのリスクエクスポージャーです。
データに対する質問が100倍に増えた場合、最初に問題が発生するのはどこでしょうか？もしそれがモデル費用であれば、それは自然に解決するかもしれません。しかし、データベース、パイプライン、あるいはそれらを調整している担当者であれば、そうはいきません。
あなたの部下や代理人は、同じ情報を同じタイミングで見ていますか？もし彼らが異なるコピーを読んでいるとしたら、最終的には異なるバージョンの真実に基づいて行動することになるでしょう。
エージェントの行動を、それが閲覧したデータと、その行動を許可した権限にまで遡って追跡できますか？もしできないのであれば、監視できるエージェントの数は限られてしまい、その数はごくわずかでしょう。

予測不要の賭け

私が安心できると思うのは、以下のことです。トークンが高止まりするなら、システム間のホップ数を減らし、冗長なコンテキストを減らし、意思決定が行われる場所に近い場所にデータを配置したいと考えるでしょう。なぜなら、それがコストを抑える方法だからです。トークンがほぼ無料になったとしても、全く同じことを望むでしょう。なぜなら、それが競争の決め手となるからです。どこに投資すべきかを知るために、どちらの未来が訪れるかを知る必要はありません。

SingleStoreでは、データベースをエージェント向けに設計したわけではありません。遅延が許されない企業向けに設計しました。トランザクション、分析、検索、ベクトル処理がリアルタイムデータ上で連携し、最新データと過去データの両方にアクセスできる環境です。そして、これらの企業が必要としていたものと、AIが必要としているものは、実は同じだったのです。

情報収集のコストは今後も下がり続けるでしょう。しかし、時間、正確性、一貫性、そして信頼はそうはなりません。何が希少なままなのかを見据えて計画を立てましょう。