企業向けAIは、信頼できる回答を生み出す能力を身につける前に、予算を浪費することに非常に長けてきています。
問題は知能の不足ではありません。問題は、コストが高すぎ、中央集権的すぎ、そして「ほぼ正しい」という状態を許容しすぎるアーキテクチャで、企業規模でAIを適用しようとしていることです。実運用環境では、「ほぼ正しい」状態こそが問題の始まりです。誤検出によって、資金が移動したり、リスクが誤って評価されたり、正当な顧客がブロックされたり、自動化プロセスが誤った方向に進んでしまったりする事態が、誰にも気づかれることなく起こり得るのです。
我々の見解では、解決策は、企業AIを目の前に提示されたあらゆる問題を処理できる巨大な単一モデルとして扱うのをやめることです。企業AIは、あらゆることをこなせる単一のモデルではなく、専門化されたモデルのネットワークとして構築されるべきです。
エンタープライズAIには、巨大なLLMではなく、専門的なモデルが必要
そのため、エンタープライズAIは最終的に、巨大な中央集権型データプラットフォームの上に構築された単一の全能モデルを中心に構成されるとは考えていません。むしろ、それぞれが特定のドメイン向けに設計された、専門的な小型言語モデルとエージェントのネットワークのようなものになり、共有され、絶えず変化するエンタープライズデータ群に対して連携して動作するようになるでしょう。
トレーディングモデルはトレーディングを理解する必要があります。資産運用モデルはポートフォリオ、適合性、顧客履歴を理解する必要があります。サプライチェーンモデルは在庫と物流を理解する必要があります。セキュリティモデルはテレメトリとリスクを理解する必要があります。これら全てが同じモデル、同じコンテキスト、同じ量の計算能力を必要とするわけではありません。
これを実現する合理的な方法は、問題を一度にすべて解決しようとするのではなく、問題を分解することです。この分解は、経済的な面でも重要な意味を持ちます。すべてのリクエストに大量のトークン消費が必要なわけではありません。限定的なタスクは、より小さなコンテキストと推論コストの低い、より小さなモデルで実行できます。一方、より複雑なタスクは、より大規模なモデ ルにルーティングできます。そうしないと、汎用的なインテリジェンスは、汎用的なオーバーヘッドとなってしまいます。
エージェント群がデータベースの同時実行性をAIの問題に変える
しかし、このようにしてAIを構築すると、エージェント群が膨大な並行処理を生み出すため、データベースアーキテクチャはさらに重要になります。
あるAIエージェントが顧客のポジションを読み取り、別のエージェントがそれを更新します。3つ目のエージェントは次の決定を下す前にその更新を待ち、4つ目のエージェントは同じポジションに対するリスクを計算している可能性があります。システム全体の価値は、これらのエージェントが過去のわずかに異なるバージョンの現実の集合ではなく、ビジネスの最新の状態に基づいて動作することにかかっています。
その時点で、レイテンシは抽象的なベンチマークではなくなり、処理完了の直接的なコストとなります。あるエージェントが書き込みの伝播を待ってから別のエージェントが処理を開始する必要がある場合、遅延はワークフロー全体で累積します。1つの遅いハンドオフが5つの遅いハンドオフになり、5つのエージェントが50になります。整然としたエージェント群の図は、ラッシュアワー時の古い電話交換機に似てきます。至る所にインテリジェンスがあり、至る所で配線が交差し、誰もが誰かの話し終わりを待っています。この規模になると、データベースは制御プレーンの一部となります。
その基盤となるデータベースは、膨大な同時実行性を維持しながら、読み書きを運用速度で同期させる必要があります。これは、高同時実行性のトランザクション処理と分析処理を同一エンジンで実現する分散型SQLデータベースであるSingleStoreの基本的な設計原則の一つです。エージェントシステムが同時実行による読み書きや意思決定を増やすにつれて、このアーキテクチャの重要性はますます高まります。
オープンデータとApache Icebergが企業データの自由を守る
以前にも書いたように、 Icebergには閉鎖的なシステムではなく、オープンなカタログが必要なのです。エージェント型AIアーキテクチャの登場により、その主張の重要性はますます高まっています。
企業データのあらゆるバイトを、AIに活用する前に物理的に単一の独自プラットフォームに移動させる必要はないと考えています。企業は既にデータレイクやApache Icebergなどのオープンフォーマットに莫大な投資を行っています。アーキテクチャは、データが既に存在する場所でデータに対応しつつ、価値の高い運用データをエンジン内に保持し、エージェントが非常に低いレイテンシーで処理できるようにするべきです。
これにより、企業は今後ますます重要になるであろうデータ自由度を獲得できます。モデルも、エージェントフレームワークも、専用のSLMも変更可能であり、データはオープンフォーマットのまま維持されます。運用データベースは、リアルタイムの一貫性と同時実行性を必要とするワークロードに対応でき、各コンポーネントは独立して進化できます。
構成可能なAIがエンタープライズAIモノリスを凌駕する
これは、データプラットフォーム、インテリジェンス層、実行環境が密接に結合した、垂直統合型のモノリスとしてAIを構築するのとは全く異なります。モノリスは最初のアーキテクチャ図をシンプルに見せることはできますが、最初は便利でも、結局はコストがかさむだけです。
その利点は、すべてのタスクを同じモデル、同じコンピューティングプロファイル、または同じ独自スタックに強制することなく、数千もの専門的なモデルとエージェントを最新の企業データに対して連携させることができるアーキテクチャから生まれるでしょう。そこで、スピード、精度、コスト管理、そしてデータの自由度が互いに強化し合うようになるのです。
