エンタープライズAIは、意思決定の迅速化、自動化の効率化、顧客体験の向上を約束してきましたが、多くの組織は依然として真の効果を実感できていません。プロジェクトはし ばしば強力なデモから始まるものの、概念実証が停滞し、パイロット運用は規模拡大に失敗し、導入されたシステムはしばしば動作が遅く、不安定で、信頼性に欠けます。問題は、モデルや野心、あるいはデータの不足にあるのではありません。問題は、エンタープライズAIシステムがデモ環境を離れた後に、安定して動作するために必要なコンテキストを欠いていることが多い点にあります。
消費者向けアプリケーションでは、AIは部分的な情報でも成功できる可能性があります。しかし、企業向けアプリケーションでは、そのアプローチはすぐに破綻します。ビジネスプロセスは、正確性、追跡可能性、そして最新の情報に依存しています。AIシステムが、意思決定の背景にあるビジネスコンテキスト全体にアクセスできないまま複数のステップにわたってアクションを実行すると、結果はもっともらしく聞こえるかもしれませんが、現実世界では失敗に終わる可能性があります。
なぜモデルよりも文脈が重要なのか
コンテキストとは、言語モデルが有用かつ正確な応答を生成するために必要なすべての情報のことです。企業環境においては、コンテキストにはトランザクションデータ、顧客履歴、社内文書、ログ、ポリシー、権限、ワークフローの現在の状態などが含まれます。これらの情報がなければ、最も高度なAIモデルでさえ推測に頼らざるを得ません。推測は創造的なタスクには許容されるかもしれませんが、企業における意思決定には到底受け入れられません。
組織がより小型の言語モデル（SLM）を採用するにつれて、この課題はさらに顕著になります。SLMは、コストが安く、処理速度が速く、アプリケーションの近くに簡単に展開できるため魅力的です。しかし、メモリ容量と推論深度には大きな制約があります。SLMは、各意思決定に必要なコンテキストが適切に提供されることを強く必要とします。実際には、そのコンテキストはトランザクションデータベース、サポートプラットフォーム、運用ログ、内部文書など、複数のシステムに分散していることがよくあります。これらの情報源に迅速かつ確実にアクセスして組み合わせることができない場合、モデルはビジネスの全体像を捉えられないまま運用せざるを得なくなります。
アプリケーションがワークフローを進み、モデルを繰り返し呼び出す際、各ステップはシステムがビジネス全体から適切なコンテキ ストを取得できるかどうかに依存します。コンテキストが不完全であったり、取得に時間がかかったり、システム間で一貫性がなかったりすると、AIは予測不能な動作をし始めます。ワークフローが複雑化し、同時に相互作用するエージェントが増えるにつれて、これらのギャップは蓄積され、システムはビジネスの実際の状態から乖離し始めます。
簡単なテストで問題点がすぐに明らかになります。AIシステムが、顧客の履歴、ポリシー、運用データ、ワークフローの状態といったビジネスの現状を参照せずに回答を生成できる場合、それは意思決定ではなく、単なる推測に過ぎません。
企業データギャップ
同時に、企業は膨大な量の未活用データを抱え込んでいます。ガートナーの推定によると、組織のデータの70%から90%は文書、電子メール、マルチメディアファイルなどの非構造化データであり、その多くは管理、アクセス、AIシステムへの組み込みが困難なため、事実上ダークデータとなっています。このような情報が、従来のデータベース、データウェアハウス、オブジェクトストレージ、外部プラットフォームといった断片化されたサイロに閉じ込められたままになっていると、リアルタイムでの取得が遅すぎたりコストがかかりすぎたりするため、運用AIワークフローに組み込まれることはほとんどありません。
これは根本的な矛盾を生み出します。企業は膨大な量の貴重なデータを生成しているにもかかわらず、そのAIシステムは狭く時代遅れの視点でビジネスを捉えているのです。SLM（ソフトウェアライフサイクル管理）は効率的ではありますが、最新かつ関連性の高いデータに継続的にアクセスできなければ、事実上盲目状態となります。それがなければ、たとえ高性能なモデルであっても、ビジネスを不完全な視点でしか捉えることができません。
本当の問題は、企業がどれだけのデータを生成するかではなく、AIシステムが意思決定を行う際に、実際に利用できるデータがどれほど少ないかということです。
エンタープライズAIシステムが各段階でどのように動作するか
企業AIワークフローが成功するためには、コンテキスト、アプリケーション、データを継続的なループで統合する必要があります。アプリケーションはワークフローをオーケストレーションし、言語モデルまたはより小さなモデルのネットワークを呼び出して、次に何をすべきかを決定します。そのワークフローの下には、ビジネスの現状を提供する企業データ層が存在します。
AI駆動型アプリケーションが実行される際、関連するコンテキストを収集し、モデルにリクエストを送信し、応答に基づいて次のステップに進みます。しかし、次のリクエストを行う前に最新のデータと状態を付加する機能がしばしば欠けています。このフィードバックループがないと、アプリケーションは直前に何が起こったのか、そしてなぜ起こったのかを認識できなくなります。コンテキストは断片化し、各ステップは前のステップよりも情報不足の状態になります。
企業向けAIシステムを評価する最も簡単な方法は、ワークフローの各ステップ間で何が起こるかを観察することです。
レスポンシブなコンテキストレイヤーを構成する要素とは
応答性の高いコンテキストレイヤーは、いくつかの重要な要件を満たす必要があります。アプリケーションがコンテキストをミリ秒単位で取得および更新できるよう、低遅延を実現する必要があります。また、数千または数百万のユーザーとエージェントが同時にデータにアクセスできるよう、高い同時実行性をサポートする必要があります。さらに、構造化データ、半構造化データ、非構造化テキスト、およびベクトル埋め込みを組み合わせた複雑なクエリを処理できる必要があります。
エージェント型AIアプリケーションが普及するにつれ、同時実行性は飛躍的に向上するでしょう。1人のユーザーが1つのモデルとやり取りするのではなく、企業は顧客、従業員、システムに代わってワークフローを実行するエージェント群を運用するようになります。コンテキスト層が処理速度に追いつけない場合、モデルの高度さに関わらず、AIシステム全体が遅くなります。
リアルタイムデータ基盤上にエンタープライズAIを構築する
ここで、最新のリアルタイムデータベースが不可欠になります。リアルタイムワークロード向けに設計されたデータベースは、エンタープライズAIの記録システムとコンテキストシステムの両方として機能します。SingleStoreはまさにこの役割を果たすために構築されました。
SingleStoreは、低遅延と高同時実行性を念頭に設計されており、企業は単一のシステムで運用データ、分析データ、ベクトルデータを照会できます。これにより、低速なデータサイロ間でデータを移動させることなく、AIアプリケーションに必要な豊富なコンテキストをオンデマンドで構築することが可能になります。
SingleStoreは、SQLのAI関数を通じて、AIをデータ層に直接統合します。チームは、データが存在する場所でテキスト分析、レコメンデーション、セグメンテーション、リアルタイムパーソナライゼーションを直接実行でき、コンテキストとアプリケーションロジックを密接に連携させることができます。ゼロコピーアタッチなどの機能により、冗長な重複なしにシステム間でデータを瞬時に安全に共有できるため、より多くの企業データをAIワークフローに容易に組み込むことができます。
企業向けAIシステムは、ビジネスの現状を把握せずに意思決定を行うと失敗に終わります。モデル自体が制約要因となることは稀です。真の制約は、意思決定が行われるたびに、周囲のシステムが適切なコンテキストを適切なタイミングで提供できるかどうかにあります。
