エクイニクス、NVIDIA、Together AIが協業し、企業向けAI推論を加速する「Equinix Inference Exchange」を発表

AI推論の課題とEquinix Inference Exchangeが提供する解決策

AIの活用が広がるにつれて、AI推論（学習済みAIモデルを使って、新しいデータから予測や判断を行うプロセス）をどこで実行するかが重要になっています。データ、ユーザー、アプリケーションの近くで推論を実行することで、低遅延で効率的なAI活用が可能になりますが、分散環境での運用は複雑性を伴います。

「Equinix Inference Exchange」は、NVIDIAの検証済みEnterprise Reference Architectures（企業向けAIインフラ構築の設計ガイド）と、200以上のオープンソースモデルをサポートするTogether AIの推論プラットフォームを組み合わせたものです。エクイニクスのグローバルなIBX®データセンター（国際ビジネスエクスチェンジデータセンター）を通じて提供され、Equinix Fabric®（ソフトウェア定義の相互接続サービス）により、クラウド、ネットワーク、AIプロバイダーへの安全かつ低遅延な接続を実現します。

また、グローバルに分散したAI環境間の接続を容易にする「Equinix® Fabric One™」も同時に発表され、企業はよりシンプルにAIインフラを構築・運用できるようになります。

ソリューションの主要な構成要素

このソリューションは、以下の3つのレイヤーで構成されています。

エクイニクス: 電力、高度な冷却設備、運用支援サービスを含むインフラ基盤を提供し、Equinix Fabric®を介して必要なプロバイダーに接続します。
NVIDIA: Enterprise Reference Architecturesに基づき、AIファクトリー向けに最適化されたインフラを提供。これにより、スループットの最大化とトークンコストの最小化を支援します。
Together AI: 共有利用による効率性を実現するマルチテナント環境（複数のユーザーが同じインフラストラクチャを共有する環境）と、専有リソースを必要とするワークロード向けのシングルテナント環境（1つのユーザーが専用のインフラストラクチャを使用する環境）の両方をサポートするプラットフォームレイヤーを提供します。

導入メリットと活用シーン

「Equinix Inference Exchange」は、多様な企業向け推論ユースケースを支援します。

メトロエッジ推論: ユーザーやデータの近くで推論を実行することで、低遅延なAI活用体験を実現します。エクイニクスのセキュリティ、運用規模、グローバルな展開力を活用できます。
オープンモデルへの移行: コスト管理やベンダーロックイン（特定のベンダーの製品やサービスに深く依存し、他のベンダーへの移行が困難になる状態）回避のため、クローズドな独自モデルからオープンソースモデルへ移行する企業に対し、本番環境での円滑な移行環境を提供します。
ソブリンAI: 規制産業や特定地域で事業を展開する企業向けに、データ所在地要件やデータ主権要件（国家や特定の地域がAIデータやインフラを自国の管理下に置く概念）を満たす場所でAIワークロードを実行できる環境を提供します。