Akash Network、分散型GPU上で動作する初のフルマネージドAI推論サービス「AkashML」をリリース

Akashネットワーク クラウドコンピューティングマーケットプレイスであるは、分散GPUのみで動作する初のフルマネージドAI推論サービスを導入しました。この新サービスは、開発者がAkash上で本番環境レベルの推論を管理する際にこれまで直面していた運用上の課題を解消し、インフラ管理を必要とせずに分散型クラウドコンピューティングのメリットを提供します。

AkashMLは、ローンチ時に以下のモデル向けのマネージド推論を提供します。 Llama 3.3-70B、DeepSeek V3、Qwen3-30B-A3Bは、即時導入が可能で、世界65か所以上のデータセンターに拡張可能です。この構成により、瞬時のグローバル推論、予測可能なトークン単位の価格設定が可能になり、開発者の生産性が向上します。

Akash AIアプリケーションの台頭以来​​、初期のAI開発者やスタートアップを支援してきました。 OpenAIAkash Core チームは、過去数年間にわたり、brev.dev（Nvidia に買収）、VeniceAI、Prime Intellect などのクライアントと連携し、数万人規模のユーザーを対象とした製品を開発してきました。これらのアーリーアダプターは技術力が高く、インフラを自ら管理することもできましたが、フィードバックからは、基盤となるシステムを操作せずに API 主導でアクセスすることを好むという意見が寄せられました。こうした意見に基づき、一部のユーザー向けに AkashML の非公開バージョンを開発し、AkashChat と AkashChat API を開発しました。これにより、AkashML の一般公開への道が開かれました。

AkashML、LLM導入コストを最大85%削減

この新しいソリューションは、大規模な言語モデルを導入する際に開発者や企業が直面するいくつかの重要な課題に対処します。従来のクラウドソリューションは、70Bモデルの予約インスタンスが100万トークンあたり入力あたり0.13ドル、出力あたり0.40ドルを超えるなど、高額になることがよくあります。一方、AkashMLは市場競争を活用して費用を70～85%削減します。運用上のオーバーヘッドも障壁の一つです。モデルのパッケージ化、vLLMまたはTGIサーバーの設定、シャードの管理、フェイルオーバーの処理には数週間のエンジニアリング時間がかかりますが、AkashMLはこれを簡素化します。 OpenAIコードを変更することなく数分で移行を可能にする、互換性のある API。

リクエストが長距離を移動する集中型プラットフォームでは、レイテンシも懸念事項です。AkashMLは、トラフィックを80以上のグローバルデータセンターのうち最も近い場所に誘導し、リアルタイムアプリケーションに適した200ミリ秒未満の応答時間を実現します。ベンダーロックインはモデルとデータに対する柔軟性と制御を制限します。AkashMLは、次のようなオープンモデルのみを使用します。 Llama、DeepSeek、Qwen を活用し、ユーザーはバージョン管理、アップグレード、ガバナンスを完全に制御できます。スケーラビリティの課題は、分散型 GPU リソース全体の自動スケーリングによって軽減され、99% の稼働率を維持し、容量制限をなくしながら、突然の価格高騰を回避します。

AkashMLは、迅速なオンボーディングと即時のROIを実現するように設計されています。新規ユーザーには、PlaygroundまたはAPIを介してサポートされているすべてのモデルを試すための100ドル分のAIトークンクレジットが提供されます。単一のAPIエンドポイントですべてのモデルをサポートし、LangChain、Haystack、カスタムエージェントなどのフレームワークと統合できます。価格設定は透明性が高く、モデルごとに異なるため、予期せぬコストの発生を防ぎます。影響力の大きい導入はAkash Starを通じて認知度を高めることができ、BME、仮想マシン、コンフィデンシャルコンピューティングを含む今後のネットワークアップグレードにより、さらなるコスト削減が期待されます。初期ユーザーからは、費用が3～5分の1に削減され、レイテンシはグローバルで200ミリ秒未満に安定しているという報告があり、コスト削減、利用増加、そしてプロバイダーの参加拡大という好循環を生み出しています。

始めるのは簡単です。ユーザーは2分以内にplayground.akashml.comで無料アカウントを作成し、モデルライブラリを探索することができます。 Llama 3.3-70B、DeepSeek V3、Qwen3-30B-A3B のモデルをご利用いただき、事前に価格をご確認ください。追加のモデルはプラットフォームから直接リクエストできます。ユーザーは、Playground または API 経由でモデルを即座にテストし、ダッシュボードで使用状況、レイテンシ、費用をモニタリングし、リージョン固定と自動スケーリングによって本番環境へのスケールアップが可能です。

集中型推論は依然としてコストが高く、速度が遅く、制約が多いのに対し、AkashMLは、マーケットプレイス主導の価格で、トップクラスのオープンモデルへのフルマネージド、APIファースト、分散型アクセスを提供します。推論コストを最大80%削減したい開発者や企業は、このプラットフォームをすぐに使い始めることができます。