IBM の事例研究
「サービスチームがすべての側面でサービスを100 %所有しつつ、保守が簡単なソリューションを探していました。2022年の初めに、watsonx AssistantのユースケースにKnative Eventing（Knative Kafka Brokerによってバッキング）を使用するシステムのプロトタイプを作成しました。初期の結果は、さまざまなレイヤーで既存のベンチマークを超えました。本番運用に適したものにするために十分な時間を投資した後、6つの地理的地域にまたがるすべての本番IBMクラウドクラスターにロールアウトしました。」
|
IBM watsonx Assistantを使用して、Knative Eventingで機械学習モデルをトレーニングするIBMのクラウド戦略が進化してプライベートクラウドとハイブリッドクラウドに移行するにつれて、IBM Cloud Pak for DataやManaged Cloud Service Provider（MCSP）などのソリューションには、IBMがアクセスできない顧客のハードウェア、プライベートインフラストラクチャ、データストアプロバイダー上で実行できる、非常にポータブルなwatsonxサービスが必要になりました。元々数年前にパブリッククラウドインフラストラクチャに重点的に配置されて設計された、当社既存の機械学習トレーニングインフラストラクチャは、さまざまなクラウドインフラストラクチャソリューションで互換性を確保するためにアップグレードしました。しかし、顧客ベースがこれらのプラットフォームに拡大するにつれて、運用コストは上昇しました。それと同じように、クライアントエクスペリエンスを向上させるために機械学習のトレーニング時間を短縮する必要が高まっていました。時間の経過とともに、インテント認識アルゴリズムとトレーニングインフラストラクチャスタックを大幅に最適化し、トレーニング時間を3.5分から驚異の90秒に短縮しました。しかし、さらなる最適化は困難に直面しました。これらには、分散セットアップにおけるリソース利用とバックプレッシャー処理の問題が含まれます。包括的なソリューションが必要であることを認識して、MLトレーニングインフラストラクチャ全体を再定義するためのパラダイムシフトに着手しました。CNCFサイトでケーススタディ全文をお読みください詳細を確認 |