『db tech showcase 2024』にて劔"Tsurugi"関連の講演が決定しました。

バッチ処理の側面から語られることが多かったTsurugiですが、もちろんオンライン処理でも強みを発揮します。

PD14セッション「Tsurugi＋リアルタイムAI＝次世代AIのカタチ」にてデモンストレーションしたアプリケーションでもセンサーデータをオンラインで処理しています。

このセッションではデモアプリケーションの実装内容の解説を通して、オンライン処理でTsurugiを利用するノウハウについて説明していきます。

時代の要請はスループットではなく、低遅延です。
現在のITの遅延目標は、光の伝送遅延限界です。
Tsurugiも勿論、この路線に乗っています。
また同時に、AIそれ自体も、より低遅延＝リアルタイムの要請が実務上起こりつつあります。

ここでご紹介する「リアルタイムAI」はTsurugiを超低遅延の特徴量エンジニアリングプラットフォームとして扱い、より高速に、リアルタイムで推論を実行する仕組みです。

TsurugiのAIの基盤とすることで、AIの遅延の大幅短縮、高速SQL処理による開発容易性、そしてなにより既存のインフラを利用した運用容易性が確保されます。LLMとは違った「次のAI」のカタチです。

今、実際に開発が行われている「リアルタイム推論」の実行エンジンとしてのTsurugiの概要を、サンプル・プロトタイプとして、会場でのデモンストレーションとともに、ご覧いただきます。