株式会社ずんだもん技術室AI放送局 podcast 20260827
内容紹介
Intelligent transcription with Gemini 3.5 Transcribe、Experiment with Qwen3.8-Flash-Next 176B Model on NVIDIA GB300 NVL72 for Agentic Coding、Restore LLM Inference Capacity in Seconds with Shadow Engine Recovery in NVIDIA Dynamo、Live2D、ずんだもんのサンプルモデルを公開 - Mogura VR
出演者
youtube版(スライド付き)
関連リンク
Googleは、音声認識とインテリジェントな音声インタラクションを大きく進化させた最新の音声認識モデル「Gemini 3.5 Transcribe」を発表しました。従来の音声認識モデルが抱えていた背景雑音への弱さ、複雑な専門用語、言い淀み（フィラー）の処理といった課題を克服し、生の音声を直接、正確かつ整形されたフォーマット済みテキストへ変換できる点が大きな特徴です。
開発者向けには、Google AI StudioのGemini APIやGemini Enterprise Agent Platformを通じて提供されます。APIは用途に応じて2種類用意されています。「gemini-3.5-transcribe-live」を用いたリアルタイムストリーミングAPIでは、サブ秒の低レイテンシで双方向の連続ストリーミングを実現し、インタラクティブな音声エージェントの開発を可能にします。一方、「gemini-3.5-transcribe」を用いたInteractions APIでは、会議や通話ログなどの録音音声に対して、話者識別や単語レベルのタイムスタンプ付きで処理を実行できます。
性能面でも大幅な向上を遂げています。Artificial Analysisの測定によると、Word Error Rate（WER）はストリーミングで平均4.0%、非ストリーミングで2.6%という高い精度を達成しました。また、前モデルのChirp 3と比較して、最終的な書き起こしまでの時間が最大70%短縮されています。85以上の言語に対応し、方言や地域アクセント、カスタム辞書による固有表現の認識もシームレスに行えます。さらに、Function Calling機能に対応しており、音声での複雑なタスク実行や他モデルへの処理の委譲が可能です。
エコシステムとの連携も強力で、AgoraやLangChain、LiveKit、Vercelなどの主要な開発プラットフォームがLive APIに対応しており、開発者はインフラを意識することなく音声駆動型インターフェースを構築できます。GboardやmacOS版GeminiアプリなどGoogleのプロダクトへも順次組み込まれており、音声入力の利便性を大きく高めています。エンジニアにとって、音声UIやリアルタイムAIエージェントを開発する上で非常に強力な選択肢となるモデルです。
引用元: https://deepmind.google/blog/intelligent-transcription-with-gemini-3-5-transcribe/
Alibabaが次世代の「Qwen4」アーキテクチャのプレビューとしてリリースした、マルチモーダルMixture-of-Experts（MoE）モデル「Qwen3.8-Flash-Next」の技術的な特徴と、NVIDIAの最新ハードウェア上での検証結果について解説します。
このモデルは全体で176Bのパラメータを持ち、そのうちトークンあたり6Bがアクティブになります。最大の特徴は、エージェントコーディングやドキュメント処理などの長文脈・高負荷なタスクを見据えて設計された長コンテキストへの対応です。ネイティブで262,144トークンのコンテキストウィンドウを持ち、YaRNを活用することで1Mトークンにまで拡張可能です。
長文脈推論におけるボトルネックとなるKVキャッシュの肥大化とアテンション計算の負荷を解決するため、本モデルはハイブリッドアーキテクチャを採用しています。具体的には、3層ごとに「Gated DeltaNet（GDN）」を用いて履歴コンテキストを固定サイズのリカレント状態へ連続的に圧縮し、残りの1層で「QwenSparse Attention（QSA）」を利用して全コンテキストから高精度な情報検索を行います。従来のスパースアテンションが抱えていたトークン単位の計算コストの課題に対し、QSAはシーケンスをマイクロブロック単位に集約して重要度を推定・選択するため、インデックス作成のオーバーヘッドを大幅に削減します。公開されたベンチマークでは、1Mトークンのワークロードにおいて、従来の部分アテンションと比較してプリフィル速度が最大7.6倍、デコード速度が最大4.9倍向上しています。
インフラストラクチャの面では、72基のNVIDIA Blackwell Ultra GPUを統合したラック規模のシステム「NVIDIA GB300 NVL72」上で検証が行われています。72GPUのNVLinkドメインが130 TB/sの高帯域通信を実現し、MoEモデル特有のエキスパート間通信のボトルネックを解消しています。これにより、1GPUあたり16,000トークン/秒を超えるスループットと、1ユーザーあたり200トークン/秒を超えるインタラクティビティを達成しています。なお、GB300のような大規模環境だけでなく、ローカルのDGX環境やワークステーション（RTX PRO 6000 Blackwell Workstation Editionを4基搭載した環境など）でも動作するため、開発者は手元のローカル環境でプロトタイピングを行った後、本番環境へスムーズにスケールさせることが可能です。
開発者向けのツールチェインとしては、NVIDIA NeMo AutoModelやNeMo RLを用いたドメイン適応のためのファインチューニング（フルSFTやLoRA）や強化学習のレシピが提供されています。また、推論エンジン側もSGLang、vLLM、TensorRT-LLMといった主要なオープンソーススタックが「Day 0」からサポートしており、好みの環境を選択してすぐに導入・検証を進めることができます。
引用元: https://developer.nvidia.com/blog/experiment-with-qwen3-8-flash-next-176b-model-on-nvidia-gb300-nvl72-for-agentic-coding/
NVIDIA Dynamoのプレビュー機能である「シャドウエンジンリカバリ」は、LLM推論プロセスの障害時に発生する長時間のコールドスタート問題を解消する仕組みです。従来の方式では、プロセスがクラッシュするとストレージからのウェイト再ロードやカーネルコンパイル、CUDAグラフの再キャプチャなどにより数分間のダウンタイムが発生し、生存中のワーカーに負荷が集中していました。シャドウエンジンリカバリでは、GPUメモリサービス（GMS）を用いてアクティブエンジンと同一GPU上に完全に初期化済みの待機系（シャドウエンジン）を常駐させます。
GMSはCUDA仮想メモリ管理APIを利用し、ウェイトをエンジンプロセスから独立させて管理します。物理メモリ上のウェイトはGMSが所有し、複数のエンジンプロセスが同じ物理メモリ領域を各々の仮想アドレス空間にマップするため、ウェイトの重複によるHBMの無駄な消費をゼロに抑えられます。シャドウエンジンは起動時にNCCLなどの通信コンテキストやCUDAグラフのキャプチャを完了させた後、KVキャッシュの領域確保のみを控え、待機状態に入ります。
アクティブプロセスがクラッシュやライブネスプローブの失敗などで終了すると、カーネルによってファイルロックが解放され、シャドウエンジンが即座にロックを獲得します。シャドウエンジンはウェイトの再マッピングとKVキャッシュの具現化を行い、数秒でトラフィックの処理を引き継ぎます。NVIDIA B200ノードを用いたGLM-5.2のベンチマークでは、コールドスタート時の復旧に283秒かかっていたところ、シャドウエンジンリカバリを用いることで7.3秒へと約39倍高速化し、TTFT（Time to First Token）やデコードレートの劣化を最小限に抑えることに成功しています。現在のプレビュー版はvLLMを主たるバックエンドとし、Kubernetes 1.34以降の動的リソース割り当て（DRA）環境での利用が前提となります。
引用元: https://developer.nvidia.com/blog/restore-llm-inference-capacity-in-seconds-with-shadow-engine-recovery-in-nvidia-dynamo/
Live2D社は、大人気キャラクター「ずんだもん」の公式Live2Dサンプルモデルを公開しました。データにはモデル本体、基本モーション、表情差分、物理演算などの組み込み用ファイル一式が含まれており、SDK5.0およびCubism5.0に対応しています。 利用条件に同意すれば、年間売上1000万円未満の一般ユーザーや小規模事業者は商用・非商用を問わず無料で利用可能です。アプリ開発やVTuber関連の個人制作を手掛けるエンジニアにとって、実装テストや挙動確認の素材としてすぐに活用できる嬉しいニュースとなっています。（378文字）
引用元: https://www.moguravr.com/live2d-zundamon-sample-model/
（株式会社ずんだもんは架空の登場組織です）