株式会社ずんだもん技術室AI放送局 podcast 20261112
内容紹介
Gemini Decisions API: Fast, calibrated multimodal decisions、Attention to Mamba: A Recipe for Cross-Architecture Distillation、Agent Substrate: Advancing Kubernetes for Agents at Scale、「またAIの見え方変わった」ダウン症で知的障害のある弟とのやりとりに、AIを活用したら解決できることが増えたという話に注目が集まる
出演者
youtube版(スライド付き)
関連リンク
Googleは、マルチモーダル入力に対して高速かつ正確な決定処理（Yes/No、複数選択、ルーブリック採点）を行う新しいAPI「Gemini Decisions API」および専用モデル「Gemini Decision 1」を発表しました。このAPIは、テキスト、画像、音声、動画、PDFといった多様なマルチモーダル入力を受け付け、最大1,000問の質問を単一のフォワードパスで同時に評価できるのが特徴です。従来のAIのようにトークンを1つずつ生成するのではなく、オプション候補の確率や信頼度スコアを直接算出するため、エンドツーエンドの遅延が150〜250msと極めて高速に動作します。新人エンジニアが実際の開発で活用できるように、主な特徴や仕組み、料金体系などを詳しく解説します。
まず、Gemini Decisions APIの最大のメリットは、クローズドセット（限定された選択肢）の判断処理に特化している点です。ツール選択、ポリシーチェック、モデルルーティング、コンテキストのグレーディングといった用途において、専用のプリミティブを提供します。提供される質問タイプには、Yes/No条件の確率を推定する「noul」、2から255の選択肢から勝者と確率を返す「multiple choice」、0から始まる順序付きルーブリックで連続的な重み付きスコアを返す「score」の3種類が用意されています。すべての回答に0から1の信頼度スコアが含まれるため、コード側で曖昧なケースを検知してフォールバック処理や人間によるレビューへルーティングするといった実装が容易に行えます。
料金体系においても大きな特徴があります。Gemini Decision 1は、入力トークン100万あたり0.10ドルで利用できる一方、出力トークンは課金対象外（0ドル）となっています。複数の質問を評価する場合でも、共有される入力データはリクエストごとに1回のみ課金され、質問ごとの指示や基準のトークンのみが追加される仕組みです。これにより、音声認識やOCRの別料金や可変の思考トークン料金を気にすることなく、コストを抑えてシステムに組み込むことができます。Python用の「google-genai」SDKが用意されており、クライアントを初期化してclient.decisions.createメソッドを呼び出すだけで、画像やテキストなどのマルチモーダルな入力と複数の質問を組み合わせたリクエストを簡単に記述できます。
Google社内でもすでに多くのチームが低遅延なコントロールプレーンとしてこのAPIを採用しています。例えば、Gemini Notebookではリアルタイムルータとして使用され、入力クエリの意図をミリ秒単位で分類して適切なモデル階層に振り分けることでレイテンシを最大40%削減しています。また、Google検索におけるMCPツールの安全レイヤーや、Google LabsのCCにおける絵文字選択機能などでも活用されています。エコシステムとしても、OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit、OpenCodeなどの主要なツールやフレームワークと統合されており、Google AI StudioのAPIキーを取得すればすぐにプロトタイピングを開始できるため、AI機能を組み込むシステムを開発するエンジニアにとって非常に強力な新しい選択肢となります。
引用元: https://blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/
Appleの機械学習研究チーム（論文著者にはコンコルディア大学/MILA、ジョンズ・ホプキンス大学/フラティロン研究所の研究者らが含まれる）による、TransformerモデルからState Space Model（SSM）の一種であるMambaアーキテクチャへ知識を効率的に移行（クロスアーキテクチャ蒸留）するための手法に関する研究記事です。
近年、MambaなどのSSMは、Transformerと比較して生成時のメモリ消費量が少なく、より高いスループットを実現できる代替手段として注目を集めています。しかし、Transformerの学習に関する知見や既存の事前学習済みモデルが豊富に存在する一方で、TransformerからMambaへ単純に知識蒸留を行うだけでは、教師モデル（Transformer）の性能を十分に維持できないという課題がありました。従来はこの問題を回避するために、AttentionとSSMを組み合わせたハイブリッドな構成が取られていました。
本記事で提案されている手法の核心は、Mambaに適切な初期化を施すことで、アテンションブロックを一切含まない純粋なMambaアーキテクチャへの効果的なクロスアーキテクチャ蒸留のレシピを実現する点にあります。この目的を達成するため、論文では以下の2段階のアプローチが提案されています。
- カーネルトリックの適応を用いて、従来のTransformerから「線形化されたアテンション（linearized version of Attention）」へ知識を蒸留する。
- その線形化されたモデルから、アテンションブロックを全く使用しない、適応型のMambaモデルへ知識を蒸留する。
この2段階のアプローチにより、蒸留されたMambaモデルは元のPythia-1B Transformerの性能の大部分を維持することに成功しています。具体的には、教師モデルのパープレキシティが13.86であるのに対し、蒸留されたMambaモデルは14.01という近い数値を達成しています。これは下流タスクの多くにも引き継がれますが、インコンテキスト・リコール（文脈内の記憶・想起）に依存する一部のタスクでは依然として若干の性能差が見られます。
さらに本研究では、1B規模のモデルと10Bトークンを使用し、シーケンスミキサーアーキテクチャを変化させた徹底的なアブレーションスタディ、モデルサイズや総蒸留トークン数に関するスケーリング分析、および各段階間でのトークン割り当てに関する感度分析も行われており、SSMの効率的な導入を目指すエンジニアや研究者にとって示唆に富む内容となっています。
引用元: https://machinelearning.apple.com/research/attention-mamba-distillation
AIエージェントや強化学習（RL）のポストトレーニングにおいて、Kubernetes環境での実行効率を最適化するためにNVIDIAが開発・CNCF Sandboxへ寄贈したオープンソースのランタイム「Agent Substrate」について解説されています。従来のKubernetesでは、エージェントの1セッションごとに1つのPodを起動するとメモリが無駄になり、セッションごとにPodの作成・削除を繰り返すとコールドスタートの遅延や状態の喪失が発生するという課題がありました。Agent Substrateは、少数のワーカーPodプール上で多数のセッションを多重化（マルチプレックス）し、アイドル時にはメモリやファイルシステムなどの状態を含めてチェックポイント（スナップショット）として保存・復元することで、高密度かつ高速な実行を実現します。
具体的なユースケースとしては、コーディングアシスタント、強化学習の環境構築、研究用GPUサンドボックスの3つが挙げられています。コーディングアシスタントではリポジトリのクローンやビルド、テスト環境の状態を維持しながら迅速に応答する必要があり、強化学習では数万〜数十万規模のCPUヘビーな環境を効率的にさばく必要があります。また、研究用としては共有クラスター上でGPUサンドボックスを高速に起動・削除する仕組みが求められます。
さらに、上流での主な取り組みとして、ワーカーが満杯の際にリクエストを一時待機させる「リクエスト・パーキング」機能や、サンドボックス内でエージェントにGPUを割り当てるKubernetes Dynamic Resource Allocation（DRA）への対応、およびマイクロVMサンドボックスにおけるコンテナごとのCPU・メモリ制限などが進められています。これにより、暴走したコンテナが周囲の環境を巻き込んでクラッシュするのを防ぎます。
また、NVIDIAの分散推論フレームワーク「NVIDIA Dynamo」との統合により、エージェントのループ（モデル呼び出し、ツール実行、観測）と推論ループを協調させることが可能です。Dynamoのルーターは、KVキャッシュの保持状況やGPUプールの負荷状況を把握し、エージェント側からのセッション情報や優先度といったシグナルと連携することで、推論の最適化やGPUリソースの効率的な利用を実現します。これにより、インフラ全体のリソース使用率を向上させつつ、エージェント基盤のスケールを支える設計となっています。
引用元: https://developer.nvidia.com/blog/agent-substrate-advancing-kubernetes-for-agents-at-scale/
ダウン症で知的障害のある弟とのコミュニケーションや悩み解決に、Googleの生成AI「Gemini」を活用した事例を紹介する記事です。作家の岸田奈美氏がnote上で公開した体験談が発端となり、SNS上で大きな注目を集めました。
記事では、AIが異なる知能の間を繋ぐ「眼鏡」や「翻訳機」のような役割を果たし、これまで健常者側が十分に汲み取れなかった知的障害のある家族の思いや困りごとを明確にする手助けになったことが語られています。AIを単なる効率化の道具ではなく、人間の認知やコミュニケーションのバリアフリーを実現する強力なサポートツールとして活用する、新たな可能性を示す心温まる事例として広く拡散されました。
引用元: https://togetter.com/li/2769126
（株式会社ずんだもんは架空の登場組織です）