株式会社ずんだもん技術室AI放送局 podcast 20260723
内容紹介
Introducing OpenAI Presence、Introducing Laguna S 2.1、Inside NVIDIA Rubin GPU Architecture: Powering the Era of Agentic AI、「以前のように戻してほしい」生成AIで作られたポップが乱立する売り場が買い物しにくいと話題に→デザインの意義と最新技術の使い方の話へ
出演者
youtube版(スライド付き)
関連リンク
OpenAIは、企業向けに信頼性の高いAIエージェントの運用基盤を提供する新プロダクト「OpenAI Presence」を発表しました。近年の企業におけるAI活用の課題は、エージェントが動作することの証明から、本番環境で高価値な業務を安全かつ確実に実行させるフェーズへと移行しています。Presenceは、モデルの推論能力に加えて、企業のポリシー、ガードレール、エスカレーションルールを統合し、正確性とパフォーマンスを担保します。
日本の新人エンジニア向けに、本システムの主な構成要素とアーキテクチャの要点を解説します。
-
スコープと権限管理の分離 エージェントごとに「請求トラブルの解決」「保険金請求のサポート」などの明確なジョブが定義され、その業務に必要最小限の知識とシステムアクセスのみが許可されます。企業側が「エージェントが実行できること」「承認が必要な条件」「人間に引き継ぐタイミング」をポリシーとして厳格に設定できます。
-
対応チャネルと実践的な機能 初期リリースでは、リアルタイムの音声およびチャットエージェント(カスタマーサポート、アウトバウンドセールス、高リスクな内部ワークフローなど)をサポートしています。OpenAI自身の英語音声サポート窓口でも活用されており、人間のサポート品質基準と同等以上を達成し、人間の介入なしに75%の問い合わせを解決しています。また、ソフトバンクが日本語による自然な顧客会話のテストを行っていることも言及されています。
-
シミュレーションと評価(Evaluation) 本番稼働前に、一般的なリクエストやエッジケース、高リスクなシナリオに対してシミュレーションや評価ツール(Grader)を実行し、ポリシー遵守やツール利用の正確性をテストできます。
-
Codexを活用した継続的改善ループ 本番稼働後、セッションデータやエスカレーションのログからエージェントの弱点やギャップが発見されます。Presenceに統合されたCodexがこれらのシグナルを調査してアップデート案を提案し、開発チームがテスト・承認して安全にロールアウトする仕組みを備えています。これにより、ビジネスや顧客行動の変化に追従してエージェントを継続的に進化させられます。
現在は限定的な一般提供プログラムとして、OpenAIのForward Deployed Engineers(FDE)やシステムインテグレーターの支援を受けながら導入が進められています。
引用元: https://openai.com/index/introducing-openai-presence
Poolsideは、長文脈対応と推論能力を強化した最新のエージェント型コーディングモデル「Laguna S 2.1」を発表しました。本モデルは全体パラメータ数118B、トークンあたり8BアクティブのMixture-of-Experts(MoE)構造を持ち、最大1Mトークンのコンテキストウィンドウをサポートしています。学習開始からわずか9週間未満で開発され、ローカルマシンでの複雑な処理に適したコンパクトなサイズでありながら、数倍の規模を持つ大規模モデルに匹敵するコーディング・ベンチマーク性能を発揮します。
特筆すべきは、単なる知能の高さだけでなく、「途中で諦めない粘り強さ」「積極的な検証」「バックトラックの能力」といった動作特性を重視してポストトレーニングが行われている点です。長時間の自律的なタスク遂行において優れた成果を示しており、ケーススタディでは、ビジョン機能を持たない環境下で空のフォルダからブラウザエンジンを一から構築した事例や、自社のエージェントハーネスを最適化して処理速度を5.2%向上させメモリ割り当てを約70%削減した事例、さらには数十年未解決だった数学の問題(エルデシュ問題の別解導出)をPerlを用いて完遂した事例などが報告されています。
評価手法の透明性にも配慮されており、評価セットの全試行軌跡(トジェクトリー)が公開されています。また、Thinking(推論)モードの有無を切り替えることで、複雑な問題に対するパフォーマンスを最大限に引き出すことが可能です。
日本のエンジニア向けの実用情報として、Laguna S 2.1はHugging Faceにてオープンウェイト(OpenMDW-1.1)で公開されており、BF16、FP8、INT4、NVFP4などの多彩な量子化ウェイトやGGUF/MLX変換済みファイルが提供されています。NVIDIAハードウェア(BlackwellシステムやDGX Sparkなど)向けに最適化されているほか、vLLM、SGLang、Ollamaによるローカルでのオープンなサービングや、Baseten、OpenRouter、Vercel AI Gatewayなどのホステッド環境、さらにはClineやOllamaなどの各種開発ツールやエージェント環境から初日から利用可能です。
引用元: https://poolside.ai/blog/introducing-laguna-s-2-1
本記事では、AIエージェント時代を見据えて開発されたNVIDIAの次世代GPUアーキテクチャ「Rubin」の技術詳細について解説しています。AIエージェントのワークロードは、単発のプロンプト処理ではなく、多段階の推論、ツール利用、長期コンテキスト(Long-context)、Mixture-of-Experts(MoE)モデルのデコードなど、持続的な推論処理を特徴とします。これに対応するため、RubinはBlackwellと比較して電力あたり最大10倍のスループットを実現しています。
ハードウェアの主な特徴として、3,360億個のトランジスタ、224基のストリーミングマルチプロセッサ(SM)、896基のテンソルコアを搭載し、第3世代Transformer EngineによりNVFP4推論で最大50ペタフロップスの性能を発揮します。また、最大288GBのHBM4メモリと専用コントローラにより、最大22TB/sの圧倒的なメモリ帯域幅を実現し、長期コンテキストや巨大なKVキャッシュを効率的に処理します。
インアセンブリやデータ移動のオーバーヘッドを削減する工夫として、MoEモデル向けの「インライン記述子更新」や、K次元の命令スループットを倍増させる機能を導入し、カーネル実行効率を改善しています。さらに、アテンション処理における2:4スパース圧縮や指数関数処理の高速化により、ネックになりやすいソフトマックス層のボトルネックを解消しています。
通信面では、NVLinkにおける「カウント付き書き込み」を採用し、GPU間通信の同期レイテンシを削減しました。システム全体としては、ラック統合型プラットフォーム「Vera Rubin NVL72」において、AIファクトリー全体の電力効率と冷却性能を高め、限られた電力バジェット内でより多くのGPU稼働を可能にする電源平滑化技術「Intelligent Power Smoothing」が統合されています。日本のエンジニアにとって、次世代の大規模AIインフラストラクチャの設計思想やハードウェア最適化のトレンドを理解する上で、非常に示唆に富む内容となっています。
引用元: https://developer.nvidia.com/blog/inside-nvidia-rubin-gpu-architecture-powering-the-era-of-agentic-ai/
生成AIで作られた情報過多なポップが売り場に乱立し、視認性が低下したことが話題になりました。これはエンジニアが機能要件を無視して最新技術や複雑なアーキテクチャを過剰に導入してしまう失敗に似ています。技術は目的ではなく手段であり、視線誘導やコンテキストの設計といった本質的なデザインの重要性を再認識させられる事例です。
引用元: https://togetter.com/li/2723031
(株式会社ずんだもんは架空の登場組織です)