私立ずんだもん女学園放送部 podcast 20261023
内容紹介
Using thousands of AI agents to uncover new leads in biological data、Patch the Planet: global response coordination as agents uncover critical vulnerabilities、Running Frontier-Class AI Models Across 8 NVIDIA DGX Spark Nodes、Multi-agent LLM coordination in a Pokémon 2v2 environment
出演者
youtube版(スライド付き)
関連リンク
OpenAIは、PerturbAIおよびScripps Researchと共に、数千ものAIエージェントを大規模に並列駆動させて生物学データを解析する最新の研究成果を発表しました。「GPT-Rosalind」を基盤とする数千のAIエージェントを活用し、マウスの脳細胞に関する膨大なCRISPRアトラスの実験データをわずか32分で解析することに成功しました。現代の生物学実験では、何千もの遺伝子変異や数百万もの細胞を対象とした大量のデータが生成されますが、それらの結果を人類の疾病理解につなげるには、散在する膨大な科学文献と結びつける必要があり、人間だけでは数ヶ月から1年以上の時間がかかります。
本研究では、この課題を解決するために「分散型生物学的推論（Distributed Biological Reasoning）」というアプローチが採用されました。具体的には、分析作業を数千のAIエージェントに分割し、並列実行させました。各エージェントは1つの遺伝子変異を調査し、細胞の応答を分析した上で、関連する科学文献を検索し、結果に対する説明を提案します。その結果生成されたレポートは、遺伝子、細胞への影響、関連文献、考えられる生物学的メカニズムを結びつけた推論アトラスとして統合されます。
新人エンジニアが技術的な観点で注目すべきポイントは、単一の巨大なAIエージェントにすべてのデータを処理させるのではなく、多数のエージェントを並列（分散）させてタスクを分割するアーキテクチャの優位性です。検証の結果、単一のエージェントに全データを処理させた場合はワークロードの増加に伴って文献の参照数が11件にとどまったのに対し、分散エージェントでは700件以上の参考文献を適切に引用し、人間専門家からも高く評価される深い推論結果を出力しました。大規模言語モデルやAIエージェントを活用したシステム設計において、処理を適切に分割して並列実行させる分散処理のパターンは、複雑で大量のコンテキストを扱うアプリケーションへの応用において非常に大きな学びとなります。
引用元: https://openai.com/index/scaling-ai-research-for-complex-biological-data
OpenAIは、オープンソースソフトウェアの脆弱性をAIエージェントの活用によって迅速に発見・修正し、世界規模でエコシステム全体を保護するためのグローバル対応プログラム「Patch the Planet」を発表しました。近年の事例として、PHPの深刻な脆弱性をAIモデル（GPT-5.6 Sol）を用いて発見し、WizやCloudflareなどのセキュリティ企業やPHPのメンテナーと協力して情報開示前に修正と対策の調整を行ったことが紹介されています。
この取り組みの背景には、先進的なAIがインターネット規模の影響を持つ脆弱性を攻撃者よりも早く発見できるという事実があります。これにより、メンテナーやセキュリティプロバイダーが事前に修正プログラムや防御策を準備するための「ディフェンダーズ・ウィンドウ（防御者の期間）」が生まれます。しかし、同様のAIの能力は攻撃者が悪用ツールを急速に開発するためにも使われるため、オープンソースプロジェクトやフロントラインの防御組織を支援することが急務となっています。OpenAIは、リソースが限られた組織を支援するために10億ドル規模のサブスクリプションアクセスや資金提供、エンジニアリングの支援を表明しています。
記事では、発見された脆弱性に対してエコシステム全体で迅速かつ安全に対処するため、5段階のフレームワークが提案されています。
- アップストリーム脆弱性の検証と修正: メンテナーや研究者、技術パートナーが影響を評価し、フロンティアモデルを用いた敵対的テストを通じて修正プログラムを開発・テストする。
- 影響を受ける組織への事前準備時間の確保: 修正プログラムの適用やWAFルールの作成、古いリリースへのバックポートなどをスムーズに行えるよう、事前に情報を共有する。
- 政府パートナーとの連携: ホワイトハウスやCISAなどの政府機関と協力し、重要インフラを保護するためのガイダンス伝達を支援する。
- 影響を受ける製品全体でのアップデート準備: ディストリビューターやホスティング事業者などを巻き込み、抜け漏れのないアップデートを準備する。
- パッチ公開後のガイダンスとデプロイ支援: 公式なパッチや一時的な緩和策、バックアップとリカバリに関する公開ガイダンスを提供し、導入をサポートする。
さらに、小規模なチームで運営されることが多いオープンソースのメンテナーに対して、金銭的支援や「Codex for OSS」を通じたモデルへのアクセス提供、実地でのエンジニアリング支援を行い、グローバルな対応能力を底上げする方針です。また、単に脆弱性を直すだけでなく、最初から安全なコードを書くための支援、メモリ安全な言語への移行支援、形式検証、厳格なサンドボックスによる強力な隔離など、AIを活用してより安全なソフトウェアの土盤を構築することの重要性が説かれています。
新人エンジニアにとっての学びとして、セキュリティの脆弱性対応は単にパッチを当てるだけでなく、AIを活用した効率的な脆弱性検出や、メンテナー・クラウド事業者・政府機関を巻き込んだサプライチェーン全体の迅速な情報共有と連携プロセスが極めて重要であることが理解できます。
引用元: https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities
NVIDIAは、GTC Berlinにおいて、コンパクトなAI開発向けワークステーション「NVIDIA DGX Spark」を最大8ノードまでクラスタリングし、ローカル環境で大規模なフロンティアモデルの実行、マルチモデル連携、および小規模モデルの事前学習を行うための最新技術とベストプラクティスを公開しました。新人エンジニアがマルチノード環境におけるインフラ構築やモデル運用の勘所を把握できるように、主要なポイントを解説します。
まず、8ノード構成における最大のメリットは、統合メモリ容量が最大1TBに拡張される点です。これにより、単体や少数ノードではメモリ不足で起動できなかった「GLM 5.3 (753B)」のような超巨大なオープンモデルをローカル環境で直接サービングできるようになります。推論時のパフォーマンスについても、ノード数やトポロジーに応じた詳細なベンチマークが公開されており、例えばQwenモデルを用いた検証では、ノード数の増加に伴いデコードスループットが1ノード時の約12 TPSから8ノード時には約52 TPSまで向上することが示されています。
次に、ノード間の通信を最適化するためのアプローチとして、スイッチ接続された環境向けの新しい集合通信バックエンド「RoCEnante」が紹介されています。従来のリング型all-reduce通信とは異なり、RoCEnanteは各ノード間で直接ポイントツーポイントのデータ交換（all-to-all）を行うことで、小規模メッセージや低コンカレンシー環境におけるレイテンシを削減します。これにより、4ノード環境で約21%、8ノード環境で非量子化モデルのデコードスループットが向上するなど、スケーリング効率の改善が図られています。ただし、このバックエンドはスイッチ接続されたトポロジーに限定されるため、大規模な並行処理やリング構成では従来通りNCCLが利用されます。
また、すべてのリクエストを単一の巨大モデルで処理するのではなく、複数のモデルを効率的に使い分けるマルチモデルオーケストレーションツールとして「NVIDIA NeMo Switchyard」が提案されています。軽量な分類モデル（MiniCPMなど）を使用して簡単なリクエストと複雑なリクエストを動的に振り分け、クラスタ全体のリソースを最適に配分することで、Qwenモデル単体の構成と比較して約1.5倍から3倍の集約スループットを実現しています。YAMLファイルによるシンプルなポリシー設定でルーティングを制御できるため、限られたハードウェア資源でスループットを最大化したい場合に有効な手法です。
さらに、推論だけでなくモデルの事前学習（トレーニング）におけるスケーリング性能も検証されています。nanochatモデル（約8.9億パラメータ）を用いた事前学習の実験では、1ノードから8ノードへとスケールアウトさせるにつれて約7.79倍（効率97.4%）というほぼ線形に近い学習スループットの向上が確認されました。これにより、DGX Sparkクラスタは単なる推論サービング用マシンとしてだけでなく、ローカル環境で小規模モデルのゼロからのプロトタイピングや事前学習を行うための実用的なプラットフォームとしても機能することが実証されています。開発者は公開されているネットワーキングガイドやDocker環境を利用して、2ノード構成から段階的にクラスタを構築・拡張していくことが可能です。
引用元: https://developer.nvidia.com/blog/running-frontier-class-ai-models-across-8-nvidia-dgx-spark-nodes/
ポケモンの2対2バトル環境を用いて、LLMエージェント同士の協調やコミュニケーション能力を評価する実験記事です。非完全情報ゲームであるポケモンのダブルバトルをGym形式の環境にラップし、Qwen3.8-27Bをエージェントとして対戦を行いました。実験の結果、自由に会話できる自由対話モードでは勝率が64%となり、会話ができない場合の42%や1モデルが両方操作する場合の54%を大きく上回りました。エージェント同士がチャットで戦略を相談し、相性のアドバイスやターゲットの分割などを行うことで協力性能が高まることが示されています。一方、自由対話はプロンプトトークン数が約4倍に増加するコストも確認されました。マルチエージェントシステムの協調行動の評価や強化学習のベンチマークとしての有用性を示す興味深い内容です。
引用元: https://olivergrabner.com/research/pokemon/
VOICEVOX:ずんだもん