株式会社ずんだもん技術室AI放送局 podcast 20261006
内容紹介
Introducing Beam: Reflection’s 501B open-weight model — Reflection、Agent Memory Repo Cognition、Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle
出演者
youtube版(スライド付き)
関連リンク
Reflection社は、推論・コーディング・エージェント用途に特化した、同社初となるオープンウェイトのスパースMixture-of-Experts（MoE）モデル「Beam」のリリースを発表しました。Beamは総パラメータ数が5010億（活性化パラメータ数230億）の大規模モデルであり、オープンウェイトのフロンティアを大きく前進させ、コーディングやエージェントタスクにおいて同規模の既存オープンモデルに匹敵、あるいは凌駕する性能を持っています。特に推論時の計算効率が非常に優れており、2T+パラメータ規模のモデルと比較して3〜4倍少ない推論計算量で同等の高度な推論を実現しています。
Beamの開発における最大の特徴は、大規模な強化学習（RL）のスケーリングです。学習には10,500基のNVIDIA GB300 GPUを使用し、最大256Kトークンのコンテキスト長で1億回以上のロールアウト（試行）を4週間にわたって生成しました。また、約100万件の高品質なコーディング・エージェント環境（サンドボックス）を用いたほか、非同期ポリシー勾配法におけるポリシーの陳腐化や数値の不安定性を克服する新しいアルゴリズムを独自に開発し、1日以上前の古いデータに基づく学習であっても安定した強化学習を継続することに成功しています。これにより、強化学習の規模拡大に伴う性能の頭打ち（プラトー）を見せることなく、タスクの効率的な解決能力を高めました。
プレトレーニングにおいては、23.8兆トークンの高品質なウェブデータ、独自ライセンスのデータ、コード、STEM関連データを使用しています。モデルアーキテクチャや最適化の面では、Auxiliary-loss-freeな負荷分散や、深さに応じた残差ストリームのスケーリング、FP32残差蓄積などを導入することで、すべてのMixture-of-Experts層でほぼ均一なエキスパートの利用率を達成し、長期的な学習における数値的な安定性を確保しました。インフラ面でも、Kubernetesベースのトポロジー対応スケジューラや、RoCEおよびNVLinkを活用した高速な重み分散転送、自動復旧機能などを内製し、トレーニングの安定性と効率を最大化しています。
安全性とアライメントの面では、事前学習済みチェックポイントからSFTとRLのパイプラインを別に構築し、多教師オンポリシー蒸留（MOPD）によって安全性を統合しています。アライメント原則を3つの階層に分け、生成報酬モデルを用いた非検証ドメインでの強化学習や、敵対的プロンプトを用いたディリベラティブ・アライメント（Deliberative Alignment）技術を導入することで、過度な拒否反応やハルシネーションを抑制しつつ、エージェントとしての実用的な振る舞いを予測可能にシェイピングしました。
Beamは現在プレビュー段階であり、プラットフォームで早期アクセスのサインアップを受付中です。今月中には、Apache 2.0ライセンスのもとでモデルの重み、テクニカルレポート、モデルカード、開発者向け成果物が公開される予定であり、エンジニアはオープンソースのエコシステムや流通パートナーを通じて、自身のワークフローに組み込んで利用できるようになります。
引用元: https://reflection.ai/blog/introducing-beam
AIコーディングエージェント「Devin」を開発するCognition社が発表した「Agent Memory Repo」は、AIエージェントがセッションを跨いで長期的な記憶を共有・蓄積するためのオープン標準規格です。新人エンジニアがAIエージェントを活用する際、毎回ゼロからコンテキストを教え直す手間を省くための強力な仕組みとなります。
このシステムの基本的な仕組みは非常にシンプルです。すべてのセッションは、Gitリポジトリをベースにしたメモリ領域の「クローン」から始まります。エージェントはタスクに必要な情報を検索・参照し、作業を進める中で得た新しい知見やルールを人間の介入なしに自動でエントリーとして追記（アップデート）し、セッション終了ごとに「プッシュ」して変更を保存します。これにより、次回のセッション以降でも過去の文脈やユーザーの好みをそのまま引き継ぐことが可能になります。
リポジトリ内は自由に設計でき、Markdownファイル、SQLクエリ、各種スクリプトなどを配置できます。特に起点となる「MEMORY.md」は、すべてのセッションの最初に読み込まれるファイルであり、重要な情報や他のドキュメントへのリンクを簡潔にまとめておく場所として機能します。エージェント間のリンクには独自の構文（[[path]]）を使い、情報の重複を防ぎます。また、定期的に実行される「Dreaming（ドリーミング）」という仕組みにより、複数のセッションにまたがるパターンを分析して新たな記憶を追加したり、重複したエントリーの統合や古い情報の削除、矛盾の解決を行ってメモリをクリーンに保ちます。
具体的な活用ユースケースとしては、以下のようなものが挙げられます。
- パーソナルメモリ: ユーザーの好みやプロジェクトの繋がりなどのコンテキストを複数セッション間で保持する。
- エージェントスウォーム（複数エージェントの協調）: 並行して動く複数のエージェント（データベース担当、キャッシュ担当など）が同じメモリリポジトリを共有し、メッセージボードのように質問や発見（findings）を書き合うことで、複雑なパフォーマンス問題の原因特定などを共同で解決する。
- 過去の成果物の再利用: 以前実行したSQLクエリなどを保存しておき、新しいセッションで「先週のリリースは影響した？」といった質問を投げた際に、エージェントが自ら過去のクエリを見つけて実行し回答する。
マルチプレイヤー環境では、複数のユーザーがそれぞれのメモリリポジトリを持ち寄り、1つのセッションに読み込ませて協調作業を行うことも可能です。エージェントは誰の発言かを識別し、それぞれの適切なリポジトリに書き込みを行います。これにより、チーム全体の知見や顧客情報を共有する「チームメモリ」としても活用できます。
新人エンジニアにとって、AIエージェントとのやり取りを効率化し、プロジェクト固有の用語や過去のトラブルシューティングの歴史をエージェントに永続的に学習させるための実践的な手法が学べる内容となっています。
引用元: https://cognition.com/agent-memory-repo
Google Researchをはじめとする産学のリーダー50名以上が参加したワークショップの成果として、自律型AIエージェントにおけるプライバシーとセキュリティの最新課題をまとめたレポートが公開されました。LLMを活用した自律型エージェントは、複雑で多段階のタスクを動的に処理する高い汎用性を持つ一方で、従来のソフトウェアとは異なるセキュリティ上の大きな課題を抱えています。
本レポートでは、エージェント特有の課題として以下の3つの次元を挙げています。1つ目は「非構造化インターフェースと入力の曖昧さ」であり、自然言語や画像による指示を処理するため、「期待される動作」の定義が難しく、プロンプトインジェクションなどの操作に対して脆弱です。2つ目は「確率的な制御フロー」であり、生成AIによるプランニングは実行パスが確率的になるため、従来のテスト手法では安全性の確保が困難です。3つ目は「自律性と委任」であり、エージェントが長期的なタスクを処理したり、他のエージェントに下位タスクを委任したりする際、ユーザーによる従来の監視手法が効果を発揮しにくくなり、「確認疲労」のリスクが生じます。
これらの課題に対処するため、レポートでは「文脈的完全性（Contextual Integrity: CI）」という理論を軸にしたアプローチを提案しています。CI理論におけるプライバシーやセキュリティとは、単なる情報の秘密保持ではなく、確立された社会的規範に従った「適切な情報の流れ」や「エージェントの行動の適切さ」を指します。送信者、受信者、情報の種類、伝達原則という文脈ごとの規範に基づき、AIがアクションを実行する前に社会的・文脈的に適切であるかを判断できるようにします。
従来の手動によるアクセス権限や静的なポリシーは、動的で複雑なエージェントのタスクにはスケールしません。そこで、LLMを活用して機械可読なポリシーを生成し、リアルタイムで監視・適用する「文脈的ポリシーエンジン（スーパーバイザー層）」の導入を提唱しています。このエンジンにより、ユーザーのワークスペースから情報が外部に流出する前に、データフローの適切さを評価することが可能になります。
さらに、エージェントのセキュリティとプライバシーを守るためには、単一の層だけでなく、多層的なアプローチが必要となります。具体的には以下の領域での革新が求められます。
- システムレベルのサンドボクシング：動的な機能制限やアクセスの許可・取り消しを行う実行環境の構築
- モデルレベルの推論：曖昧なプロンプトの明確化や、変化する文脈的規範の下での適切性の推論能力の向上
- ユーザー中心の制御：確率的かつ自律的な動作に対応する、動的でパーソナライズされた制御インターフェースへの移行
- マルチエージェント間の相互作用：エージェント同士が結託して文脈的規範を破ることを防ぐガードレール
- エコシステムのガバナンス：ドメイン間で異なる規範の調整や、コンプライアンス検証の仕組みの構築
最後に、安全性を評価するための新たなアプローチとして、動的なシミュレーション環境である「Agent Gym」などの標準化されたマルチエージェントベンチマークの構築を提案しています。学術界や産業界全体で協力し、安全でプライバシーを尊重するエージェントエコシステムを築くための基盤作りが求められています。
引用元: https://research.google/blog/open-and-emergent-problems-in-agentic-privacy-and-security-a-contextual-angle/
（株式会社ずんだもんは架空の登場組織です）