株式会社ずんだもん技術室AI放送局 podcast 20250603
内容紹介
MCPにおけるセキュリティ考慮事項と実装における観点（後編）、Beyond the Black Box: Interpretability of LLMs in Finance、PythonとOpenAI APIで実践！はじめてのMCP開発入門【第10回】MCP活用プログラミング(2) - 会話履歴コンテキストで文脈を維持する「インテリジェント・チャットボット」の基礎、幸坂謙之介、「14才の証明 (feat. 東北きりたん, 東北ずん子, 東北イタコ, ずんだもん & めろう)」を配信開始｜THE MAGAZINE
出演者
関連リンク
この記事は、生成AIと外部の機能（ツールやデータ）を連携させるための技術仕様であるMCP（Model Context Protocol）のセキュリティについて、攻撃者の視点と、MCP Serverを提供する開発者が取るべき対策を中心に解説しています。前編では利用者の視点からセキュリティを考えましたが、後編では開発・運用側の視点に立ちます。
なぜMCPのセキュリティが重要かというと、MCP Serverは実行環境上でファイル操作やコマンド実行、外部サービスとの通信など、比較的広い権限を持って動作することが多いため、攻撃者に狙われやすいからです。攻撃されると、機密情報が盗まれたり、クラウド上のリソースを勝手に操作されたり、ひどい場合はシステムを踏み台にされてマルウェアを拡散されるといった被害が起こりえます。
攻撃者は主にMCPを構成する部分（生成AIアプリ、連携部分、サーバー）やその実行環境を狙います。具体的には、ユーザーに悪意のあるMCP Serverを誤って実行させたり、MCP Serverが利用する外部のデータを汚染したり、ファイルに仕込んだ見えない命令を使って意図しない操作をさせたりします。また、Streamable HTTP形式で動作するMCP Serverに対しては、ブラウザの仕組みを悪用したり、認証・認可が不十分なサーバーに直接アクセスしたりといった手口も考えられます。
これらの脅威に対し、開発者が行うべき基本的な対策はいくつかあります。まず、一般的なWebアプリケーションと同じように、ユーザーからの入力値（ファイルパスやURLなど）をしっかり検証・無害化し、Path TraversalやSSRF、コマンドインジェクションといった脆弱性を防ぐことが重要です。また、MCP特有の対策として、Toolの説明などをそのまま生成AIのプロンプトに含めず構造化情報として渡す工夫や、Tool実行時にはユーザーに確認を求める仕組みを入れることで、意図しない機能実行を防ぐことができます。
Streamable HTTP形式でローカルで動かす場合は、外部からアクセスされないようにlocalhostのみにバインドすること、Originヘッダで通信元を確認すること、不要なCORS設定をしないことが対策になります。もしMCP Serverをリモートで公開する場合は、通信をHTTPS化し、アクセス制御（IP制限や認証/認可）をしっかり導入することが必須となります。特に認可にはOAuth 2.1に準拠した仕組みを導入し、外部サービスとの連携時にはSession Bindingを考慮した安全な実装が必要です。
MCPのセキュリティ対策はまだ発展途上であり、新しい攻撃手法も出てくる可能性があります。記事の付録には実装者向けのチェックリストも載っているので、ぜひ活用しながら、常に最新の情報をキャッチアップして安全なMCPの実装・運用を目指しましょう。
引用元: https://blog.flatt.tech/entry/mcp_security_second
この論文は、金融分野で活用が広がる大規模言語モデル（LLM）の「解釈可能性」、つまり「なぜAIがその結果を出したのか」を理解することの重要性とそのための技術について論じています。
LLMは現在、金融業界において、レポート作成、顧客対応チャットボット、市場センチメントの分析、規制遵守のチェック、投資アドバイス、情報の検索や要約など、様々なタスクで優れた能力を発揮しています。しかし、LLMは非常に複雑な構造を持つため、内部の動作原理が分かりにくい「ブラックボックス」状態になりやすいという大きな課題があります。
金融業界は、その性質上、極めて厳格な規制があり、システムに対する高いレベルの透明性、公平性、そして何か問題が起きた際に責任を明確にするための説明責任が不可欠です。「AIがなぜその判断を下したのか」を説明できなければ、特に人の財産や重要な判断に関わる場面で、安心して利用することが難しいのです。
この論文では、この課題を解決するために、「機構的解釈可能性（Mechanistic Interpretability）」という比較的新しい技術アプローチを、金融分野で初めて応用した事例として提示しています。機構的解釈可能性とは、LLMの内部構造や動作を文字通り「分解して逆さまに調べる」ことで、モデルがどのように情報を処理し、特定の振る舞いを生み出しているのかを最も分かりやすく理解しようとする手法です。モデルの内部にある情報の流れや処理のまとまり（「回路」と呼ばれることもあります）を詳細に分析することで、「なぜ」特定の予測や応答が生まれたのかを深く理解できます。そして、単に理解するだけでなく、モデルの望ましくない振る舞いを特定し、修正するための手助けにもなります。
論文では、この機構的解釈可能性の理論的な側面を解説しつつ、トレーディング戦略における意思決定プロセスの理解、市場センチメント分析での根拠特定、さらにはAIが持つ可能性のある偏り（バイアス）や事実に基づかない情報（ハルシネーション）の検出といった、金融分野における具体的な様々な応用例とその実験結果を示しています。
機構的解釈可能性はまだ開発途上の技術ですが、LLMの金融分野への浸透が進むにつれて、その重要性はますます高まると予測されています。このような高度な解釈可能性の技術は、AIシステムが常に倫理的であり、透明性を保ち、厳格な金融規制に適合し続けるために不可欠なツールとなるでしょう。論文の著者らは、特に金融規制やコンプライアンスの観点から、これらの技術が現在のニーズだけでなく、将来の世界の金融規制当局からの期待にも応えうる可能性を強調しています。
この研究は、LLMを金融のような信頼性が極めて重要な分野で、安全かつ責任を持って利用するための技術的な基盤を築く一歩と言え、AIの信頼性向上に関心のあるエンジニアにとって注目すべき内容です。
引用元: https://arxiv.org/abs/2505.24650
この記事は、PythonとOpenAI APIを使って、会話の内容を覚えて自然な対話ができるチャットボットを作るための基礎を解説しています。新人エンジニア向けに、チャットボット開発で非常に大切な「会話履歴の管理」について、分かりやすく説明されています。
チャットボットは、特別な設定をしないと、以前のやり取りを忘れてしまいます。例えば、「今日の天気は？」と聞いた後に「傘はいる？」と聞いても、「どこの天気？」と聞き返されてしまうことがあります。これは、AIがそれぞれの質問を独立したものとして扱ってしまうためです。
そこで重要になるのが「会話履歴」です。過去の会話をAIに伝えることで、AIは文脈を理解し、一貫性のある、より人間らしい応答ができるようになります。この記事では、この会話履歴をAIに伝えるためのOpenAI APIの標準的な形式であるmessages配列について詳しく解説しています。
messages配列は、AIにチャットボットとしての役割やルールを伝えるsystemメッセージ、ユーザーの入力であるuserメッセージ、そしてAI自身の応答であるassistantメッセージを順番に並べたリストです。新しいユーザー入力があるたびに、このリスト全体をAPIに送ることで、AIはこれまでの会話を「記憶」します。
記事では、Pythonを使ってこのmessages配列を管理（「ステート管理」と呼びます）し、簡単なコマンドラインチャットボットを実装する具体的なコード例も紹介されています。リストを使って会話履歴をどんどん追加していくイメージです。
ただし、会話が長くなると、送る履歴の量（トークン数）が増え、APIの費用が高くなったり、応答が遅くなったり、さらにはAIが一度に処理できる上限（「コンテキストウィンドウの限界」といいます）を超えてしまったりする課題が出てきます。この記事の最後に、この課題に対する「スライディングウィンドウ」や「会話の要約」といった、より進んだ対策の考え方も触れられています。
要するに、会話履歴を適切に管理してAPIに渡すことが、自然な対話ができるチャットボット開発の鍵であり、その基本的な方法と課題、そして今後の発展の方向性が学べる入門記事です。
引用元: https://qiita.com/QueryPie/items/ee937f939a186d3137c8
幸坂謙之介さんが、東北きりたんさん、東北ずん子さん、東北イタコさん、ずんだもんさん、めろうさんをフィーチャリングした新曲「14才の証明」の配信を開始しました。この記事は、その新曲が主要な音楽配信サービスで聴けるようになったことを伝えるニュースです。プログラミングやAI関連でも見かける「ずんだもん」が楽曲に参加しているのは面白いですね。新しい技術やキャラクターが様々な分野で活躍する例として、ちょっと息抜きに聴いてみるのも良いかもしれません。
引用元: https://magazine.tunecore.co.jp/newrelease/513439/
（株式会社ずんだもんは架空の登場組織です）