株式会社ずんだもん技術室AI放送局 podcast 20260826
内容紹介
Jalapeño’s first results show industry-leading speed and efficiency in AI inference、Apple、パフォーマンスとAI演算に大幅な向上をもたらすM6とM5 Ultraを発表、CUDA Python 1.0: Stable APIs, One Foundation, Full Platform Access
出演者
youtube版(スライド付き)
関連リンク
OpenAIは、同社初となるカスタム推論チップ「Jalapeño」の初期性能テスト結果を公表した。本チップは、ハードウェア設計の従来課題であったスループット（処理のスループット）とレイテンシ（遅延）のトレードオフを単一のアーキテクチャで克服し、高効率かつ高速なAI推論を実現している。
特長として、データ移動や通信遅延を最小限に抑える設計が挙げられる。プロンプト処理を行う「Prefill（プリフィル）」フェーズと、トークンを順次生成する「Decode（デコード）」フェーズの双方でボトルネックになりやすいメモリ帯域やコア間通信の課題に対処し、KVキャッシュなどのモデル状態をローカルに保持しながら適切なコンピューティング、メモリ、ネットワークリソースを効率的に連動させる。
パブリックベンチマーク「InferenceX」による検証では、GPT-OSS 120B、DeepSeek R1（670B）、Kimi K2.5（1T）といった内外の代表的モデルにおいて、従来の比較システムに対しピーク効率で1.5〜1.9倍の電力量あたりの処理能力を達成し、エンドツーエンドのレイテンシは1.7〜3.6倍削減された。特にエージェント型のワークロードが求めるような対話的タスクでは、2.1〜4.1倍のパフォーマンス向上を記録している。
また、Jalapeñoの開発自体にAIモデルが活用され、設計からテープアウトまでの期間をわずか9ヶ月に短縮した点もエンジニアリング上の重要なトピックである。チップ構造を人間およびAIの双方にとって予測しやすいプログラミングターゲットとすることで、Codexを活用したモデル固有の最適化やカーネル開発が加速し、AIによる並列プログラミングの効率化を実証した。
定格消費電力は700W（実際のテスト時の持続電力は550W以下）でありながら優れた電力効率を発揮し、今後は年末から同社のインフラへの導入が予定されている。すでに第2世代、第3世代の開発も進行中であり、AI推論基盤におけるフルスタックの最適化を示すマイルストーンとなる。
引用元: https://openai.com/index/jalapeno-first-results
Appleは、同社初の2ナノメートルプロセスを採用した「M6」と、クアッドダイアーキテクチャによる史上最もパワフルなチップ「M5 Ultra」を発表しました。これらはそれぞれ新しいMac miniとMac Studioに搭載され、日々のタスクからプロフェッショナル向けの高負荷なワークロード、オンデバイスでのAI演算性能を飛躍的に向上させます。
M6は、Mac mini向けに設計された最先端の2nmチップです。12コアCPU（2つのスーパーコア、4つの高性能コア、6つの高効率コア）を搭載し、シングルスレッドで世界最速のパフォーマンスを発揮します。GPUも12コアに拡張され、各コアに「Neural Accelerator」を装備することで、AIのピーク時演算性能がM5と比較して約30%向上しています。さらに、デュアル16コアNeural EngineによりオンデバイスでのLLMプロンプト処理が高速化され、最大32GBのユニファイドメモリ（帯域幅170GB/s）によってエージェント型AIのワークロードやマルチタスクを快適に処理可能です。
一方、M5 Ultraは、Mac Studio向けの最高峰プロセッサです。次世代UltraFusionテクノロジーを用いたAppleシリコン初のクアッドダイアーキテクチャにより、4つのダイが1つのプロセッサとして超低レイテンシーで動作します。最大36コアのCPUと最大80コアのGPUを備え、AI利用時のGPU演算性能はM3 Ultraの最大4.5倍に達します。さらに、最大512GBの大容量ユニファイドメモリと、M3 Ultra比50%増となる1.2TB/sの圧倒的なメモリ帯域幅を提供します。これにより、数千億パラメータを持つ大規模言語モデル（LLM）の完全なローカル実行やファインチューニング、大規模なデータセットのオンメモリ処理が現実のものとなります。
エンジニアの視点では、Xcodeでのコードコンパイルの高速化、シミュレータの複数同時実行、そしてCore AI、Core ML、Metalといったフレームワークを通じたハードウェアへの直接アクセスが大きな魅力です。CPU、GPU、Neural Engineが自動連携し、デバイス上で大規模なAIモデルを効率よく構築・実行できる環境がデスクトップレベルで大きく拡張されています。
引用元: https://www.apple.com/jp/newsroom/2026/08/apple-introduces-m6-and-m5-ultra-for-a-big-leap-in-performance-and-ai-compute/
NVIDIAが発表した「CUDA Python 1.0」は、PythonからCUDAプラットフォームの全機能へ直接アクセスできる公式な基盤を提供するマイルストーンです。これまでPythonでGPUを効率的に利用する場合、C++で独自拡張を書くか、PyTorchやCuPyといった既存のハイレベルなライブラリ層に依存する必要がありました。しかし、異なるライブラリ間でGPUメモリやストリームを共有する際には、インターチェンジプロトコルを介した複雑な処理が必要という課題がありました。
CUDA 13.3と同時にリリースされたCUDA Python 1.0では、各コンポーネントがセマンティックバージョニング（セマンティックバージョン管理）の保証対象となり、破壊的変更が制限されるため、実プロダクション環境でも安心して依存関係に組み込めるようになりました。
本エコシステムは主に3つの階層で構成されています。最下層のランタイムシステムには、デバイス管理やメモリ割り当て、ストリーム制御を行う「cuda.core」や、CUDA Cの低レベル1:1バインディングである「cuda.bindings」が含まれます。特に「cuda.core」が1.0に到達したことで、デバイスやバッファなどのCUDA基本要素が直感的なPythonオブジェクトとして扱えるようになり、異なるGPUライブラリ間（CuPyやPyTorchなど）でデータを無駄にコピーせず直接共有できるようになりました。また、グリーンコンテキストによるSM（Streaming Multiprocessor）のパーティショニングやプロセスチェックポイント、プロセス間共有（IPC）などの高度な機能も利用可能です。
中間層には最適化されたアルゴリズムを提供する「cuda.compute」や「nvmath-python」が位置し、ソートやリダクションなどの並列アルゴリズムをPythonの関数呼び出しとして高速に実行できます。最上層のカーネルオーサリング層では「Numba」や「Numba CUDA MLIR」が提供されており、PythonのコードからカスタムGPUカーネルを直接記述して効率的なSIMT処理を実現できます。
インストールはpip installコマンドで容易に行うことができ、最新のNVIDIAドライバがあれば個別のCUDA Toolkitのインストールは基本的に不要です。これにより、日本のAIエンジニアやGPUプログラミングを行う開発者は、低レベルなドライバ操作から高度な数学ライブラリ、カスタムカーネル開発までを、一貫した安定したPython環境でシームレスに行えるようになります。
引用元: https://developer.nvidia.com/blog/cuda-python-1-0-stable-apis-one-foundation-full-platform-access/
（株式会社ずんだもんは架空の登場組織です）