株式会社ずんだもん技術室AI放送局 podcast 20241209
内容紹介
AIやテクノロジーに関する記事を紹介 摩訶不思議な異世界のVlog「遷移圏見聞録」に注目 投稿者に直撃、Llama 3.3 70B Instruct について解説してから動かしてみる｜ぬこぬこ、Google’s AI weather prediction model is pretty darn good
出演者
関連リンク
KAI-YOUの記事によると、YouTubeチャンネル「遷移圏見聞録」が注目を集めています。このチャンネルでは、架空の異世界「遷移圏」の市場での人魚の解体や祭りなど、奇抜で不思議な光景がショート動画や長尺動画で紹介されています。
投稿者のナカムラさんへのインタビューによると、このVlogは「見知らぬ別世界は、意外と身近なところにある」というメッセージを伝えたいという思いから始まりました。 日常の中に潜む、私たちが気づいていない「異世界」を発見するきっかけを提供したいというナカムラさんの想いが込められています。
動画制作においては、観光地のような定番の場所だけでなく、土地に根付いた人々の暮らしや考え方にも焦点を当て、普通の旅Vlogとは異なる視点で遷移圏の魅力を発信することに力を入れているとのことです。 異なる文化や価値観に触れることで、視聴者の既成概念を打ち破り、新たな視点を得られるような内容を目指している点が特徴的です。
今後は、YouTubeだけでなく、様々な媒体を通じて、より多くの人に「遷移圏」の世界観を体験してもらえるような展開を目指しているそうです。
引用元: https://kai-you.net/article/91148
Metaが公開した多言語対応の大規模言語モデルLlama 3.3 70Bについて解説します。本モデルは、Transformerアーキテクチャを採用し、15Tトークン以上のデータで事前学習、教師あり学習(SFT)と人間のフィードバックによる強化学習(RLHF)で微調整されています。パラメータ数は70B、コンテキスト長は128k、対応言語は英語、ドイツ語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語の8言語です(日本語非対応)。
本モデルの大きな特徴は、安全性に重点を置いた開発です。悪意のある利用を防ぐための様々な対策が講じられており、Llama Guard 3、Prompt Guard、Code Shieldなどの保護機能が提供されています。また、倫理的な配慮として、「オープンであること」「多様性を受け入れること」「役に立つこと」を重視し、幅広いユースケースへの対応を目指しています。ただし、不正確な出力やバイアス、不快な応答の可能性も存在するため、アプリケーション公開前には十分な安全性テストとチューニングが必要です。
記事では、Hugging Face、Ollama、MLXを用いたLlama 3.3 70Bの実行方法も解説されています。Hugging Faceを用いる場合、Metaの利用規約への同意が必要です。また、各プラットフォームでの実行には、モデルのダウンロード(最大約200GB)が必要となります。推論速度は、モデルサイズと使用するプラットフォームによって大きく異なります。記事では、Transformers、Ollama、MLXを用いた実行例と、それぞれの実行速度、メモリ使用量、出力結果などが示されています。4bit量子化を用いたOllamaやMLXは、メモリ消費量の削減に効果的です。
記事全体を通して、Llama 3.3 70Bの高い性能と安全性への取り組み、そして様々な実行環境での使用方法が詳細に解説されています。新人エンジニアにとっても理解しやすいよう、図表やコード例を交えながら説明されているため、LLMの活用を検討する上で非常に参考になります。
引用元: https://note.com/schroneko/n/nc7fc17e359a3
Google DeepMindが開発したAI天気予報モデル「GenCast」が、従来の予測システムを凌駕する精度を達成しました。2019年のデータを用いたテストでは、世界トップクラスの予測モデルであるECMWFのENSシステムを97.2%の確率で上回ったことが、Nature誌に掲載された研究で発表されました。
GenCastは1979年から2018年の気象データで学習した機械学習モデルです。大気物理の複雑な方程式を解く従来のモデルとは異なり、過去のデータのパターンを認識して予測を行います。特に台風経路の予測では、平均12時間もの早期警戒が可能になり、最大15日先までの極端気象や風力発電量の予測でも高い精度を示しました。
ただし、GenCastはENSの旧バージョンとの比較であり、現在ENSはより高解像度で運用されている点を考慮する必要があります。また、GenCastは12時間間隔での予測であるのに対し、従来モデルはより短い間隔で予測を行うため、実用面での違いも存在します。
それでも、GenCastは従来モデルよりも計算効率に優れ、単一のGoogle Cloud TPU v5で15日間の予測をわずか8分で生成できます。これは、エネルギー消費量の多いAIデータセンターの環境負荷軽減にも繋がる可能性があります。
DeepMindはGenCastのコードをオープンソースとして公開しており、今後、従来モデルと併用することで、より正確で迅速な天気予報の実現に貢献すると期待されています。 気象学コミュニティ全体がAI予報を完全に受け入れているわけではありませんが、GenCastは天気予報の進化における重要なマイルストーンであることは間違いありません。
引用元: https://www.theverge.com/2024/12/7/24314064/ai-weather-forecast-model-google-deepmind-gencast
（株式会社ずんだもんは架空の登場組織です）