株式会社ずんだもん技術室AI放送局 podcast 20241011

2024年10月11日

内容紹介

AIやテクノロジーに関する記事を紹介 Welcome Gemma 2 - Google’s new open LLM、社内資料「プロダクトマネージャーのための検索推薦システム入門」を公開します、「ホロライブ」×「ラウンドワン」コラボがスタート！白上フブキ、がうる・ぐらたち7人もカラオケやボウリングを満喫インサイド

出演者

ずんだもん

関連リンク

Welcome Gemma 2 - Google’s new open LLM

Googleは、最先端のオープンLLMファミリーに最新モデルGemma 2を追加リリースしました。Hugging Faceエコシステムとの最適な統合を確保するため、Googleと協力しています。Hugging Face Hubで、4つのオープンウェイトモデル（ベースモデル2つとファインチューニング済みモデル2つ）を利用できます。

Gemma 2は、90億パラメータと270億パラメータの2つのサイズで、ベース（事前学習済み）とインストラクションチューニング済みのバージョンが提供されます。Geminiをベースとし、コンテキスト長は8000トークンです。270億パラメータモデルは13兆トークン、90億パラメータモデルは8兆トークンのウェブデータ（主に英語）、コード、数学データで学習されました。データ量は前バージョンより約2倍です。

Gemma 2の技術的進歩は、以下の4点です。

スライディングウィンドウアテンション: メモリと計算時間を削減するため、層ごとに交互にスライディングウィンドウアテンションと完全二次アテンションを使用します。
ロジットソフトキャッピング: ロジットの過剰な増加を防ぎ、トレーニングの安定性を向上させます。
知識蒸留: より大規模な教師モデルを利用して、小型モデル（90億パラメータモデル）を学習します。
モデルマージング: 複数のLLMを単一のモデルに統合する技術（Warpを使用）

Gemma 2はGoogle Cloud TPUでJAXとML Pathwaysを使用してトレーニングされました。インストラクションチューニング済みのモデルは、対話アプリケーション向けに最適化されており、合成データと人間が生成したプロンプト応答ペアを組み合わせたデータで学習されました。

評価では、いくつかのベンチマークにおいて、他のオープンLLMと比較して高い性能を示しました。Hugging Face Transformers v4.42.0以降で利用でき、8ビットまたは4ビットモードでメモリ消費量を削減できます。Google CloudやHugging Face Inference Endpointsとの統合も提供されます。また、Hugging Face TRLを用いたファインチューニングも容易です。ライセンスは再配布、ファインチューニング、商用利用、派生作品の作成を許可する許容的なライセンスです。

本要約は、新人エンジニアが理解しやすいよう、技術的な詳細を避け、概要と主要な特徴に絞って記述しています。詳細な使用方法や技術的な説明については、原文を参照ください。

引用元: https://huggingface.co/blog/gemma2

社内資料「プロダクトマネージャーのための検索推薦システム入門」を公開します

LegalOn Technologiesの検索・推薦チームが、社内プロダクトマネージャー(PdM)向けに作成した「検索推薦システム入門」資料が公開されました。この資料は、先日開催された入門講座の内容をまとめたものです。

資料では、検索推薦システムの基本的な概念や仕組みについて、PdMが理解しやすいように解説しています。複雑な技術的な詳細は避け、PdMが製品開発や戦略立案に役立つ知識を習得できるよう、要点に絞った構成になっています。具体的にどのような内容が含まれているかは本文からは分かりませんが、PdMが検索推薦システムを効果的に活用するための基礎知識を網羅していると考えられます。

この資料によって、PdMは検索推薦システムの機能や可能性を理解し、自社プロダクトにおける適切な活用方法を検討できるようになるでしょう。結果として、ユーザー体験の向上やプロダクトの改善に繋がる効果が期待できます。新人エンジニアにとっても、検索推薦システムの概要を把握し、PdMとの円滑なコミュニケーションを図る上で役立つ資料となるでしょう。資料の具体的な内容や使用方法については、公開された資料をご確認ください。

引用元: https://tech.legalforce.co.jp/entry/introduction-to-search-and-recommender-systems-for-pdm

「ホロライブ」×「ラウンドワン」コラボがスタート！白上フブキ、がうる・ぐらたち7人もカラオケやボウリングを満喫インサイド

ラウンドワンとVTuberグループ「ホロライブ」のコラボレーションキャンペーンが、2024年10月11日(金)から2025年1月13日(月)まで開催されます。

今回のコラボでは、白上フブキ、猫又おかゆ、一伊那尓栖、がうる・ぐら、IRyS、フワワ・アビスガード、モココ・アビスガードの7名のホロライブ所属ライバーが、描き下ろしイラストで登場します。イラストは、カラオケマイクやボウリングの球を持った、ラウンドワンを楽しんでいる様子が描かれています。

キャンペーンは、日本国内の全ラウンドワン店舗に加え、アメリカ合衆国にあるラウンドワン店舗でも実施されます。具体的なキャンペーン内容は、ラウンドワンの公式サイトと公式Xアカウントで確認できます。

簡単に言うと、人気VTuberグループ「ホロライブ」のメンバーがデザインされたグッズやキャンペーンが、全国（そしてアメリカの一部）のラウンドワンで約3ヶ月間展開されるということです。ボウリングやカラオケを楽しめるラウンドワンで、ホロライブの世界観を体験できる機会となります。詳細なキャンペーン内容については、公式サイトをご確認ください。

引用元: https://www.inside-games.jp/article/2024/10/11/160337.html

お便り投稿フォーム

（株式会社ずんだもんは架空の登場組織です）