株式会社ずんだもん技術室AI放送局 podcast 20250114
内容紹介
AIやテクノロジーに関する記事を紹介 メルセデス・ベンツ、ナビのＡＩ会話型検索でグーグルと提携、Entropy of a Large Language Model output、Vertical AI agents、ブログのPVがどんどん落ちてると思ったら、Google自体のトラフィックが1年前の4分の1になってた→「Googleはオワコン？」「AIが教えてくれる」
出演者
関連リンク
メルセデス・ベンツはGoogleと提携し、自動車向けAIエージェントを活用した新しいMBUX仮想アシスタントを開発しました。このAIエージェントはGoogleのVertex AIとGeminiを基盤とし、Googleマップの情報を参照して、ドライバーの質問にパーソナライズされた会話で応答します。例えば、「近くの高級レストランは？」といった質問に、評価やおすすめ料理などの詳細情報と合わせて回答できます。この機能は、今年後半に新型CLAシリーズで導入され、その後他のモデルにも展開予定です。AIは会話内容を記憶し、運転中でもテーマを変えながら情報を引き出せるようになります。これにより、車載ナビゲーションが大きく進化し、より自然な対話で情報収集が可能になります。
引用元: https://www.nextmobility.jp/company/mercedes-benz-teams-up-with-google-for-ai-conversational-search-for-navigation20250113/
大規模言語モデル（LLM）の出力におけるエントロピーについて考察した記事です。LLMは、与えられたトークン列から次のトークンを確率的に生成する仕組みで、その出力は決定的なものではなく、確率分布に基づいています。エントロピーは、この確率分布の不確実性を測る指標として利用できます。エントロピーが高い場合は、モデルが次のトークンを予測する自信が低いことを示し、低い場合は自信が高いことを示します。
記事では、ChatGPTのAPIを使って、出力トークンの確率分布を取得し、エントロピーを計算しています。例えば、「The protagonist went around the corner and …」というテキストに対して、次のトークンの確率分布を調べると、特定のトークンが他のトークンよりも高い確率を持つことがわかります。また、「write a haiku about ai …」という質問に対する応答では、文末や単語の途切れ目などでエントロピーが低くなる傾向が見られました。
さらに、長い文章を生成させた場合のエントロピーを分析すると、文末でエントロピーが低下する傾向が確認できました。また、固有名詞を含む事実に基づく記述ではエントロピーが低く、複数の選択肢が考えられる記述的な文章ではエントロピーが高くなる傾向が見られました。
最後に、タミル語でのテキスト補完を試した結果、トークンが文字単位で区切られることがわかりました。これは、LLMの細かいパフォーマンス評価に役立つ可能性があると述べています。
この実験から、LLMの出力におけるエントロピーを分析することで、モデルの自信度や出力の特性を理解する手がかりが得られることが示唆されました。
引用元: https://nikkin.dev/blog/llm-entropy.html
Google Cloudが提供するVertical AI agentsは、特定の用途に特化したAIエージェント群です。 これにより、開発者は最新のGeminiモデルとGoogleのAI技術を活用し、開発期間を短縮できます。 主な用途として、自動車向けとフード注文向けのAIエージェントが紹介されています。
自動車向けAIエージェントは、車載インフォテインメントシステムを高度化し、ナビゲーション、検索、メディア操作などを自然な会話形式で実現します。 多言語対応やマルチモーダル推論、会話の記憶機能も備えており、よりパーソナライズされた運転体験を提供します。 メルセデス・ベンツは、このエージェントを2025年モデルのMBUX仮想アシスタントに採用し、複雑な対話や会話の継続を可能にする予定です。
フード注文向けAIエージェントは、ファストフード店での注文体験を向上させます。 AIが注文を自動化し、待ち時間の短縮、注文処理の効率化、正確性の向上を実現します。 また、顧客の好みに合わせたメニューの提案や、多言語対応も可能です。 ウェンディーズでは、このエージェントを活用したFreshAIシステムを導入し、ドライブスルーのサービス時間短縮に成功しています。
これらのAIエージェントは、既存のシステムとの統合が容易で、カスタマイズ性も高いため、様々な業界での活用が期待されます。 Google Cloudは、これらのAIエージェントのデモやコンサルティングも提供しており、より詳細な情報や導入支援については、お問い合わせください。
引用元: https://cloud.google.com/solutions/vertical-ai-agents
あるブロガーが、自身のブログのアクセス数減少の原因を調査したところ、Google自体のトラフィックが1年前に比べて1/4に激減していることが判明しました。この現象に対し、他のユーザーからは「Googleはオワコンなのか？」「AIに検索を代替されているのではないか？」といった意見が出ています。また、Google検索で大手企業サイトが優遇表示されるため、ユーザーが有益な情報にたどり着きにくくなっているという指摘もあります。Bingも同様にトラフィックが減少しており、検索エンジンの利用自体が減少傾向にあるようです。ユーザーはSNSやAIサービスに情報を求めるようになっている可能性があり、Googleの今後の動向が注目されます。
引用元: https://togetter.com/li/2494342
（株式会社ずんだもんは架空の登場組織です）