株式会社ずんだもん技術室AI放送局 podcast 20240816
内容紹介
AIやテクノロジーに関する記事を紹介 Delight your customers with great conversational experiences via QnABot, a generative AI chatbot Amazon Web Services、Launch HN: Hamming (YC S24) – Automated Testing for Voice Agents、Gemma explained: An overview of Gemma model family architectures、｢コミケの度に思い出すとても親切な人、このツイート見つけてくれたりしないかなぁ...｣→15年前のコミケの思い出話を投稿したらまさかの本人が登場、奇跡的な再会を果たす
出演者
関連リンク
QnABot on AWSは、Amazon Bedrockのファウンデーションモデル（FM）とKnowledge Bases for Amazon Bedrockを活用した、フルマネージドなエンドツーエンドのRetrieval Augmented Generation（RAG）ワークフローを提供します。これにより、プライベートデータソースからのコンテキスト情報を提供し、豊かなコンテキストを持つ会話型エクスペリエンスを構築できます。
QnABotは、自然言語理解（NLU）を備えたマルチチャネル、マルチ言語のチャットボットを実現し、顧客エクスペリエンスを向上させるためのAWSソリューションです。柔軟な階層型会話インターフェースを提供することで、顧客が求める場所に適切な応答を提供します。
QnABotは、AWS CloudFormationテンプレートを使用して展開でき、コーディングは不要です。AWSのAIと機械学習（ML）サービスを使用し、音声、Web、テキスト（SMS）など、複数のチャネルと統合できます。
QnABotは、Amazon Bedrockを通じて複数のFMにアクセスできるため、顧客の言語ニーズ（スペイン語、英語、フランス語など）、質問の洗練度、ユーザーの意図に基づく応答の精度に合わせて、会話型インターフェースを作成できます。また、Knowledge Bases for Amazon Bedrockとのネイティブ統合により、事前構築されたデータソースコネクタ（Amazon Simple Storage Service - S3、Confluence、Microsoft SharePoint、Salesforce、Webクローラー）を介してデータソースから特定の関連データを取得し、自動的にテキスト埋め込みに変換して、選択したベクトルデータベースに保存できます。これにより、ソースの属性（引用など）とともに会社固有の情報を取得して、透明性を高め、幻覚を最小限に抑えることができます。
QnABotは、Amazon BedrockのFMとRAGを活用することで、顧客に豊かで人間らしい会話型エクスペリエンスを提供します。
QnABot on AWSの詳細については、https://aws.amazon.com/solutions/implementations/qnabot-on-aws/をご覧ください。
引用元: https://aws.amazon.com/blogs/machine-learning/delight-your-customers-with-great-conversational-experiences-via-qnabot-a-generative-ai-chatbot/
Hammingは、LLM音声エージェントの自動テストを行うサービスです。音声エージェントの開発では、様々な状況を想定したテストが重要ですが、従来は手動で行う必要があり、時間がかかっていました。Hammingでは、現実的なユーザーシナリオを自動生成し、音声エージェントをテストすることで、開発効率を向上させることができます。 サービスは、ユーザーシナリオの生成、音声エージェントへの自動通話、会話内容の評価、品質メトリクスの追跡など、4つのステップで構成されます。 Hammingは、TeslaやAndurilでの経験を生かし、音声エージェントのシミュレーション精度を高めることに取り組んでいます。将来的には、シナリオ生成や評価の自動化、リアルなユーザー会話に基づくシナリオの再現なども実現を目指しています。
引用元: https://news.ycombinator.com/item?id=41257369
Gemmaは、Googleが開発したGeminiモデルと同じ研究と技術に基づいて構築された、軽量で最先端のオープンモデルファミリーです。Gemmaは、テキスト入力とテキスト出力、コーディング、テキストと画像入力とテキスト出力など、さまざまなユースケースやモダリティに対応するように設計されています。また、ハードウェアの種類、推論のニーズ、その他の制約に合わせて、さまざまなサイズで提供されています。
Gemmaのアーキテクチャは、Transformerのデコーダーに基づいており、エンコーダーとデコーダーの両方が含まれる元のTransformerモデルとは異なり、デコーダーのみのモデルです。Gemma 7Bモデルは、28層のGemmaDecoderLayerブロック、16個のヘッドを持つマルチヘッドアテンション、3072次元の埋め込み、256,000の語彙サイズなどの重要なパラメーターを持っています。
Gemma 2Bモデルは、Multi Query Attention (MQA)を使用しており、これはMulti Head Attention (MHA)よりも効率的です。CodeGemmaは、コード補完とコーディングチャットアシスタンスのために最適化された、ファインチューニングされたGemmaモデルです。
このシリーズでは、Gemmaのアーキテクチャのさまざまな側面について解説し、モデルのパラメーターが生成にどのように影響するかを説明します。また、Gemmaの使用方法のコード例も提供します。
引用元: https://developers.googleblog.com/en/gemma-explained-overview-gemma-model-family-architectures/
ミリタリーマニアの女性「みりどる乙夜」さんが、15年前にコミケで出会った親切な男性を、Twitterで探しているという投稿をしました。男性は、みりどる乙夜さんが当時推していたアニメの紙袋を持っており、みりどる乙夜さんがその紙袋を手に入れる方法を尋ねたところ、男性は買いに行ってくれたそうです。男性は、みりどる乙夜さんのツイートを見て、自分がその男性だったのではないかとコメントしました。みりどる乙夜さんが当時の紙袋の写真を投稿したところ、男性は「たぶん自分がその人だ」と確信し、2人は奇跡的に再会を果たしました。みりどる乙夜さんは、男性が親切だったことを今でも鮮明に覚えており、再会できたことを喜んでいました。
引用元: https://togetter.com/li/2418750
（株式会社ずんだもんは架空の登場組織です）