株式会社ずんだもん技術室AI放送局 podcast 20240924
内容紹介
AIやテクノロジーに関する記事を紹介 Transforming home ownership with Amazon Transcribe Call Analytics, Amazon Comprehend, and Amazon Bedrock: Rocket Mortgage’s journey with AWS Amazon Web Services、Accelerate development of ML workflows with Amazon Q Developer in Amazon SageMaker Studio Amazon Web Services、The Practitioners Guide to the Maximal Update Parameterization、生成AIで英語学習が捗るようになった方法「ドラえもんをテーマにTOEIC500点用の長文を作って。」
出演者
関連リンク
米国の最大手住宅ローン会社であるRocket Mortgage社は、AWS上に構築されたAIツール「Rocket Logic – Synopsis」を導入し、顧客とのやり取りと業務効率を大きく改善しました。このツールは、Amazon Transcribe Call Analytics、Amazon Comprehend、Amazon BedrockといったAWSサービスを活用することで、顧客との通話内容を分析し、顧客満足度向上や業務自動化を実現しています。
具体的には、通話内容の自動要約により年間4万時間の業務時間を削減し、初回通話での解決率を10%向上させることで年間2万時間の削減に貢献しました。さらに、AIを活用したIVR（自動音声応答システム）により、70%の顧客がセルフサービスを利用するようになり、顧客体験の向上にも繋がっています。
Rocket Mortgage社は、AWSの導入にあたって「小さく始めて、学び、そして拡大する」というアジャイルなアプローチを採用しました。わずか10日間で3万件のサービスコールに対応するシステムを構築し、その後、運用と銀行業務の領域に拡大しました。
このソリューションの導入によって、Rocket Mortgage社は以下のような成果を上げています。
- 業務効率の向上: 通話内容の自動転写と感情分析により、年間4万時間の業務時間削減が見込まれています。
- 顧客体験の向上: AIを活用したIVRにより、70%の顧客がセルフサービスを利用するようになりました。
- 初回通話での解決率の向上: 初回通話での解決率が10%向上し、年間2万時間の業務時間削減に貢献しています。
Rocket Mortgage社は、今後、Rocket Logic – Synopsisをさらに進化させ、高度な予測分析、オムニチャネル対応、顧客嗜好のトラッキング、パーソナライズされた顧客体験の実現を目指しています。
本事例は、AIとクラウド技術を活用して顧客サービスを向上させ、業務を効率化するビジネスにとって貴重な示唆を与えてくれます。AWSサービスを活用することで、顧客とのやり取りと業務プロセスを迅速かつスケーラブルに変革できることを示しています。
引用元: https://aws.amazon.com/blogs/machine-learning/transforming-home-ownership-with-amazon-transcribe-call-analytics-amazon-comprehend-and-amazon-bedrock-rocket-mortgages-journey-with-aws/
Amazon SageMaker Studioに統合された生成AIアシスタント「Amazon Q Developer」は、機械学習（ML）ワークフローの開発を加速させるためのツールです。データ収集からモデル構築、デプロイ、メンテナンスまで、複雑なMLプロジェクトの様々な段階で、自然言語を用いたコード生成、ステップバイステップのガイダンス、エラーのトラブルシューティングなどを提供します。
Amazon Q Developerの主な機能
- SageMaker Studioとの統合: SageMaker StudioのJupyterLabノートブックから直接使用できます。
- 自然言語によるアシスタント: 自然言語で質問することで、コード生成やツール推薦、トラブルシューティングの支援を受けられます。
- コードのインラインサジェスチョン: コードを記述中に、コンテキストに応じたコードの提案を受けられます。
- チャット機能: MLプロジェクトの計画策定や、特定のタスクのためのコード生成、既存コードの説明などを依頼できます。
利用方法
Amazon Q Developerは、AWS Identity and Access Management (IAM)とAWS IAM Identity Centerのユーザーが利用できます。Pro TierとFree Tierがあり、それぞれ機能と料金が異なります。Pro Tierは、無制限のチャットとインラインコードサジェスチョンを提供します。Free Tierは、SageMakerサービスロールに関連するポリシーを追加することで利用できます。
データポリシー
Amazon Q Developerは、お客様のコンテンツをサービス改善のために利用することはありません。ただし、IDEレベルのテレメトリ共有では、サービスの利用状況（質問数、提案の採否など）が追跡される場合があります。この情報は、IPアドレスなどの個人情報や顧客コンテンツを含みません。テレメトリ共有をオプトアウトする方法は、SageMaker Studioの設定から行えます。また、管理者はライフサイクル構成スクリプトを使用して、デフォルトで全ユーザーのデータ共有を無効にすることも可能です。
まとめ
Amazon Q Developerは、データサイエンティストやMLエンジニアがMLワークフローを効率化し、開発時間を短縮するのに役立ちます。SageMaker Studioで利用可能で、Pro TierとFree Tierが用意されています。
引用元: https://aws.amazon.com/blogs/machine-learning/accelerate-development-of-ml-workflows-with-amazon-q-developer-in-amazon-sagemaker-studio/
EleutherAIとCerebrasによる共同プロジェクトであるμP（Maximal Update Parameterization）の実装ガイドを紹介します。μPは、ニューラルネットワークのトレーニングにおいて、モデル規模にわたって安定したハイパーパラメータを実現し、調整コストを削減、大規模なトレーニングの安定性を向上させる利点を持つ手法です。
μPを利用するメリット
従来の標準的なパラメータ化（SP）と比較して、μPは以下の4つの利点があります。
- μTransferによるモデル規模にわたる最適なハイパーパラメータの安定化: SPでは、モデルの幅が変化すると最適なハイパーパラメータも変化しますが、μPはネットワークを再パラメータ化することで、最適なハイパーパラメータを安定化させます。これにより、SPモデルで必要となる手動による調整作業を自動化できます。
- 大規模モデルにおける損失の改善: モデルサイズが大きくなると、ハイパーパラメータの探索がより高コストになるため、最適化されていない大規模モデルが作成される可能性があります。μPでは、小規模モデルで最適化されたハイパーパラメータを大規模モデルに転送することで、計算コストを抑えながら性能を向上させることができます。
- トレーニングの安定化: LLMトレーニングは不安定になりやすいですが、μPはハイパーパラメータ選択による不安定性を排除します。
- μTransferによる予測可能なスケーリング: 大規模トレーニングにおいて、μPはSPモデルよりも正確なスケーリング則のフィッティングを実現し、計算リソースとモデル性能の関係をより正確に予測できます。
μPの数学的基礎
μPは、各レイヤーの安定性を維持する不変量を適用することで、トレーニングをスムーズかつ効率的に行うことを目指します。具体的には、活性化値、勾配、重み更新のそれぞれについて、モデルの幅（次元数）の変化に影響されないように制御します。
実装方法
μPを実装するには、Transformerモデルの埋め込み、隠れ層、出力ロジット、Attentionロジットなどに、特定のパラメータ調整を行う必要があります。具体的には、隠れ層の学習率と初期化の分散をモデルの幅でスケールするなど、いくつかの変更を加えます。
検証方法
実装したμPが正しく動作しているかを検証するために、Coordinate Check TestとμTransfer Testを行うことができます。Coordinate Check Testは、異なる幅のモデルをトレーニングし、各レイヤーの活性化値の大きさがモデルの幅に依存しないことを確認します。μTransfer Testは、小規模モデルで最適化されたハイパーパラメータを大規模モデルに転送し、その有効性を確認します。
μPの活用
検証が完了したら、μPを大規模トレーニングに活用できます。小規模なプロキシモデルでハイパーパラメータのランダムサーチを行い、その結果を大規模モデルに転送することで、効率的にトレーニングを行うことができます。
本ガイドは、μPの導入を促進し、深層学習研究のレベル向上に貢献することを目的としています。
引用元: https://blog.eleuther.ai/mutransfer/
近年、生成AIを活用した英語学習が注目されています。深津貴之氏の発案では、生成AIに「自分の趣味をテーマにTOEIC500点レベルの長文を作成し、最終的に英語で文献を読めるように導いて」と指示することで、学習効果を高められるとされています。
具体的には、例えば「ドラえもん」をテーマにTOEICレベルの長文を生成AIに作成させ、それを学習するという方法です。これは、馴染みのある内容を英語で読むことで、単語や文法を理解しやすくなるという効果が期待できます。
この方法を実践したユーザーからは、「読める！読めるぞ！」といった喜びの声が多数上がっています。これは、自分が理解している内容を英語で表現することで、英語学習のモチベーションを維持しやすくなることを示唆しています。
生成AIを用いた英語学習は、学習者の興味関心に基づいた教材作成を可能にし、学習効果の向上に貢献すると期待されています。興味のある分野や好きなキャラクターなどを題材にすることで、より効果的に英語学習を進めることができるでしょう。
ポイント
- 生成AIは、学習者の興味関心に合わせた英語教材を作成するのに役立つ。
- 馴染みのあるテーマで学習することで、英語学習のモチベーションを維持しやすい。
- TOEICなどの英語試験対策にも活用できる可能性がある。
- 生成AIは、英語学習の新しい可能性を切り開くツールになりつつある。
新人エンジニアの方へ 生成AIは、様々な分野で活用が広がっています。英語学習以外にも、プログラミングのコード生成やドキュメント作成など、エンジニアの業務効率化にも役立ちます。ぜひ、今回の事例を参考に、生成AIを自身の業務や学習に活用してみてください。
引用元: https://togetter.com/li/2437797
（株式会社ずんだもんは架空の登場組織です）