株式会社ずんだもん技術室AI放送局 podcast 20240912
内容紹介
AIやテクノロジーに関する記事を紹介 Illuminate、Enabling complex generative AI applications with Amazon Bedrock Agents Amazon Web Services、GitHub - felafax/felafax: Felafax is building AI infra for non-NVIDIA GPUs、会社で老害になりそうだったので、AIに老害用語を言い換えてもらった「全員野球 → チーム全体の協力、ガッチャンコ → 統合・調整」
出演者
関連リンク
Illuminateは、Googleが提供する、音声データからノイズや不要な音声を除去する実験的なサービスです。現在、利用にはウェイティングリストへの登録が必要で、順番がきた際に利用開始の通知を受け取ります。
概要
Illuminateは、音声データの品質向上を目的とした、Googleの音声処理技術を活用した実験的なサービスです。音声データからノイズや不要な音声を除去し、よりクリアな音声を得ることが期待できます。
制約
現時点では、利用にはウェイティングリストへの登録が必須です。Googleは、利用開始の順番がきた際にユーザーに通知を送信する予定です。サービスの利用には、Googleアカウントが必要です。
補足
この要約では、サービスの利用方法や詳細な機能については触れていません。新人エンジニアが、Illuminateの概要を理解し、ウェイティングリストへの登録など、今後必要となるアクションを把握できるように、簡潔な説明に絞っています。
引用元: https://illuminate.google.com/home**
Amazon Bedrock Agentsは、複雑なワークフローを効率化し、自然で会話的なユーザーエクスペリエンスを提供する、インテリジェントでコンテキストを認識する生成AIアプリケーションを構築するためのAWSのサービスです。従来のLLMは単なる言語理解にとどまっていましたが、Bedrock AgentsはLLMを他のツールと組み合わせることで、より複雑なタスクに対応できるようになります。
例えば、旅行プランの作成を支援するAIアシスタントを開発する場合、Bedrock Agentsを使えば、LLMの推論能力に加えて、旅行APIへのクエリ、プライベートデータや公開情報へのアクセス、予算やユーザーの嗜好の管理など、様々な機能を統合できます。これにより、よりパーソナライズされた複雑な質問にも対応できるAIアシスタントを構築できます。
Bedrock Agentsは、LLM、オーケストレーションプロンプト、プランニング、メモリ、コミュニケーション、ツール統合、ガードレールという主要なコンポーネントで構成されています。LLMは基本的な推論能力を提供し、オーケストレーションプロンプトはLLMの意思決定プロセスをガイドします。プランニング機能は、抽象的なリクエストを具体的な実行可能なアクションに分解し、実行中に状況に合わせて計画を動的に更新できます。メモリ機能は、会話履歴や重要な情報を保存し、ユーザーの好みを学習してパーソナライズされたエクスペリエンスを提供します。コミュニケーション機能は、複数のエージェントを連携させることで、複雑な問題をより効率的に解決します。ツール統合機能は、様々なツールやリソースをLLMに接続し、コード生成やデータ分析などの機能を追加します。ガードレールは、AI生成コンテンツの精度と安全性を確保します。
Bedrock Agentsは、複雑なクエリを処理し、プライベートデータソースを利用し、責任あるAI原則を遵守するAIアプリケーションの構築と展開のための包括的なソリューションを提供します。開発者は、テスト済みの例やゴールデンユートランス、ゴールデンレスポンスを活用して、ユースケースに合わせたエージェントを構築し、生成AIアプリケーション開発を加速させることができます。
制約:
- Bedrock Agentsは、複雑な生成AIアプリケーションの構築を支援するサービスです。
- LLM、オーケストレーションプロンプト、プランニング、メモリ、コミュニケーション、ツール統合、ガードレールといったコンポーネントで構成されています。
- 複雑なクエリへの対応、プライベートデータの利用、責任あるAI原則の遵守を可能にします。
- 開発者は、テスト済みの例を活用して、ユースケースに合わせたエージェントを構築できます。
本要約が、新人エンジニアの方々の理解の一助となれば幸いです。
引用元: https://aws.amazon.com/blogs/machine-learning/enabling-complex-generative-ai-applications-with-amazon-bedrock-agents/
Felafaxは、NVIDIA以外のGPU（TPU、AWS Trainium、AMD GPU、Intel GPUなど）でAIワークロードを実行しやすくするためのインフラストラクチャを構築しているオープンソースのフレームワークです。特に、Google Cloud TPU 上でLLaMa 3.1などの大規模言語モデル（LLM）を効率的に微調整・継続学習するための環境を提供しています。
概要
Felafaxは、XLAランタイムを活用することで、LLMのトレーニングを容易にし、コスト削減とスケーラビリティを実現することを目指しています。Jupyter Notebookを用いた直感的な操作性と、単一TPU VMから最大6000コアのTPU Podまでスケール可能な設計が特徴です。
制約
Felafaxは現在、LLaMa 3.1 (JAX実装、PyTorch XLA実装)、Gemma2モデルなどをサポートしています。今後、対応モデルは増加していく予定です。
新人エンジニア向け補足
- XLAランタイム: Googleが開発したコンパイラで、機械学習モデルの計算を効率化し、GPUやTPUなどのハードウェアを最大限に活用できるようにします。
- LLaMa: Meta AIが開発した大規模言語モデルです。
- TPU: Googleが開発した、機械学習に特化したプロセッサです。
- LoRA: LLMのトレーニングコストを削減するための技術です。
Felafaxは、NVIDIA GPUに頼らずにLLMのトレーニングや研究開発を進めたいエンジニアにとって、非常に魅力的な選択肢となるでしょう。特に、Google Cloud TPUを活用したAI開発に興味がある方は、ぜひチェックしてみてください。
引用元: https://github.com/felafax/felafax
近年、ビジネスシーンで聞かれる「全員野球」や「ガッチャンコ」といった、若手からすると少し古臭く感じる言葉があります。これらの言葉は、時に誤解を生んだり、相手に不快感を与えてしまう可能性も孕んでいます。
Twitterユーザーの「からあげ」さんは、このような状況を避けるため、AIにこれらの老害用語を現代的な表現に言い換えてもらう試みを行いました。「全員野球」は「チーム全体の協力」、「ガッチャンコ」は「統合・調整」といったように、より分かりやすく、かつ丁寧な表現に置き換えることが可能です。
他にも、「エイヤー」「鉛筆なめなめ」「一丁目一番地」など、AIによる言い換え例が紹介されています。しかし、AIによる言い換えは、必ずしも元の言葉のニュアンスを正確に捉えているとは限りません。例えば「鉛筆なめなめ」は、AIでは「丁寧に確認」と解釈されていましたが、本来は「いい加減に数字を調整する」といったネガティブな意味合いを持つ場合もあるようです。
このまとめでは、AIによる言い換えの例だけでなく、Twitterユーザーからの様々な意見や解釈も紹介されています。エンジニアとして、これらの言葉が持つ本来の意味や、状況に合わせた適切な表現を選ぶことが重要です。新人エンジニアの皆さんは、この機会に、ビジネスシーンで使う言葉について改めて考えてみてはいかがでしょうか。より円滑なコミュニケーションを図るためにも、時代に合わせて言葉遣いをアップデートしていくことが求められます。
引用元: https://togetter.com/li/2432894
（株式会社ずんだもんは架空の登場組織です）