株式会社ずんだもん技術室AI放送局 podcast 20240913
内容紹介
AIやテクノロジーに関する記事を紹介 Build stateful conversational AI agents with LangGraph and assistant-ui、Google Colab で Pixtral-12B を試す｜npaka、Enabling production-grade generative AI: New capabilities lower costs, streamline production, and boost security Amazon Web Services、「存在しない漫画の1コマbot」に登場した女の子が癖すぎて"存在しないのに"二次創作が殺到→公式投下で徐々に実態が明らかに...
出演者
関連リンク
LangChainと連携した新しいAIチャットフロントエンド「assistant-ui」が登場しました。これはReactアプリケーションに組み込めるツールで、会話型AIエージェントの構築を容易にします。
assistant-uiの主な特徴は、LLMの応答をストリーミング表示したり、ツール呼び出し結果を生成UIで分かりやすく表示したりできる点です。また、ユーザーがAIの行動を承認する「Human-in-the-loop」機能や、画像やドキュメントの入力に対応するなど、よりインタラクティブで使いやすいAIチャット体験を実現します。
さらに、LangGraph Cloudとの統合により、状態を保持した会話型AIエージェントを簡単に構築・デプロイできます。LangGraphは、AIエージェントの思考プロセスを管理し、状態を保持することで、より自然で複雑なタスクに対応できるようになります。
本記事では、LangGraphとassistant-uiの連携方法や、具体的な活用例として「Stockbroker Agent」が紹介されています。Stockbroker Agentは、株価情報取得、財務諸表分析、注文実行といった機能を備え、生成UIや承認UIを活用することで、ユーザーフレンドリーな投資支援AIとして機能します。
LangGraphとassistant-uiを組み合わせることで、開発者はAIエージェントの複雑な状態管理やUXデザインに煩わされることなく、より価値の高い機能に集中できます。これにより、より高度で使いやすいAIアプリケーションを迅速に開発できるようになります。
新人エンジニア向け補足
- LLM：大規模言語モデル。テキスト生成などを行うAIモデル。
- 生成UI：AIの処理結果を、ユーザーが理解しやすいように、表やグラフなどで可視化するUI。
- Human-in-the-loop：AIが判断を下す前に、人間が確認・承認する仕組み。
- React：Webアプリケーション開発に広く使われるJavaScriptライブラリ。
- LangGraph：LangChainが提供する、AIエージェントの思考プロセスや状態を管理するためのツール。
本記事で紹介されている技術は、会話型AIエージェントの開発において重要な役割を果たします。特に、状態を保持した複雑なタスクを扱うエージェントを構築したい場合は、LangGraphとassistant-uiの組み合わせが有効です。ぜひ、紹介されているドキュメントやサンプルコードなどを参考に、AIエージェント開発に挑戦してみてください。
引用元: https://blog.langchain.dev/assistant-ui/
この記事では、Google Colab上でMistralが開発したマルチモーダルモデル「Pixtral-12B」を試した手順と結果について解説しています。Pixtral-12Bは、テキストと画像を同時に処理できる点が特徴で、1024×1024ピクセルの画像や最大128000トークンのコンテキストを扱うことができます。OCRや情報抽出にも適しています。
Colabでの実行には、Hugging FaceのAPIキーが必要で、vllmなどのパッケージをインストールする必要があります。モデルのロード時にはメモリ消費を抑えるため、max_model_lenを4000に設定することが推奨されています。
実際に画像とプロンプトを与えて推論を実行した結果、画像の内容を的確に記述したテキストが出力されました。記事では、実行結果の出力例やメモリ使用量なども掲載されており、Pixtral-12Bの実力を確認できます。
制約事項として、記事中の動作確認はGoogle Colab Pro/Pro+のA100環境で行われているため、他の環境では動作が異なる可能性がある点に注意が必要です。
この記事は、Pixtral-12Bを試してみたいエンジニアにとって、具体的な手順や注意点が分かりやすくまとめられており、大変参考になるでしょう。特に、画像処理や自然言語処理に興味のある新人エンジニアは、ぜひ参考にしてみてください。
引用元: https://note.com/npaka/n/n32773066f08d
生成AIは、概念実証（POC）段階から本番環境への移行が進み、ビジネスや消費者のデータや情報との関わり方に大きな変化をもたらしています。AWSは、生成AIの本番環境利用における課題解決を目指し、コスト削減、生産性向上、セキュリティ強化といった機能強化に取り組んでいます。
課題: 生成AIモデルの構築・訓練・推論には、運用負荷、コスト、パフォーマンスの遅延など、多くの課題が存在します。特に大規模言語モデル（FM）の訓練では、数週間かかる場合もあり、インフラストラクチャの安定性と分散訓練の最適化が重要になります。推論フェーズにおいても、パフォーマンスとコスト効率の両立が求められています。さらに、本番環境では、安全で信頼性の高いモデル展開が必須となります。
AWSの取り組み: AWSは、これらの課題を解決するため、以下の機能強化を実施しています。
- Amazon SageMaker HyperPodへのAmazon EKSサポート: 大規模GPUクラスタのプロビジョニングと管理の負担を軽減し、Kubernetesの使い慣れたインターフェースで生成AIモデル開発を加速します。
- Amazon SageMakerの推論最適化ツールキット: 推論におけるスループットを最大2倍向上させ、コストを最大50%削減します。
- Amazon Bedrock Guardrails: プロンプトとモデルの応答をフィルタリングし、有害なコンテンツや個人情報（PII）をブロックする機能を提供します。
これらの機能により、企業は生成AIアプリケーションをより効率的かつ安全に本番環境に展開できるようになります。
事例: NFLは、AWSのAIツールを活用し、タックル分析を高度化することで、チーム、放送局、ファンに貴重なインサイトを提供しています。その他、Evolutionary Scale、Airtable、Slackなど、多くの企業がAWSの生成AIサービスを活用し、ビジネスを加速させています。
AWSのビジョン: AWSは、コスト、パフォーマンス、セキュリティの課題を解決することで、生成AIの民主化を推進し、より多くの企業や開発者が生成AIを活用できる環境を提供していきます。これにより、革新的なユースケースやアプリケーションが生まれ、社会に大きな価値をもたらすと考えています。
AWSは、生成AIの進化を支える重要な役割を担っており、今後も継続的に機能強化を進めていくことで、生成AIの本番環境利用を促進していくでしょう。新人エンジニアの皆さんも、AWSの生成AIサービスを活用することで、革新的なアプリケーション開発に貢献できるはずです。
引用元: https://aws.amazon.com/blogs/machine-learning/enabling-production-grade-generative-ai-new-capabilities-lower-costs-streamline-production-and-boost-security/
Twitterで「存在しない漫画の1コマbot」というアカウントが話題になっています。このアカウントは、架空の漫画の一コマを定期的に投稿しており、その独特な絵柄と魅力的なキャラクター、特に「黒々」という名の女の子が注目を集めました。
黒々というキャラクターは、botが投稿した漫画の一コマに登場するだけで、実際には存在しないキャラクターです。しかし、その魅力的なキャラクターデザインから、多くのユーザーがファンアートを作成するなど、二次創作が活発化しました。
黒々に対する人気は、botの投稿を見たユーザーたちが「実在して欲しい」「この漫画が存在しないのは世界の損失だ」といった反応を示すほどでした。
この状況を受け、botの運営側は、黒々を含む漫画の世界観や設定を徐々に公開し始めました。存在しない漫画のキャラクターが、ファンによって現実世界に広がり、公式によってその実態が明らかになるという、興味深い事例となっています。
この事例は、創作物の魅力がユーザーの想像力を刺激し、新たな創作を生み出す可能性を示しています。また、SNS上で拡散される情報が、現実世界に影響を与える事例としても注目に値するでしょう。新人エンジニアの皆さんも、このような事例から、ユーザーの行動やSNSの力について理解を深めていただければ幸いです。
引用元: https://togetter.com/li/2433327
（株式会社ずんだもんは架空の登場組織です）