株式会社ずんだもん技術室AI放送局 podcast 20240725
内容紹介
AIやテクノロジーに関する記事を紹介 Introducing Llama 3.1: Our most capable models to date、Meta Llama 3.1 now available on Workers AI、AWS AI chips deliver high performance and low cost for Llama 3.1 models on AWS Amazon Web Services、沖縄に台風が来る時、本土では絶対にしない対策をしている→「漫画みたいに飛んでく」「人間はひとたまりも無い」
出演者
関連リンク
Metaは、世界で最も強力なオープンソースAIモデルであるLlama 3.1をリリースしました。Llama 3.1は、128Kのコンテキスト長、8言語のサポート、および最先端の機能を備え、クローズドソースモデルに匹敵する性能を実現しています。Llama 3.1は、合成データ生成やモデル蒸留など、新しいワークフローを可能にします。Metaは、開発者が独自の機能を備えたエージェントを作成できるように、Llamaシステムを構築しています。このシステムには、Llama Guard 3やPrompt Guardなどの新しいセキュリティと安全性のツールが含まれています。Metaは、Llama Stack APIの提案を公開し、開発者からのフィードバックを求めています。Llama Stack APIは、サードパーティプロジェクトがLlamaモデルを簡単に利用できるようにするための標準インターフェースです。Llama 3.1は、AWS、NVIDIA、Databricks、Groq、Dell、Azure、Google Cloud、Snowflakeなど、25社以上のパートナーによってサポートされています。Llama 3.1は、llama.meta.comとHugging Faceからダウンロードできます。
引用元: https://ai.meta.com/blog/meta-llama-3-1/
Cloudflareは、オープンソースモデルを活用した開発者向けツール「Workers AI」に、Metaの最新LLMモデル「Llama 3.1 8B」を追加しました。Llama 3.1 8Bは、日本語を含む8言語に対応し、関数呼び出し機能も搭載しています。これにより、LLMが外部APIと連携してより複雑なタスクを実行できるようになりました。
Workers AIでは、Llama 3.1 8Bを無料で使用できます。また、Cloudflare独自の機能である「埋め込み関数呼び出し」と組み合わせることで、より効率的にLLMを活用することができます。
この新機能を活用して、様々なAIアプリケーションを開発してみて下さい。ただし、Metaの利用規約とライセンスを遵守する必要があります。
引用元: https://blog.cloudflare.com/meta-llama-3-1-available-on-workers-ai
AWSは、Llama 3.1モデルのファインチューニングと推論に、AWS TrainiumとAWS Inferentiaのサポートを追加しました。Llama 3.1モデルは、8B、70B、405Bの3つのサイズで提供され、多言語対応の大規模言語モデル（LLM）です。これらのモデルは、Amazon BedrockとAmazon SageMakerで利用できます。Amazon Bedrockは、AWS Trainiumを含む、専用のAIインフラストラクチャによって支えられており、これらの強力なモデルへのアクセスを簡素化し、AIアプリケーションの構築に集中できるようにします。より高度な制御が必要な場合は、Amazon SageMakerでLlama 3.1モデルをファインチューニングしてデプロイできます。AWS TrainiumとAWS Inferentia2は、Llama 3.1モデルのトレーニングと推論に高性能と低コストを提供します。これにより、開発者は、コスト効率の高い方法で独自のMLパイプラインを構築し、大規模言語モデルを活用したAIアプリケーションを構築できます。
引用元: https://aws.amazon.com/blogs/machine-learning/aws-ai-chips-deliver-high-performance-and-low-cost-for-meta-llama-3-1-models-on-aws/
沖縄では、台風が来ると軽自動車が飛んでしまうほどの強風が吹くため、住民は車にロープで固定する対策をしています。これは本土では見られない光景で、多くのユーザーが驚いています。沖縄の台風は本土のものとは規模が違い、軽自動車が飛ぶほどの強風は、本土では経験できないため、驚きの声が上がっています。沖縄では、台風対策として、車以外にも、家屋や窓ガラスにも対策が必要とされ、その対策の徹底ぶりが話題になっています。
引用元: https://togetter.com/li/2406910
（株式会社ずんだもんは架空の登場組織です）