株式会社ずんだもん技術室AI放送局

AIやテクノロジーのトレンドを届けるPodcast。平日毎朝6時配信。朝の通勤時間や支度中に情報キャッチアップとして聞いてほしいのだ。

株式会社ずんだもん技術室AI放送局 podcast 20241030

2024年10月30日

MP3ファイルをダウンロード

内容紹介

AIやテクノロジーに関する記事を紹介 GitHub - Integuru-AI/Integuru: An AI agent that builds third-party integrations through reverse engineering platforms internal APIs.、How the New Raspberry Pi AI HAT Supercharges LLMs at the Edge、AI Overviews in Search are coming to more places around the world

出演者

ずんだもん
ずんだもん

関連リンク

Integuruは、プラットフォームの内部APIをリバースエンジニアリングすることで、統合コードを生成するAIエージェントです。ブラウザのネットワークリクエストを記録したHARファイルと、実行したいアクションを記述したプロンプトを入力すると、そのアクションを実行するPythonコードを出力します。

具体的には、ユーザーがブラウザでアクションを実行した際のネットワークリクエストを分析し、依存関係グラフを生成します。このグラフは、目的のアクションに必要なリクエストとその依存関係を示しています。 例えば、請求書のダウンロードをしたい場合、アカウントIDやユーザーIDを取得するリクエストが依存関係としてグラフ上に表現されます。Integuruは、このグラフを辿りながら、各リクエストをPython関数に変換し、最終的に目的のアクションを実行する統合コードを生成します。

必要な設定としては、OpenAI APIキーの設定と、Poetryを用いたPython依存関係のインストールです。 create_har.pyスクリプトを用いてブラウザのネットワークリクエストを記録し、integuruコマンドを実行することで、コード生成が可能です。 生成されたコードは、プラットフォームの内部エンドポイントを呼び出して、指定したアクション(例えば、請求書のダウンロード)を実行します。

Integuruは、リクエストの依存関係グラフの生成、入力変数のサポート(コード生成への対応は近日予定)、コード生成機能を備えています。 現状、GPT-4相当以上のOpenAIモデルの使用が推奨されています。 このプロジェクトはオープンソースであり、貢献も歓迎されています。 開発元であるInteguru.aiは、カスタムインテグレーションや追加機能の開発、ホスティング、認証サービスも提供しています。

本要約は、GitHubリポジトリの概要と制約事項に焦点を当て、使用方法等の詳細は省略しています。 新人エンジニアにも理解しやすいよう、平易な言葉で説明しています。

引用元: https://github.com/Integuru-AI/Integuru

この記事は、ラズベリーパイ用の新しいAIアクセサリハット(AI HAT)が、エッジデバイス上で大規模言語モデル(LLM)の性能を大幅に向上させる方法について説明しています。 Novusteck社によるこのAI HATは、エッジコンピューティングにおけるLLMの実用化を促進する重要な技術革新です。

具体的な機能や使用方法の詳細については記事本文を参照いただくとして、本要約では概要と制約事項に焦点を当てます。 このAI HATは、限られたリソースを持つラズベリーパイのような小型デバイスでも、複雑なLLMを効率的に実行できるように設計されています。 これにより、電力消費や計算能力の制約から、これまでエッジでのLLM活用が困難だった様々なアプリケーションが可能になります。例えば、リアルタイム翻訳、音声認識、画像認識といったタスクを、クラウドに依存することなく、デバイス上で直接処理できるようになります。

ただし、このAI HATの使用にはいくつかの制約があると考えられます。 記事では明示的に記載されていないかもしれませんが、想定される制約として、処理できるLLMのサイズや複雑さには限界があること、リアルタイム処理に必要なデータ転送速度やメモリ容量の制限があることなどが挙げられます。 また、特定のLLMフレームワークやソフトウェアライブラリとの互換性、必要なセットアップ手順の複雑さなども、利用上の制約として考慮すべき点です。

本AI HATは、エッジAI分野における革新的な技術であり、IoTデバイスや組み込みシステムにおけるLLMの応用範囲を大きく広げると期待されます。 しかし、導入にあたっては、上記のような制約事項を十分に理解し、プロジェクトの要件に合致するかを慎重に検討する必要があります。 より詳細な仕様や使用方法については、記事本文やNovusteck社のウェブサイトを参照することをお勧めします。 新人エンジニアの皆さんは、このAI HATの可能性と同時に、その制約も理解した上で、適切なプロジェクトへの適用を検討してください。

引用元: https://blog.novusteck.com/how-the-new-raspberry-pi-ai-hat-supercharges-llms-at-the-edge

Google検索のAI概要表示機能が、100カ国以上に拡大されました。これにより、世界中の10億人を超えるユーザーが毎月この機能を利用できるようになります。日本語を含む複数の言語に対応し、ユーザーはより簡単に必要な情報を見つけ、関連性の高いウェブサイトを発見できるようになります。

この機能は、5月に米国でローンチされ、8月には米国以外への展開が行われました。ユーザーからのフィードバックは非常に肯定的で、検索結果の有用性が向上したと評価されています。今回の拡大により、より多くの国と言語でAI概要表示機能が利用可能になり、検索体験全体が向上します。

AI概要表示機能では、関連するウェブサイトへのリンクがより目立つように表示され、デスクトップとモバイルの両方でアクセスしやすくなっています。 これにより、パブリッシャー、企業、クリエイターとの連携機会も拡大します。広告はページ内の専用枠に表示され、オーガニック検索結果との明確な区別が維持されます。米国ではモバイルユーザー向けの関連クエリでAI概要表示機能内の広告が利用可能になり、ユーザーと製品・ブランドのマッチングが向上しています。

Googleは、AI概要表示機能以外にも、さまざまな質問への対応やオンラインコンテンツの探索を容易にするためのAI搭載機能の強化を継続しています。

引用元: https://blog.google/products/search/ai-overviews-search-october-2024/

(株式会社ずんだもんは架空の登場組織です)