Page: 20 / 108

AI / ML AWS JavaScript LangChain.js LLM Node.js SaaS / FaaS

LangChainからAmazon Bedrock Knowledge Baseでインデックスを生成したPineconeインデックスにアクセスする

以前BerdockのKnowledge Baseを使ってEmbeddingしたデータのインデックスを作っていた。Pineconeをベクターストアに使用し、LangChainから利用することに興味があったため、実験を行った。結果は成功し、S3のデータを取得できた。次にはRAGのようなものを作成するために、BedrockのSDKを追加し、Chainを組んでいく予定。また、BedrockChatモデルを使った場合も試してみたが、調整が必要であることがわかった。

公開日: 2023/12/25

最終更新日: 2023/12/25

AI / ML JavaScript LangChain.js LLM Node.js

LangChain.jsで作成済みのChainをToolとして登録する方法

この記事は「LangChain Advent Calendar 2023」の24日目の記事です。ToolsとChainを組み合わせて使うことで、LangChainがサポートしていない任意のAPIを呼び出して結果を生成することができます。ただし、Toolsを使う場合はChainではなくAgentExecutorを使う必要があります。ChainをCustom Toolsとして登録するのがベストプラクティスです。具体的な使い方や実装方法については記事で詳しく解説されています。

公開日: 2023/12/24

最終更新日: 2023/12/17

AI / ML JavaScript LangChain.js LLM Node.js

LangChainでファイルの拡張子ごとにSplitterを変える

LangChainのSplitterは、プログラム言語に対応したEmbedding生成ドキュメントの分割をサポートしています。GitHubから読み込んだファイルに対して、拡張子に基づいてSplitterを変更するコードが示されています。さらに、CartProviderをカスタマイズする方法も解説されています。プロパティを設定することで、CartProviderの動作をカスタマイズすることができます。ただし、いくつかの問題点も指摘されています。

公開日: 2023/12/24

最終更新日: 2023/12/24

AI / ML JavaScript LangChain.js LLM Node.js

LangChain.jsのToolsを使って、WordPressのAPIを呼び出すCustom toolsを作ってみた

この記事では、「LangChain Advent Calendar 2023」の23日目の記事として、LangChainで外部データを検索する方法としてToolsの使用方法について紹介しています。具体的には、WordPressのデータソースを利用する方法を例として挙げています。また、動作を確認するためのサンプルコードとその実行結果も示しています。さらに、WordPressのREST APIを呼び出すToolを作成し、LangChainに組み込む方法についても説明しています。

公開日: 2023/12/23

最終更新日: 2023/12/23

SaaS / FaaS

Vercelでrewriteの設定をvercel.jsonもしくはServerless Functions with Honoで行う

マイクロフロントエンドの実装方法として、Vercelを使用した2つの方法が紹介されています。1つ目はvercel.jsonでリライトルールを設定し、別のサイトのURLを指定する方法です。下層ページがある場合には正規表現を使用します。2つ目はHonoとServerless Functionsを使用し、コードで実装する方法です。vercel.jsonにHonoのソースコードを配置し、api/index.tsでリライトの実装を追加します。実現したい要件によってはvercel.jsonのリライトでは満たせない場合もありますが、JSONファイルだけで実現できる場合はコードを書く必要はありません。ただし、設定項目やレスポンスのカスタマイズが必要な場合もあるため、やり方を知っておくことは役に立つかもしれません。

公開日: 2023/12/23

最終更新日: 2023/12/23

AI / ML JavaScript LangChain.js LLM Node.js

LangChain.jsの動作確認コストを抑えるため、FakeLLMを利用する

LangChainを使用すると、複数のモデル呼び出しやベクトル検索、データ処理などのワークフローを簡単に作ることができます。しかし、LLMのAPIを呼び出すたびにコストが心配になる場合もあります。そこで、FakeLLMがLangChain / LangChain.jsに用意されており、ダミーのLLMとして使用できます。FakeLLMでは言語モデルをLLMまたはChatモデルとして利用できます。また、FakeListLLMを使用することで、ダミーの返答文章を配列で設定し、呼び出すたびに順番に返すことができます。さらに、sleepを使用することでレスポンスの遅延をシミュレートすることも可能です。

公開日: 2023/12/22

最終更新日: 2023/12/22

AI / ML Cloudflare Hono / Sonik JavaScript LangChain.js LLM Node.js SaaS / FaaS

Cloudflare Workers / R2 / Hono / LangChain.jsを使ってRAGを作ってみる

この記事は、特定のアドベントカレンダーに関連しており、CloudflareとHonoの利用方法について説明されています。記事では、ベクターストアの作成や定期的なデータの取り込み処理などが紹介されています。また、自分のブログを参照したり、HonoでAPIを実装する方法やGUIアプリケーションの作成についても説明されています。しかしながら、Cloudflare Vectorizeの使用やFAISSの利用も検討する必要があると述べられています。

公開日: 2023/12/22

最終更新日: 2023/12/22

WordPress

カスタムブロックでサーバー側の処理を走らせるようにする覚書

「registerBlockType」関数を使用する際、保存時の処理をサーバー側で実行するために「save」を外す必要があります。また、「attributes」に「source」を追加するとデータの受け渡しがうまくいかないことが分かりました。これはおそらく、「save」を使用する際に利用される（例えば、imgタグのsrcを取得するなど）ものだと解釈しています。描画には「render」でPHPファイルのパスを指定します。また、render.phpでは、テーマのテンプレートパーツのように使用できます。get_block_wrapper_attributes()を使用してクラス名などを取得することができます。また、「$attributes」には、block.jsonで設定したattributeが連想配列形式で入ってきます。ビジュアルエディタブロックの作成方法やregisterBlockType、block.jsonの書き方、render.phpで利用できる関数について理解するのに苦労する可能性があります。しかし、そこを乗り越えれば、WordPressのPHPの書き方に馴染むこともできるでしょう。

公開日: 2023/12/21

最終更新日: 2023/12/22

JavaScript LangChain.js Node.js

Faiss-node + LangChainでEmbeddingしたベクトルデータをAmazon S3に保存・ロードする

FAISSを使用することで、Embeddingしたベクトルデータをローカルファイルとして保存・読み込みができるようになります。しかし、ファイル保存先をAmazon S3に置きたいという要望があります。この記事では、S3にFAISSのインデックスを配置する方法を試行錯誤しながらまとめています。また、具体的な保存や読み込みの処理も提供されています。S3以外にもCloudflare WorkersやFirebaseなどでも利用可能です。

公開日: 2023/12/21

最終更新日: 2023/12/21

AI / ML JavaScript LangChain.js LLM Node.js

LangChain (Amazon Bedrock & Claude)で、文章から検索キーワードを抽出してみた

この記事はLangChain Advent Calendar 2023の22日目の記事です。LangChainやLLMを使ってデータを検索する仕組みを作る際、一般的にはベクターストアなどのRAGを利用することが多いですが、コストや案件規模によってはより簡素な仕組みでも十分です。この記事ではGoogle検索のような「文章で検索できる仕組み」を作る方法を紹介しています。具体的な処理方法やコードの実装例も掲載されています。

公開日: 2023/12/21

最終更新日: 2023/12/21