Page: 16 / 105

AI / MLAWSLLM

Amazon Bedrockのモデル実行結果をStreamで受け取る方法

LLMを使用したアプリの開発では、ユーザーの待ち時間内にインタラクションを作成するために、Streamを使ってレスポンスを処理するのが一般的です。Amazon Bedrockでホストされているモデルを呼び出す際に、Streamでレスポンスを受け取る方法について調査しました。Bedrock Runtime ClientのInvokeModelWithResponseStreamを使用することで、Streamでの受け取りが可能です。ただし、必須項目としてmax_tokens_to_sampleを指定する必要があります。また、Claudeを使用する場合には、「Assistant:」で終わらせる必要があります。

Okamoto Hidetaka

AWSJavaScriptLangChain.jsNode.js

Amazon DynamoDBを利用して、LangChain.jsでの会話履歴を保存する

AlexaやLex / LINEなどのチャットボットは、ステートレスに作られており、過去の入力と返答は保存する必要があります。この記事では、Amazon DynamoDBを会話履歴DBとして使用する方法について調査しました。会話のセッションIDをキーとして、DynamoDBのテーブルを作成し、LangChain.jsを使用してDynamoDBを呼び出す方法を紹介しています。また、実際に会話データがDynamoDBに保存される構造と、セッションを復元する方法も説明されています。ただし、データの維持には注意が必要であり、Momentoなどのデータストアを検討することも推奨されています。

Okamoto Hidetaka

AI / MLJavaScriptLangChain.jsLLMNode.js

LangChainを利用して、GitHubリポジトリの情報からRAGを作る

ここ最近ずっとRAGやLangChainと格闘しています。DevRelとしての仕事で、仕事に関係するOSSやサンプルなどのコードを読んだり参照したりすることが少なく無い頻度であるのですが、RAGで効率化できないかというと […]

Okamoto Hidetaka

SaaS / FaaSSupabase

SupabaseのHeadless vector search試してみた

Supabaseの勉強も兼ねてGitHubのデモアプリを試しています。今回はベクトル検索のデモを触りました。プロジェクトをローカルにダウンロードし、Supabaseのアカウントでプロジェクトを作成。CLIコマンドでプロジェクトとサンプルアプリを紐付け、データベースのプッシュやAPIキーの設定、エッジファンクションのデプロイを行いました。最後にデプロイされたAPIを呼び出した結果も確認しました。このデモアプリは自動生成されたドキュメントなどからRAGを作る際に使えるようです。

Okamoto Hidetaka

JavaScriptNode.jsSaaS / FaaSSupabase

Supabase-jsでのDB操作と、Postgre functionの実行

SupabaseのJS SDKの使い方を調べた結果を共有します。データの取得は、SQLのfromとselectを組み合わせて行います。全てのデータを取得する場合はfromでテーブル名を指定し、selectを呼び出します。特定のカラムだけ取得する場合は、selectの第一引数にカラム名を指定します。また、SupabaseのSDKからPostgreSQLの関数を呼び出すこともできます。関数の実行結果はrpc()メソッドで取得できます。ベクトル検索を行う場合は、配列の長さに注意する必要があります。詳細は公式ドキュメントを参照してください。

Okamoto Hidetaka

AI / MLJavaScriptLangChain.jsLLMNode.js

LangChain.jsを利用して、任意のGitHubリポジトリの情報を利用したRAGを作ってみた

仕事柄、そしてAWS Community Builderや個人開発者として、いろんなツールやOSSを触ってみようとする機会が日々出てきます。が、全てをしっかりと把握し切るには時間が足りず、タブを積み上げている状態が継続し […]

Okamoto Hidetaka

SaaS / FaaSSupabase

Supabase CLIを触ってみた

SupabaseのCLIのインストール方法やログイン、ログアウト、管理系APIの使用方法などの基本的な操作方法について説明している記事です。CLIはnpmを使ってインストールすることが推奨されており、WindowsではScoopを使うこともできます。ログインやログアウトはコマンドから行い、Management APIの使用にはログインが必要です。また、CLIには自動補完機能もあり、Bash/Zsh/PowerShellに対応しています。

Okamoto Hidetaka

JavaScriptLangChain.jsNode.js

LangChainのJSONToolkitで、CloudFromationのJSONを読ませてみようとした覚書

JSONToolkitを使用してCloudFormationのJSONを読み込むために、JSONファイルを利用しました。読み込んだJSONファイルの内容を理解するために、JsonToolkitのサンプルコードをベースにしました。また、intermediateStepsを使用してデバッグしながら調整することもできました。ToolKitの処理の内部を確認するために、intermediateStepsの結果を表示していました。これにより、どのようなデータを渡すべきかがわかるかもしれません。

Okamoto Hidetaka

Next.jsReactSaaS / FaaSSupabase

SupabaseのAuth UIをNext.js ( App Router )で使ってみた

最近のIDP系サービスは認証系のUIライブラリも提供しており、今回はSupabaseのReact向けライブラリをNext.jsで利用してログインページを実装しました。SupabaseのAuth UI Reactパッケージを使うことで、SNSログインにも対応した簡単なUIが実装できました。テーマやCSSのカスタマイズも可能で、試してみた結果を今後の記事にする予定です。ただし、RSCでは使えないようです。また、use clientを外すとエラーが発生し、クライアント側での設計が必要です。参考記事はこちら：https://supabase.com/docs/guides/auth/auth-helpers/auth-ui

Okamoto Hidetaka

AWSJavaScriptNext.jsReact

Amazon DynamoDBとCognito User Pools + Next.jsで、簡単なブックマークシステムを実装する

このテキストは、特定のユーザーによって利用される有料のブックマーク機能についての説明です。DynamoDBとCognitoを使用して構築されており、APIの作成やデータの管理方法などが簡単にまとめられています。ブックマークの追加、削除、取得のための関数も提供されています。また、UIの作成にはReactとAmplify UIが使用されています。

Okamoto Hidetaka
Home
Search
Bookmark