stackbook

← 作るもの

AI・LLMプロダクト

LLM API、RAG、エージェント

条件DB中心 · PaaS · 1〜2人 · MVP · 制約なし

推奨:TypeScript

推奨

TypeScript

  • フロントと同じ言語に揃えられ、API呼び出し中心の処理に向くTypeScript(§2-10 手順2)

構成行を開くと詳細(乗り換える条件・根拠・費用・習熟度)

フロントNext.js(ストリーミング表示)

Next.js

公式サイト ↗

既定:アプリ(SSR・フルスタック)フロントエンド

乗り換える条件

  • TanStack StartVercel依存を避けたい、クライアント主体で型安全なルーティングを重視するとき
  • React Router(フレームワークモード)Remix系の資産があるとき

代替:画面Elixir(BEAM)

既定は Phoenix LiveView(サーバー主導でリアルタイムUI)。フロントをReactで作りたいとき に乗り換える。

代替:静的サイト・コンテンツ中心フロントエンド

既定は Astro。同じリポジトリでアプリ部分も持つとき に乗り換える。

代替:同一リポジトリ内のフロント⇔バック(TS同士)API設計

既定は Hono RPC。Next.jsの中で完結し、別プロセスのAPIを持たないとき に乗り換える。

成長したら → ECS/Cloud Run(コンテナ)§24

きっかけ
費用の増加、AWSに集約したい
最初からの備え
Next.jsのstandalone出力でコンテナ化できる状態を保つ。Vercel固有の機能への依存を最小にする

ケース別の構成§19

  • EC(独自要件が多い)フロント:Next.js+shadcn/ui
  • 自社SaaS(B2B)フロント:Next.js+shadcn/ui+TanStack Query
  • toCサービス(Web+モバイル)Web:Next.js
  • AI/LLMプロダクトフロント:Next.js(ストリーミング表示)
  • 個人開発・MVPTS全部入り:Next.js+Supabase+Vercel

習熟度

AIバックエンドLLM API呼び出し中心ならHono(TS)、埋め込み・ML処理があるならFastAPI(uv、Ruff、Pydantic)

TypeScript

公式サイト ↗

言語別の既定§2-1

選ぶ場面§2-10

  • 実行環境がエッジ(Cloudflare Workers等)
  • DBの読み書きと業務ロジックが中心ボトルネックはDB。言語の性能差はほぼ効かないので、開発速度とチームで選ぶ
  • 外部APIの待ち時間が中心非同期I/Oの書きやすさと、フロントとの型共有
  • サーバーレスのイベント処理起動が速く、AWS SDKが充実。起動速度を詰めるならGo
  • GraphQLサーバーGraphQLのツール群がTypeScript中心

既定:一般的なWeb API・SaaSのバックエンド作成物ごとの言語の決め方

乗り換える条件

  • Go3人以上で公開APIを長期運用するとき(§2-10 手順3)

負荷の性質で決まる場合は §2-10 を優先する

既定:エッジ関数作成物ごとの言語の決め方

乗り換える条件

既定:LLM API呼び出し中心のAIアプリ作成物ごとの言語の決め方

乗り換える条件

  • Python埋め込み処理や評価などML系ライブラリを本格的に使うとき

既定:スクリプト・社内の小さな自動化作成物ごとの言語の決め方

乗り換える条件

  • Go単一バイナリで配りたいとき
  • シェルスクリプト数行で済むとき

代替:CRUD中心のWebアプリ・管理画面作成物ごとの言語の決め方

既定は Rails(画面の多い業務システムを最も速く作れる)。外部API連携が中心、またはReactで画面を作り込みたいとき に乗り換える。

代替:CLIツール作成物ごとの言語の決め方

既定は Go。社内向けでnpmの資産を使いたい に乗り換える。

代替:ブラウザ内の重い処理(画像・動画処理、暗号、大量データの解析)作成物ごとの言語の決め方

既定は Rust → WebAssembly。処理がそこまで重くないとき に乗り換える。

採用の根拠§22-2

GitHubのOctoverse 2025(https://octoverse.github.com/)で、2025年8月に月間コントリビューター数でPythonとJavaScriptを抜き最も使われる言語になった。Next.jsやAstroなど主要フレームワークが既定でTypeScriptのプロジェクトを生成する。型によって多くの不具合をリリース前に検出でき、AIによるコード生成の誤りも型チェックで拾いやすい。フロントとバックエンドを1言語で書ける

「JavaScriptより難しいのでは」→ 型は段階的に導入でき、エディタ補完が効くぶん学習もしやすい

成長したら → 一部をGo/Rustに切り出し§24

きっかけ
CPU負荷・レイテンシがボトルネックになった
最初からの備え
APIをOpenAPIで定義しておき、実装言語を差し替えられるようにする

ケース別の構成§19

  • EC(独自要件が多い)コマースエンジン:Medusa(TypeScript)
  • AI/LLMプロダクトAIバックエンド:LLM API呼び出し中心ならHono(TS)、埋め込み・ML処理があるならFastAPI(uv、Ruff、Pydantic)

習熟度

uv

公式サイト ↗

既定:バージョン・依存管理Python(AI/ML、データ処理が必要な場合に限定)

乗り換える条件

  • Poetry既存プロジェクト

ケース別の構成§19

  • AI/LLMプロダクトAIバックエンド:LLM API呼び出し中心ならHono(TS)、埋め込み・ML処理があるならFastAPI(uv、Ruff、Pydantic)
  • データ基盤・バッチ変換:Python+Polars(uv、Ruff)

Ruff

公式サイト ↗

ケース別の構成§19

  • AI/LLMプロダクトAIバックエンド:LLM API呼び出し中心ならHono(TS)、埋め込み・ML処理があるならFastAPI(uv、Ruff、Pydantic)
  • データ基盤・バッチ変換:Python+Polars(uv、Ruff)

Pydantic

公式サイト ↗

ケース別の構成§19

  • AI/LLMプロダクトAIバックエンド:LLM API呼び出し中心ならHono(TS)、埋め込み・ML処理があるならFastAPI(uv、Ruff、Pydantic)
DB・ベクトルPostgreSQL+pgvector

PostgreSQL

公式サイト ↗

既定:RDBDB本体とホスティング

乗り換える条件

  • MySQL既存システムとの互換が必要なときのみ

採用の根拠§22-2

OSSでライセンス費用がかからない。AWS、GCP、Azureを含む主要クラウドがすべてマネージド版を提供している。拡張機能(pgvector、pg_bigm)でベクトル検索や日本語全文検索までこなせるため、専用DBを増やさずに済む

「MySQLの方が一般的では」→ 機能・標準SQLへの準拠・拡張性で優位。移行ツールも揃っている

ケース別の構成§19

  • 業務システム・社内ツール(Rails構成)DB:PostgreSQL
  • 業務システム・社内ツール(TypeScript構成)DB:PostgreSQL+Drizzle
  • 自社SaaS(B2B)DB:PostgreSQL(テナントIDカラム+Row Level Security)
  • AI/LLMプロダクトDB・ベクトル:PostgreSQL+pgvector
  • 個人開発・MVPGo単体:Go+PostgreSQL+htmx

習熟度

pgvector

公式サイト ↗

成長したら → Qdrant§24

きっかけ
§23-1 の目安を超えた
最初からの備え
ベクトル検索を専用のインターフェース経由で呼ぶ

ケース別の構成§19

  • AI/LLMプロダクトDB・ベクトル:PostgreSQL+pgvector
長時間処理Temporal、またはInngest

Temporal

公式サイト ↗

選ぶ場面§2-10

  • 長時間ワークフローリトライ・待機・状態保持をエンジンに任せる

既定:ワークフローキャッシュ・キュー・ストリーム

乗り換える条件

代替:ジョブPython(AI/ML、データ処理が必要な場合に限定)

既定は Celery。長時間ワークフロー に乗り換える。

ケース別の構成§19

  • AI/LLMプロダクト長時間処理:Temporal、またはInngest
  • データ基盤・バッチワークフロー:Temporal

習熟度

Inngest

公式サイト ↗

代替:ジョブキューTypeScript(Node.js)

既定は pg-boss(Postgresベース、§4-3)。サーバーレス環境でワークフロー(リトライ・待機・ステップ実行)が必要なとき に乗り換える。

代替:ワークフローキャッシュ・キュー・ストリーム

既定は Temporal(長時間・複雑なもの)。サーバーレス環境 に乗り換える。

ケース別の構成§19

  • AI/LLMプロダクト長時間処理:Temporal、またはInngest
評価・トレースLangfuse

Langfuse

公式サイト ↗

ケース別の構成§19

  • AI/LLMプロダクト評価・トレース:Langfuse
監視Sentry+OpenTelemetry

Sentry

公式サイト ↗

既定:エラー監視監視・可観測性・運用

既定:RUM(実ユーザーの表示速度)監視・可観測性・運用

乗り換える条件

既定:エラー時のユーザー問い合わせプロダクト分析・機能フラグ

採用の根拠§22-2

障害の検知と原因特定の時間を短縮できる。計装をOpenTelemetryにしておけば、監視サービスを後から変更できる

「費用がかかる」→ 無料枠・サンプリングで調整できる。障害の長期化による損失の方が大きい

費用の注意§25

主な課金の軸
エラー数、トレースのスパン数、セッションリプレイ数、ログ量
膨らみやすい要因
同じエラーの大量発生、トレースの全量送信
対策
トレースのサンプリング率を設定する。既知のノイズを除外する

ケース別の構成§19

  • EC(独自要件が多い)監視:Sentry+Grafana Cloud
  • 自社SaaS(B2B)監視:Sentry+OpenTelemetry+Grafana Cloud
  • AI/LLMプロダクト監視:Sentry+OpenTelemetry
  • データ基盤・バッチ監視:Sentry(Cron Monitoringで実行漏れを検知)
  • モバイルアプリ単体監視:Sentry

習熟度

OpenTelemetry

公式サイト ↗

既定:計装Elixir(BEAM)

既定:計装(トレース・メトリクス)監視・可観測性・運用

採用の根拠§22-2

障害の検知と原因特定の時間を短縮できる。計装をOpenTelemetryにしておけば、監視サービスを後から変更できる

「費用がかかる」→ 無料枠・サンプリングで調整できる。障害の長期化による損失の方が大きい

ケース別の構成§19

習熟度

§19-8の構成

構成図 AI/LLMプロダクト

flowchart TB
  U["ユーザー"] --> FE["Next.js<br/>ストリーミング表示"]
  FE --> API["Hono または FastAPI"]
  API --> LLM["LLM API"]
  API --> DB[("PostgreSQL+pgvector")]
  API --> WF["Temporal/Inngest<br/>長時間処理"]
  API --> LF["Langfuse<br/>評価・トレース"]

利用規約・データ取り扱い(学習への利用有無、保存リージョン)を利用者に説明できる状態にしておく。

作り始める

共通の準備

# 言語・ツールのバージョン固定(使う言語だけ)
mise use node@lts pnpm@latest
mise use go@latest
mise use ruby@latest
mise use python@latest uv@latest

# Gitフックと依存更新
pnpm add -D lefthook && pnpm exec lefthook install
# renovate.json を置き、GitHubでRenovateアプリを有効化する

AI/LLMプロダクト(§19-8)

# Python(ML系の処理がある場合)
uv init ai-api && cd ai-api
uv add "fastapi[standard]" sqlalchemy alembic pgvector httpx
uv add --dev ruff pytest pyright

次に読む