詳細
- 概要
- UClone は、ユーザーのペルソナを反映した AI クローンを生成し、それを活用して業務の代行やソーシャルなコラボレーションを支援する LLM ベースのソーシャルプラットフォームです。
- シリコンバレーのスタートアップでリモート勤務し、サービスのバックエンドおよびフロントエンド開発と、クラウドインフラの運用を担当しました。
- 問題の背景
- 会話データの増加に伴い、既存の DB ベース検索に性能上のボトルネックが発生しました。
- また、LLM に注入できるコンテキストが限られており、AI 応答の品質を高めるうえで限界がありました。
- 解決方法
- OpenSearch クラスターを構築し、既存の DB 検索を移行することで検索の応答速度を改善しました。
- 会話データの埋め込みパイプラインを設計し、ベクトルインデックスを導入することで、より多くのコンテキストを検索・注入できるようにしました。
- その他の貢献
- Go サーバーを含むフルスタック(Web・アプリ)機能を開発し、本番サーバーを運用しました。
- GKE ベースのロードバランサーを構築し、LLM API を統合・最適化して固定費を削減しました。
- シリコンバレー企業とリモートで働きながら、デイリーミーティング中心のアジャイルな開発を経験しました。