shape

UClone - 使用 OpenSearch 最佳化大規模資料搜尋

概述

解決對話資料增長所導致的搜尋效能瓶頸，並提升 AI 回應品質

技術棧

  • Go

    Go

  • MySQL

    MySQL

  • PostgreSQL

    PostgreSQL

  • Redis

    Redis

  • OpenSearch

    OpenSearch

  • Docker

    Docker

  • GCP

    GCP

團隊

軟體工程師實習生

期間

2026.01 ~ 2026.03

詳細內容

  1. 概要
    • UClone 是一個以 LLM 為基礎的社群平台，能生成反映使用者人格特質（persona）的 AI 分身，並運用其支援業務代理與社群協作。
    • 我在一家位於矽谷的新創公司遠端工作，負責該服務的後端與前端開發，以及雲端基礎架構的維運。
  2. 問題背景
    • 隨著對話資料量增加，既有以資料庫為基礎的搜尋出現了效能瓶頸。
    • 此外，可注入 LLM 的上下文有限，使得提升 AI 回應品質受到限制。
  3. 解決方法
    • 建置 OpenSearch 叢集並將既有的資料庫搜尋遷移過去，改善了搜尋回應速度。
    • 設計對話資料的嵌入（embedding）管線並導入向量索引，使系統能檢索並注入更多上下文。
  4. 其他貢獻
    • 開發了包含 Go 伺服器在內的全端（Web、App）功能，並維運正式環境伺服器。
    • 建置以 GKE 為基礎的負載平衡器，並整合、最佳化 LLM API 以降低固定成本。
    • 與矽谷企業遠端協作，體驗了以每日站立會議為核心的敏捷開發。