UClone - OpenSearch로 대규모 데이터 검색 최적화하기

상세 내용

1. 개요

   • UClone은 사용자의 페르소나를 반영한 AI 클론을 생성하고, 이를 활용해 업무 대행 및 소셜 협업을 지원하는 LLM 기반 소셜 플랫폼입니다.
   • 실리콘밸리 소재 스타트업에서 원격으로 근무하며 서비스의 백엔드 및 프론트엔드 개발과 클라우드 인프라 운영을 담당하였습니다.

2. 문제 배경

   • 대화 데이터가 증가하면서 기존 DB 기반 검색에 성능 병목이 발생하였습니다.
   • 또한 LLM에 주입할 수 있는 컨텍스트가 제한되어 AI 응답 품질을 높이는 데 한계가 있었습니다.

3. 해결 방법

   • OpenSearch 클러스터를 구축하고 기존 DB 검색을 마이그레이션하여 검색 응답 속도를 개선하였습니다.
   • 대화 데이터의 임베딩 파이프라인을 설계하고 벡터 인덱싱을 도입하여, 더 많은 컨텍스트를 검색하고 주입할 수 있게 하였습니다.

4. 그 외 기여

   • Go 서버를 포함한 풀스택(웹, 앱) 기능을 개발하고 프로덕션 서버를 운영하였습니다.
   • GKE 기반 로드 밸런서를 구축하고 LLM API를 통합·최적화하여 고정 비용을 절감하였습니다.
   • 실리콘밸리 기업과 원격으로 근무하며 데일리 미팅 중심의 애자일한 개발을 경험하였습니다.