hjjummy의 Dev Blog

최근 기업 Poc를 진행하면서 RAG 기반 질의응답 서비스를 로컬 개발 환경에서 테스트한 뒤, Ubuntu 서버 위에 Docker로 배포해 실제로 서비스화했다. 이번 글에서는 그 과정인📦 Streamlit + Milvus 기반 RAG 앱을💻 Ubuntu 서버에 Docker Compose로 배포하는 과정을처음부터 끝까지 정리했다. 본문 예시는 아래 두 파일을 기준으로 진행한다.docker-compose.ymlDockerfile⚙️ 1. 서버 준비하기✅ (1) 서버 선택먼저 RAG 서비스를 올릴 서버를 준비한다.클라우드AWS EC2, GCP VM, Naver CloudGPU 지원 필요 시 GPU 인스턴스온프레미스사내 서버, 연구실 서버SSH 접속 가능해야 함 ✅ (2) Ubuntu 설치권장 버전은 아래..

이번 글은 Streamlit 기반 RAG 앱을 Docker Compose로 배포과정을 실습 하면서 사용한 Docker 기본개념과 명령어들을 정리해보았다. 배포 환경은 다음과 같다 배포 환경OSUbuntu Server앱 프레임워크Streamlit코어 구성(프론트) Streamlit · (백엔드) RAG 서비스(FastAPI/LangGraph), 임베딩/리랭크 서비스데이터Milvus(벡터), PostgreSQL(로그/메타)배포Docker + Docker Compose포트 전략개발 8502 / 운영 8501운영 포인트volumes로 코드 핫리로드, restart: unless-stopped, healthcheck로 헬스 모니터링 처음엔 단순히 streamlit run app.py로만 구동했지만,운영 환경에서..

지난번 프로젝트에서는 내가 FastAPI 코드를 작성하고 Docker 환경을 구축하는 작업을 맡았었다.하지만 나는 서버에 직접 배포하는 단계 이전까지 수행했고, 실제로 EC2에 올려 서비스를 운영하는 부분은 다른 백엔드 파트 동료가 담당해주셨다. 이번에 인턴을 하면서 다시 FastAPI와 Docker 코드를 다뤄야 하는 상황이 생겼는데, 이번에는 단순히 코드 작성에서 그치지 않고 전체적인 흐름을 명확히 이해하고 싶다는 생각이 들었다.그래서 이번 글에서는 FastAPI, Docker, 그리고 EC2가 각각 어떤 역할을 맡는지를 정리하고, 이 세 가지가 어떻게 이어져 하나의 서비스로 완성되는지를 살펴보고, 다음 글에 이어서 FastAPI와 Docker를 각각 조금 더 깊게 파고들어 정리해보려고 한다. Fas..