dev-lee 님의 블로그

  • 홈
  • 태그
  • 방명록

2026/05/29 1

LLM 2 - 서비스 구축 실습

LLM 서비스 구축 · RAG프롬프트 엔지니어링 개념을 실제 동작하는 서비스로 구현함.Streamlit(프론트) + FastAPI(백엔드) + Bedrock + LangChain으로 "식사 메뉴 추천 AI"를 구성하고,이후 RAG + Vector DB(FAISS)를 도입하여 LLM이 모르는 데이터를 추론에 활용함.1. 서비스 아키텍처화면(Streamlit)과 API(FastAPI)를 분리하고, LLM 호출은 별도 모듈로 격리하는 계층형 구조로 설계함.1.1 구성 요소 계층 역할 기술 프론트엔드채팅 화면, 입력/출력 처리Streamlit백엔드/chat API 제공, 프론트 ↔ Bedrock 중계FastAPI + uvicornLLM 모듈프롬프트 구성, Bedrock 호출, 체인 구성LangChain ..

SK플래닛 ai활용 데이터엔지니어 과정 2기/ML & DL 2026.05.29
이전
1
다음
더보기
프로필사진

dev-lee 님의 블로그

dev-lee 님의 블로그 입니다.

  • 분류 전체보기 (93)
    • AI 뉴스 (13)
    • SK플래닛 ai활용 데이터엔지니어 과정 2기 (75)
      • 파이썬 (13)
      • SQL (1)
      • AWS (4)
      • 쿠버네티스 (7)
      • Airflow (23)
      • 데이터 처리 (6)
      • ML & DL (18)
    • 프로그래머스 1단계 (5)
    • 가사 해석 (0)

Tag

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2026/05   »
일 월 화 수 목 금 토
1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
31

방문자수Total

  • Today :
  • Yesterday :

Copyright © AXZ Corp. All rights reserved.

티스토리툴바