dev-lee 님의 블로그

1. 이번 단계에서 달라지는 것⑥편까지 에이전트는 "돌아가긴" 했다. 하지만 어느 단계에서 느린지, 토큰을 얼마 쓰는지는 print 로그로 짐작할 뿐이었음. 이번에는 LangSmith를 붙여 전 과정을 추적·계량한다.에이전트가 MCP 도구·RAG·멀티 노드로 복잡해질수록, "왜 느리지 / 비용이 얼마지 / 어디서 실패했지"를 코드 밖에서 봐야 함. LangSmith는 LangChain/LangGraph 실행을 자동으로 추적해 대시보드로 보여주는 관측 도구다.데이터 흐름(Flow) — 사용자 입력 → LLM → Tool → 최종 응답까지 각 단계가 자동 기록됨.처리 시간(Latency) — 전체·LLM·Tool 실행 시간을 단계별로 분해해 병목을 찾음.성능 지표(Metrics) — 토큰 사용량, API 호..

1. 이번 단계에서 달라지는 것지금까지 도구는 코드 안에 들어있었다. 이번에는 도구를 별도 프로세스(MCP 서버)로 분리하고, 표준 프로토콜로 통신하며 가져다 쓰는 구조를 만들었음.2편에서 @tool 데코레이터로 만든 곱셈 함수는 에이전트와 같은 파일·같은 프로세스 안에 있었다. 이번에는 도구를 MCP(Model Context Protocol) 서버로 떼어내고, 에이전트는 그 서버에 접속해 도구 목록을 받아온 뒤 LangChain 도구로 변환해 LLM에 바인딩하였음.MCP 서버 — 도구의 구현체. 이름·인자·반환 스키마를 외부에 노출함. 에이전트와 분리된 별도 프로세스로 동작.MCP 클라이언트 — 서버에 접속해 도구 목록을 조회하고, 도구를 호출(JSON-RPC)하는 통로.도구 어댑터 — MCP 도구를 ..

1. Anthropic, 650억 달러 조달하며 OpenAI 제치고 AI 기업 가치 1위 등극Anthropic이 시리즈 H 라운드에서 **650억 달러(약 88조 원)**를 조달하며 포스트머니 기준 기업가치 9,650억 달러를 기록했습니다. 5월 28일 발표된 이번 라운드로 Anthropic은 지난 3월 8,520억 달러로 평가된 OpenAI를 처음으로 추월하며, 세계에서 가장 가치 있는 AI 기업 자리에 올랐습니다.이번 라운드는 Altimeter Capital, Dragoneer, Greenoaks, Sequoia Capital이 주도했고, Capital Group·Coatue·D1·GIC·ICONIQ·XN 등이 공동 리드로 참여했습니다. Baillie Gifford, Blackstone, Brookf..

1. 이번 단계에서 달라지는 것지금까지는 에이전트 하나가 도구·기억·RAG를 갖춰왔다. 이번에는 역할이 다른 두 에이전트가 협업하며 결과물을 스스로 고쳐 나가는 구조를 만들었음.1~4편의 에이전트는 "혼자 일하는 한 명"이었다. 이번에는 **작성자(Coder)**와 **검수자(Reviewer)**로 역할을 나누고, 검수를 통과할 때까지 작성→리뷰→수정을 반복하는 자기수정(self-refine) 루프를 구성하였음. 예제 주제는 "코드 작성과 코드 리뷰"Coder 에이전트 — 요청받은 기능을 구현하거나, 리뷰 피드백을 반영해 코드를 수정Reviewer 에이전트 — 보안·효율·스타일을 점검해 PASS / FAIL을 판정하고, FAIL이면 수정 지시를 남김.자기수정 순환 — Reviewer가 PASS를 줄 때까..

1. 이번 단계에서 달라지는 것LLM이 모르는 "사내·최신 데이터"를 RAG로 끌어와 추론에 반영하는 식사 추천 에이전트를 만듦.③편까지의 에이전트는 곱셈처럼 자체적으로 풀 수 있는 도구만 썼음. 이번에는 LLM이 모르는 정보를 다룸. RAG(Retrieval-Augmented Generation)를 도구로 차용해 다음 문제를 해결함.할루시네이션 방지 — 존재하지 않는 식당을 지어내지 않도록, 실제 데이터를 검색해 근거로 제공함.내부 데이터 접근 — LLM이 모르는 private 데이터(보안 이슈로 학습되지 않은 정보)를 보완함.최신 정보 부재 해소 — 학습 시점 이후의 정보를 외부에서 가져옴.설계 방향은 다음과 같음.전체 의사결정 — LangGraph가 담당함.부분 체인 — 프롬프트 → LLM 추론은 ..

1. 이번 단계에서 달라지는 것한 번 질의하면 잊어버리던 에이전트에, 대화를 이어 기억하는 단기기억을 추가함.②편의 에이전트는 매 질의가 "새 채팅창"이었음. 이전 대화를 기억하지 못해 같은 맥락을 반복 설명해야 했음. 이번에는 Checkpointer를 붙여 대화 상태를 저장하고, thread_id로 사용자별 기억을 관리함.MemorySaver — 상태를 저장하는 단기기억 저장소. 현재는 RAM 기반(프로그램 종료 시 삭제)임.checkpointer 옵션 — compile 시 기억 공간을 그래프에 연결함.thread_id — 대화 세션을 구분하는 식별자. 같은 id면 기억이 누적됨.그래프 구조 자체는 ②편과 동일하다. 바뀐 건 "상태를 저장하고 다음 호출에 다시 불러온다"는 점뿐이다.2. 메모리 생성`M..

1. 이번 단계에서 달라지는 것고정된 단방향 흐름에서 벗어나, LLM이 "직접 답할지 / 도구를 쓸지"를 스스로 판단하는 구조로 발전시킴.①편의 그래프는 경로가 코드에 박혀 있었다. 이번에는 add_conditional_edges로 분기를 주고, LLM이 도구 호출 여부를 결정하게 만든다. 핵심 추가 요소는 다음과 같음.LLM 노드 — AWS Bedrock 모델을 호출해 추론하는 "판단 노드"임.Tool 노드 — 실제 기능(여기서는 곱셈)을 수행하는 "행동 노드"임.조건부 엣지 — LLM의 응답이 도구 호출인지 텍스트인지에 따라 경로가 갈림.①편이 직선 도로였다면, 이번 단계는 LLM이 갈림길에서 핸들을 잡는 구조다.2. 준비 — 모델과 환경변수Bedrock LLM 객체를 만들고 `.env`에서 모델 정..

1. LangGraph 개요LLM 워크플로우를 "상태를 공유하는 노드들의 그래프"로 표현하는 프레임워크임.LangChain이 호출을 직선으로 잇는 체인 구조라면, LangGraph는 노드를 자유롭게 연결하고 조건·순환까지 표현할 수 있는 그래프 구조다. 첫 단계에서는 가장 단순한 형태인 단방향 그래프부터 시작함.1.1 핵심 3요소State(상태) — 모든 노드가 공유하는 전역 메모리. 데이터를 담는 그릇 역할을 함.Node(노드) — 작은 단위의 Task. 단순한 함수 하나로 구성됨.Edge(엣지) — 노드 간 실행 순서(방향성)를 지정하는 연결선임.노드는 "무엇을 할지", 엣지는 "어떤 순서로 흐를지"를 담당한다고 보면 된다.2. 상태 정의공유 메모리의 형태를 `TypedDict`로 규정함.상태는 그래..

LLM 서비스 구축 · RAG프롬프트 엔지니어링 개념을 실제 동작하는 서비스로 구현함.Streamlit(프론트) + FastAPI(백엔드) + Bedrock + LangChain으로 "식사 메뉴 추천 AI"를 구성하고,이후 RAG + Vector DB(FAISS)를 도입하여 LLM이 모르는 데이터를 추론에 활용함.1. 서비스 아키텍처화면(Streamlit)과 API(FastAPI)를 분리하고, LLM 호출은 별도 모듈로 격리하는 계층형 구조로 설계함.1.1 구성 요소 계층 역할 기술 프론트엔드채팅 화면, 입력/출력 처리Streamlit백엔드/chat API 제공, 프론트 ↔ Bedrock 중계FastAPI + uvicornLLM 모듈프롬프트 구성, Bedrock 호출, 체인 구성LangChain ..

프롬프트 · 컨텍스트프롬프트 엔지니어링은 LLM이 최적의 결과를 생성하도록 자연어로 구성된 입력을 설계·최적화하는 기술/방법론임.Bedrock을 통해 Claude, GPT, Gemma를 단일 인터페이스로 호출하고, 모델별 프롬프트 전략의 차이를 실습함.1. API 키 발급 및 연동세 가지 LLM 벤더(Claude, OpenAI, Gemini)의 API 키를 발급하고 Bedrock을 통해 통합 연동하는 방법을 다룸.1.1 벤더별 API 키 발급Gemini — Google AI Studio에서 API 키 발급, 하루 1,500 call 무료 제공AWS Bedrock — AWS 콘솔에서 Bearer Token 발급, 사용량 기반 과금 (토큰 제한 없음)Claude — Anthropic Console에서 직접 ..