AI/RAG5 Model Context Protocol (MCP) 2024년 11월, Anthropic이 Model Context Protocol(MCP) 개념을 오픈소스로 공개한 이후, 코딩 관련 유튜브나 LLM(AI 언어 모델) 기반 기술들을 살펴보다 보면 MCP라는 용어를 자주 접하게 됩니다. 특히 RAG(Retrieval-Augmented Generation), LLM 에이전트, 멀티 에이전트 시스템 등 다양한 AI 응용 사례에서 MCP는 점점 더 중요한 개념으로 자리 잡고 있죠. 따라서 이번 포스팅에서는 최근 주목받고 있는 Model Context Protocol(MCP)에 대해서 개념 중심으로 소개해보려 합니다.1. Model Context Protocol (MCP) 정의MCP는 LLM 애플리케이션과 외부 데이터 소스, 다양한 도구들이 서로 원활하게 통합되도.. 2025. 4. 2. RAG 시스템 성능, 어떻게 평가할까? RAGAS로 살펴보는 네 가지 핵심 지표 RAG(Retrieval-Augmented Generation)는 대규모 언어 모델이 잘 알지 못하는 질문에 대해, 외부 지식 문서를 검색해 보다 정확하고 신뢰할 수 있는 답변을 생성하는 구조입니다. 하지만 RAG는 단일 모델이 아니라 검색(Retrieval) + 생성(Generation) 두 단계를 함께 사용하는 시스템이기 때문에 평가가 어렵다는 단점이 있습니다.단순히 RAG의 답변이 맞았는지만 보는 것은 부족하고, 답변이 어디서 왔는지, 질문에 적절한지, 검색이 잘 됐는지 등 다양한 요소를 함께 고려해서 평가해야 합니다.이런 복잡성을 고려해서 등장한 것이 바로 RAGAS(Retrieval-Augmented Generation Assessment Suite) 프레임워크입니다. RAGAS는 RAG 평가를.. 2025. 3. 25. ReRanker 이전 포스팅에서는 Retrieval Augmented Generation(RAG)의 개념과 구조에 대해서 알아보았습니다. 이번 포스팅에서는 RAG 파이프라인의 성능을 한 단계 높여주는 핵심 컴포넌트인 ReRanker에 대해 알아보겠습니다.1. ReRanker란? ReRanker는 이름 그대로 '순위 재조정(Re-Ranking)'을 담당하는 컴포넌트입니다. 이는 RAG 파이프라인에서 초기 검색 단계에서 찾아낸 문서들의 순위를 더 정교하게 재평가하여 관련성이 가장 높은 문서들을 선별해내는 역할을 합니다. 2. Basic RAG Pipeline의 문제점 먼저, 이전 포스팅에서 RAG의 핵심 요소로 두 가지의 모델(임베딩 모델, 응답 생성 모델)과 그리고 Retrieval 알고리즘(유사도 기반 문서 검색 알.. 2025. 3. 6. RAG 프레임워크 비교하기: Haystack, RAGFlow, txtai Retrieval-Augmented Generation(RAG)은 대형 언어 모델(LLM)의 성능을 향상시키기 위해 외부 지식 소스를 활용하는 AI 프레임워크입니다. 이 기술은 검색 시스템과 생성 모델의 장점을 결합하여 더욱 정확하고 맥락에 맞는 최신 응답을 생성할 수 있도록 합니다. RAG에 대한 자세한 설명은 이전 포스팅을 참고하세요!2025.02.28 - [AI] - Retrieval Augmented Generation (RAG) 기본적인 RAG의 작동 방식은 다음과 같습니다:검색 단계(Retrieval): 외부 데이터베이스 또는 문서 저장소에서 관련 정보를 검색합니다.생성 단계(Generation): 검색된 정보를 LLM의 입력으로 사용하여 더 정밀한 답변을 생성합니다.이러한 방식을 통해 RA.. 2025. 3. 4. Retrieval Augmented Generation (RAG) 1. Retrieval-Augmented Generation 검색 증강 생성(RAG, Retrieval-Augmented Generation)은 대규모 언어 모델(LLM)의 응답 생성 능력과 외부 지식 검색 기능을 결합한 기술입니다. 최근 다양한 선도 기업들이 RAG 기반 파이프라인을 구축하여 서비스에 접목함으로써, 사용자에게 더욱 정확하고 친화적인 서비스를 제공하는 추세가 확산되고 있습니다.기존 LLM의 한계와 미세 조정(fine-tuning)의 과제RAG는 기존 LLM이 가진 여러 한계점을 해결하기 위해 등장했습니다. LLM은 다음과 같은 문제점들을 갖고 있습니다정보의 최신성 문제: 학습한 시점의 데이터 이후의 정보를 알지 못함도메인 특화 지식의 부족: 특정 분야의 전문적 지식 부족할루시네이션: .. 2025. 2. 28. 이전 1 다음
