🪴 Quartz 4.0

LLM 챗봇, 랭체인의 핵심 Retriever_20250119_150924

8 min read

markdown

tags:

  • LangChain
  • 리트리버
  • 체인타입
  • 임베딩모델
  • 벡터저장소
  • 텍스트청크
  • 스터프
  • 맵리듀스
  • 리파인
  • 맵리랭크
  • KoELECTRA
  • 크로마벡터스토어
  • 레그시스템 콘텐츠 유형분류: 튜토리얼 주제/테마분류: 기술 타겟 시청자분류: 성인 근거: 리트리버는 사용자의 질문이나 쿼리를 임베딩 모델을 통해 벡터 형태로 변환하고, 저장된 텍스트 청크(chunk) 벡터들과 비교하여 가장 유사한 내용을 찾아냅니다. Description: LangChain 프레임워크에서 리트리버의 역할과 다양한 체인 타입, 실제 구현 과정을 설명하는 튜토리얼 영상입니다.
## LangChain 리트리버 및 체인 타입 설명
 
이 비디오에서는 LangChain 프레임워크에서 대규모 언어 모델(LLM)을 활용한 애플리케이션을 구축하는 데 중요한 역할을 하는 **리트리버(Retriever)**에 대해 설명합니다. 특히, 리트리버의 핵심 기능과 다양한 체인 타입에 대한 이해를 돕고, 실제 구현 과정을 상세히 안내합니다.
 
### 리트리버의 역할
 
리트리버는 사용자의 질문이나 쿼리를 **임베딩 모델**을 통해 벡터 형태로 변환하고, 저장된 **텍스트 청크(chunk)** 벡터들과 비교하여 가장 유사한 내용을 찾아냅니다. 이렇게 찾아낸 관련 텍스트는 **컨텍스트**로서 LLM에게 전달되어, 사용자의 질문에 대한 답변을 생성하는 데 활용됩니다. 즉, 리트리버는 LLM이 답변을 생성하는 데 필요한 정보를 제공하는 핵심적인 역할을 수행합니다.
 
### 임베딩과 벡터 저장소
 
사용자의 질문과 텍스트 청크는 모두 임베딩 모델을 통해 벡터 형태로 변환됩니다. 이러한 벡터들은 **벡터 저장소**에 저장되고, 유사도 비교를 통해 가장 관련성이 높은 텍스트 청크를 선택하는 데 사용됩니다.
 
### 컨텍스트 전달
 
선택된 텍스트 청크는 컨텍스트로서 사용자의 질문과 함께 LLM에게 전달됩니다. 이 과정에서 **프롬프트**가 사용되며, LLM은 컨텍스트 정보를 바탕으로 답변을 생성합니다.
 
### 다양한 체인 타입
 
리트리버에서 사용하는 체인 타입은 다음과 같이 네 가지 종류가 있습니다.
 
1.  **스터프(Stuff):** 가장 단순한 형태의 체인으로, 질문과 함께 모든 관련 텍스트 청크를 LLM에 직접 전달합니다. 토큰 제한으로 인해 긴 텍스트 청크를 처리하는 데 어려움이 있을 수 있습니다.
 
2.  **맵 리듀스(Map Reduce):** 텍스트 청크 각각에 대해 요약을 생성하고, 생성된 요약들을 다시 요약하여 최종 컨텍스트를 생성합니다. 스터프 체인보다 토큰 이슈를 우회할 수 있지만, 더 많은 LLM 호출과 시간이 소요됩니다.
 
3.  **리파인(Refine):** 첫 번째 텍스트 청크를 사용하여 초기 답변을 생성하고, 다음 텍스트 청크를 이전 답변과 함께 사용하여 답변을 점진적으로 개선합니다. 고품질의 답변을 얻을 수 있지만, 시간이 오래 걸린다는 단점이 있습니다.
 
4.  **맵 리랭크(Map Re-rank):** 텍스트 청크 각각에 대해 답변과 함께 스코어를 생성하고, 스코어가 가장 높은 답변 하나만 선택하여 최종 답변으로 사용합니다. 관련성이 가장 높은 답변을 얻을 수 있지만, 시간이 오래 걸리고 비용이 많이 듭니다.
 
### 구현 과정
 
비디오에서는 실제 코드를 통해 다음과 같은 단계를 거쳐 리트리버를 구현하는 과정을 보여줍니다.
 
1.  **필요한 라이브러리 설치:** 틱토큰, LangChain 등 필요한 라이브러리를 설치합니다.
2.  **문서 로드:** PDF 파일을 로드합니다.
3.  **텍스트 분할:** 텍스트를 적절한 크기의 청크로 나눕니다. 이때, 토큰 수를 기준으로 분할하는 것이 중요합니다.
4.  **임베딩 모델 선택:** 한글 텍스트 임베딩에 적합한 허깅페이스의 KoELECTRA 모델을 사용합니다.
5.  **벡터 스토어 생성:** 크로마 벡터 스토어를 사용하여 텍스트 청크를 임베딩하고 저장합니다.
6.  **리트리버 QA 체인 생성:** LLM 모델(GPT-3.5 Turbo), 체인 타입(Stuff), 검색기 설정 등을 구성합니다.
7.  **질문과 답변:** 설정된 리트리버 QA 체인을 사용하여 질문을 하고 답변을 받습니다. 답변과 함께 참조된 문서의 소스 정보도 확인할 수 있습니다.
 
### 추가 고려 사항
 
비디오에서는 레그(RAG) 시스템을 구축할 때 조정할 수 있는 다양한 요소들이 많다는 점을 강조합니다. 또한, 레그 시스템의 품질을 높이기 위한 추가적인 고려 사항과 프롬프트 엔지니어링을 통한 플랫폼 구축 가능성에 대해서도 언급합니다.
 
### 결론
 
이 비디오는 LangChain 리트리버의 기본 개념과 다양한 체인 타입에 대한 이해를 돕고, 실제 구현 과정을 자세히 설명합니다. 이를 통해 사용자는 LLM을 활용한 고품질의 답변을 생성할 수 있는 방법을 배울 수 있습니다.

Graph View