AI

👉RAG와 LangChain을 활용한 Chatbot 구현(2) 게시물 보러가기 지난 게시물에서 chat history와 few shot을 통해 1. 모델이 대화의 맥락을 파악하여 대답하고2. 답변을 일관된 양식으로 제공하고3. hallucination 가능성을 줄이고 답변의 정확도를 향상시켜 RAG의 전체적인 품질을 높였다. 마지막으로 우리가 작성한 모델에 evaluation(평가)를 추가해서 RAG의 신뢰도와 품질을 더 높이자. RAG Evaluation 추가하기지나치게 강조하는 것 같지만 LLM의 큰 숙적 중 하나는 계속 해서 언급했던 hallucination(환각) 현상이다. 환각으로 LLM이 잘못된 정보를 제공하는것을 최소화하기 위한 기법이 evaluation이다. evaluation을 통해 ..

👉RAG와 LangChain을 활용한 Chatbot 구현(1) 게시물 보러가기 지난 게시물에서 RAG의 개념, RAG를 사용했을 때의 장점, RAG 구현을 위한 프레임워크 langchain의 활용법을 알아보고 질문에 간단하게 답변할 수 있는 RAG를 구축해보았다. 지난 시간에 구축했던 RAG를 좀 더 보강하여 답변 신뢰도와 품질을 좀 더 높여보자. Chat history 추가하기RAG에서 대화 기록(chat history)를 사용해서 이전의 문맥(context)를 토대로 더 자연스럽고 일관된 답변을 생성하는 것이 가능하다. chat history를 사용하지 않을 경우 아래와 같이 비슷한 맥락의 질문임에도 불구하고 답변을 제대로 하지 못한다는 단점이 있다. "1루 주자와 2루 주자가 동시에 베이스를 훔치..

RAG란 무엇인가RAG는 Retrieval Augmented Generation으로 저장소에 저장된 데이터를 기반으로 유저가 입력한 명령(프롬프트)에 부합하는 답변을 생성하는 AI 시스템 구조이다. 우리가 흔히 사용하는 ChatGPT, Claude와 같은 LLM모델을 목적과 용도에 맞게 직접 커스텀, 최적화 해서 사용할 수 있다는 큰 장점이 있다. 왜 쓰는 건데?1. 기존에 학습된 데이터라는 검색 범위의 한계성 극복먼저 GPT-4o 기준으로는 기존에 학습된 데이터만 사용하는 것이 아니라, 유저가 요청한 정보가 최신 정보일 경우 기존에 학습된 데이터 뿐만 아니라 웹 검색을 통해서도 정보를 가져오는 것을 확인할 수 있었다(불과 3시간 전의 뉴스 속보에 대해 질문했는데 질문에 정확하게 답하는 것을 보고 깜짝 ..