RAG 실제 적용 사례 분석

이번 시간에는 실제로 RAG 시스템을 반영한 서비스들의 어떤 것들이 있는지 한번 살펴보도록 하겠습니다. 범용 챗봇이라고 할 수 있는 OpenAI와 앤트로픽의 LLM 서비스들이 이러한 RAG 시스템을 적극적으로 접목하고 있는데요 구체적으로 살펴보면 OpenAI의 ChatGPT 같은 경우에는 GPTs라는 맞춤형 챗봇 기능을 오픈하고 있죠 근데 이 GPTs라는 맞춤형 챗봇을 구축할 때 여러 가지 기능들 가운데 지식이라는 기능을 한번 보시면 지식 하에 파일을 업로드하면 GPT와의 대화에 파일 콘텐츠가 포함될 수 있습니다. 이런 식으로 표현된 것을 확인하실 수 있습니다. 이 말 자체가 RAG 시스템을 반영하고 있다고 저희가 유추할 수 있는 문장이라고 생각을 하고 있습니다. 많은 분들이 그렇다고 예상을 하고 있고요. 이 파일을 업로드해서 챗GPT가 대화에 활용한다는 것 자체가 어떤 파일을 어딘가에 저장해두고 사용자가 질문했을 때 RAG 실제 적용 사례 분석 실제로 OpenAI가 최근에 투자를 많이 했던 스타트업의 경우에도 VectorDB를 만들어내는 스타트업이었어요 그래서 이 VectorDB 관련된 스타트업에 투자를 한다는 것 자체가 사용자가 업로드한 파일 기반의 대화 즉 RAG 시스템을 원활하게 운영하기 위해서 그러한 방향성을 갖고 투자를 한 것이 아니냐 이런 얘기가 많이 있습니다 그래서 저희가 볼 때는 RAG 시스템을 반영한 GPTs의 지식 기능이라고 볼 수 있겠고요 GPT와 똑같이 프로젝트라는 맞춤형 챗봇 기능이 있는데요 프로젝트에서도 Project Knowledge라는 기능을 통해서 저희가 가진 파일을 업로드하고 이 업로드된 파일을 기반으로 클로드 모델과 대화할 수 있는 기능을 지원하고 있습니다 이것도 역시 동일하게 GPTs 프로젝트 둘 다 RAG 시스템을 반영하고 있다고 저희가 유추를 할 수 있겠습니다 여기서 저희가 살펴본 예시는 맞춤형 챗봇, 즉 범용 챗봇을 만들 때 RAG 시스템이 접목된 예시이고요 다른 사례도 있습니다 도메인 특화 챗봇이라고 제가 이름을 지어봤는데요 도메인 지식이 중요한 분야들이 있습니다 예를 들어서 법률이나 금융, 의료 분야의 경우에는 LLM이 부족한 전문 지식을 갖고 있기 때문에 RAG로 보완하고자 하는 시도들이 많이 이어지고 있습니다 법률, 금융, 의료 분야의 경우에는 데이터 자체들이 굉장히 민감한 정보들이 많이 들어올 수 있기 때문에 OpenAI나 앤트로픽에서 그러한 데이터들을 LLM에다가 사전 학습 시에 학습시키지 못한 경우가 많이 있을 수 있어요 실제로 이 LLM이 다양한 문제들을 풀 수 있는데 그 가운데 이제 전문 지식이 필요한 이러한 분야들에 있어서는 점수가 좀 낮은 모습을 볼 수 있고요 그렇기 때문에 이러한 부분을 실제 기업들에서는 기존의 GPT-4 모델을 프롬프팅하고 또 RAG 기반 시스템을 접목해서 기존의 정답률을 크게 개선하는 효과를 얻었습니다 이 케이스가 GPT라는 게 어떤 모델을 새로 만들거나 기존 모델의 구조를 크게 바꾸거나 그런 게 아니라 단지 RAG 시스템을 접목했다는 것만으로도 정답률을 개선했다는 것 자체가 굉장히 큰 효과를 거뒀다고 볼 수 있겠고요. 이런 전문 지식이 부족한 LLM도 RAG 시스템을 접목하면 저희가 답지를 항상 사용자의 질문에 따라서 준비해 주는 것과 마찬가지이기 때문에 GPT가 잘 못하는 분야임에도 불구하고 법률뿐만 아니라 금융 분야에서도 굉장히 활발하게 일어나고 있는데요 대표적으로 KB국민카드랑 스켈터랩스 두 기업이 함께 협력을 해서 이벤트 Q&AI라는 서비스를 만들었습니다 이것은 이벤트를 안내해주는 챗봇인데요 실시간으로 이벤트는 계속 변하잖아요. 어제 했었던 이벤트가 끝나고 오늘 새로운 이벤트가 나오면 또 새로운 이벤트 기반으로 사용자의 질문에 답변할 수 있어야 되는데 이러한 부분에 있어서 실시간으로 정보를 업데이트할 수 있는 RAG 시스템을 접목해서 이벤트 Q&AI라는 챗봇을 운영하고 있는 것으로 언론에 알려졌습니다. 지금 제가 설명한 법률과 국민카드 케이스 외에도 굉장히 많은 기업들이 이 RAG 시스템을 접목을 하고 있어요 대표적으로 Organized AI라고 해서 RAG 시스템을 전문적으로 하는 모델 개발 기업도 있고요 엔비디아 그리고 또 구글 이러한 기업들에서도 자사의 서비스에 이러한 RAG를 접목해서 LLM을 굉장히 효과적으로 활용하고 있다고 보시면 되겠습니다. 굉장히 많은 사례들이 있는데 RAG 서비스가 필요한 것은 결국에는 저희가 살펴본 것처럼 뭔가 내가 가지고 있는 나만의 고유한 지식을 기반으로 대화를 하고 싶다거나 또는 LLM이 원래 잘 못하는 분야에 있어서 정답지를 주고 답변을 조금 더 정확하게 만들고 싶을 때 그럴 때 활용한다고 보시면 되겠습니다 이외에도 이제 저희가 실습을 진짜 해 보면서 이러한 부분에서는 이러한 케이스로 적용해 보면 또 효과가 있겠다 이런 것들을 금방 느끼실 수 있거든요 그래서 이어지는 실습 챕터들에서 또 한번 제대로 알아보도록 하겠습니다