지식 검색 RAG-LLM 챗봇

RAG LLM기술이란 RAG(Retrieval-Augmented Generation)는 검색(Retrieval) 능력을 생성(Generation) 모델에 결합한 인공지능 기술입니다.쉽게 말해, 우리가 흔히 사용하는 대규모 언어 모델(LLM, 예를 들어 ChatGPT와 같은 AI)이 스스로 아는 지식만으로 답변하는 것이 아니라, 질문이 들어오면 실시간으로 학습된 자료를 찾아본 후, 그 내용을 근거로 답변을 신속하게 생성하도록 돕는 시스템입니다.RAG가 왜 필요한가요?기존의 LLM은 엄청난 양의 데이터를 학습했지만, 다음과 같은 명확한 한계가 있었습니다:1. 최신 정보 반영의 한계: LLM이 학습을 마친 시점 이후에 발생한 새로운 사건이나 데이터에 대해서는 알지 못합니다.2. 내부 지식의 한계: 특정 회사나 조직 내부에서만 공유되는 비공개 문서, 매뉴얼 등의 정보를 알지 못합니다. 3. 정보유출의 위험: 공개된 외부 LLM을 사용할 경우, 검색에 사용된 데이터, 이미지, 코드 등이 나도 모르게 학습에 사용 될 수 있습니다. 4. 환각(Hallucination) 문제: 근거 없이 사실이 아닌 내용을 지어내서 마치 진실인 것처럼 답변하는 경향이 있습니다.RAG는 외부 데이터베이스를 활용하여 최신 정보나 내부 문서를 검색할 수 있도록 함으로써, 이러한 기존 LLM의 한계를 보완하기 위해 필요합니다이제 궁금증은 선배한테 묻지 말고~ RAG-LLM으로 해결하세요~! 도입문의 (온라인시 무료)제품에 대한 소개 및 학습에 사용될 학습자료가 충분한지, 적용 가능 여부에 대해 조사PoC (무료)약 5개 내외 문서를 학습해 본후 구축 효과를 미리 가늠한 후 도입을 결정할 수 있습니다.구매가 결정된 경우 아래처럼 진행 됩니다,.1. 문서 종류 및 분량 분석 PoC를 통해 적정 수준의 캐퍼시티를 산정, 문서 분석을 통해 범위 확정2. 예산 설정도입 시스템 산정 및 공수 산정을 통해 비용 확정3. 시운전 및 평가피드백 시스템을 통하여 문의 및 답변 분석4. 안정화운영 교육 및 운영상 안전평가특징 * 무제한 업로드 및 무한 학습. 항상 최신 문서를 업로드만 해주면 최신화 되는 지식을 경험할 수 있습니다.* 사용자별 학습 데이터 분리임직원(특정 인원 그룹,) / 직원 / 계약직 / 고객 별로 학습데이터 분리 가능* 간단 로그인google 계정을 통해 간단히 로그인 해 사용할 수 있습니다.* 학습 모델 변경 자유 한국어 특화 모델, OCR 특화 모델 등 고객 맞춤 모델을 제공* LLM 모델 open AI , 알리바마, 한국어 특화 모델 등 * 지원파일 형식PDF, MS Office( word, excel, ppt ), TXT 등 (임베딩 모델에 따름)* 관리자 기능스태프 기능 지원으로 문서 재수정 및 회원관리 * 서버 이중화 지원RoundRobin기능을 통해 부하 분산 기능 지원* 피드백 기능피드백을 통해 질의 내용 분석 가능. 1. 챗봇 사용의 목적 ( 사내 문서 파편화에 대한 효과적 검색, 고객 문의 대응 등)2. 학습에 사용될 문서를 준비해 주시기 바랍니다.3. 챗봇 탑재 디바이스 종류(PC, 모바일, 메신저)4. 대상 사용자의 종류(임직원, 파트너, 고객, 불특정 다수 등) 5. 사용자 수