RAG 구축 서비스

RAG 구축 서비스입니다.온프레미스에서는 FastAPI로 해드립니다.AWS에서는 FastAPI 내지 Redis로 해드립니다.데이터셋은 다 OCR이 필요하지 않은 일반 PDF 문서라고 하시면 됩니다. OCR 지원하지 않습니다. 이유는 OCR이 들어가면 너무 임베딩 시간이 오래걸립니다.Slack으로 챗봇을 운영하시려면 Slack 봇 세팅을 해주셔야 합니다.어떻게 하는지는 알려드립니다. 아니면 제가 슬랙 채널에 초대를 받으면 제가 할 수 있을 겁니다.React로 구현이 필요하시다면 윈도우즈/맥 으로 독립 소프트웨어로 생성해드립니다.(exe, dmg 파일) 만약 거기까지는 필요 없다면 React 솔류션을 드립니다.기본 패키지는 온프레미스 전용이며,디럭스는 AWS에 구현하는 전용이고,프리미엄은 디럭스 패키지에 도메인 세팅, Application Load Balancer, HTTPS 인증서 생성 및 관리, Global Accelerator, 방화벽 등을 설정해드립니다. 이 서비스는 다음과 같은 조건을 전제로 합니다.조건1. 사용자님은 AWS 계정이 있으셔야 합니다.제공해드리는 솔류션은 사용자님의 AWS 계정의 정보로 번역을 합니다. 영어 모델을 사용할 예정이기 때문에 번역이 필수입니다.임베딩 모델은 다만, 한영에 둘 다 최적화된 모델이라 문서가 영문이건, 한글이건 다 인식을 잘 합니다.생성형 AI 모델이 영어 전용이라 AWS 번역기로 번역이 필수가 됩니다. 사용자는 다음과 같은 요구사항이 있습니다.1. AWS 계정AWS 계정은 한국어 번역용 입니다. 초기 가입시에 12개월에 매달 200만 글자 번역까지 허용합니다. 그러니 첫해에 거의 비용이 들지 않습니다.한도 초과하시면, 한도 초과 시 $15 / 백만 문자 비용이 듭니다. 그런데 그렇게 번역을 많이 하시면 거의 초거대 기업만 그정도 할 걸요? 그래서 대부분의 케이스에서 이 비용은 없다고 보시면 됩니다.한국어 모델로 안하는 이유는 영어 LLM이 워낙 한국어 내지 영어까지 다 학습이 잘 되어 있어서 한국어 모델로 진행을 안합니다. 한국어 전용 모델은 한국어 인식이 오히려 공개된 영어 모델 모다 떨어져서 (gemma, llama) 입력시에 AI가 환각을 일으킬 가능성이 높습니다.