LLM을 로컬 환경에서 사용하자

인공지능학과 석사과정 재학생입니다.소규모로 운영할 아주 간단한 챗봇 모델을 준비해드립니다.RAG를 활용하기 때문에 데이터는 꾸준히 업데이트 할 수 있도록 도와드립니다.로컬 환경에서 본인이 가진 텍스트 문서들을 바탕으로 LLM에게 질문할 수 있는 채팅봇입니다.@@연구 및 프로젝트 경험@@Real-Time Locating System - with UWB(STM32 board 활용)가상화폐 유동성 예측코로나19 체온 스티커 탐지 모델 개발MuseGan을 활용한 작곡 프로젝트CycleGAN 을 활용해 셀카를 애니메이션화 하는 프로젝트얼굴 인식을 통해 자동으로 화장(메이크업)해주는 프로젝트KoBERT를 사용한 문장에서 감정을 분류하는 프로젝트자동차 주행을 보조하는 모델을 개발(with YOLO)컴퓨터 비전을 활용한 Lane Detection 프로젝트 - OpenCV(Bird Eye Veiw활용)스타트업 비즈니스 모델 개발을 위한 AWS SIEM을 위한 Graph-머신러닝 프로젝트 참여현대오토에버에서 주관하는 Hyundai H-Mobility Class (2023) 교육 참여Google Machine Learning Bootcamp (2023) 교육 참여삼성연구소에서 주관하는 LLM모델 경량화 대회에 참여 2024 (Jetson Orin AVX활용)LangChain의 RAG와 GraphRAG를 비교하는 프로젝트마이크로소프트의 GraphRAG를 한국어로 Fine-Tuning하여 재배포 간단한 LLM 챗봇을 제작해드립니다.활용하시려는 범위를 정확히 지정해주셔야 합니다.병원 홈페이지 사용 예시. 병원 홈페이지에서 사용할 챗봇입니다. 병원에서 판매하고 있는 건강 기능 제품에 대한 설명을 자세하게 할 수 있도록 해주세요. 비타민 주사의 효능에 대해 자세한 설명을 해주는 챗봇이 필요해요. 각종 성형술의 장단점을 비교해 사용자의 니즈에 맞는 시술을 추천하는 챗봇이 필요합니다.기업 홈페이지 예시. 우리 기업을 소개하는 챗봇이 필요합니다. (홈페이지 홈 화면 배치를 위한 용도) 예를 들어 '회사의 업력에 대해 소개해줘', '다른 비슷한 회사들과 비교해줘' 등등이 필요합니다. LLM 파인튜닝은 제가 진행해서 모델 파일을 고객에게 전송해드립니다.간단한 LLM이 실행될 수 있는 GPU만 있으면 됩니다. (VRAM이 16GB이상이어야 합니다.)