rag

학습 모델을 통해 추론 결과를 도출하는것만으로 부족한것

실시간성 데이터나 지식화된 데이터에 한계가 있음

외부에 DB같이 보면 됨.

벡터 DB에다가

LLM 프롬프트를 던지기 전에 벡터 DB에서 임베딩된 지식 베이스가 만들어짐

내가 찾고자 하는걸 사전에 먼저 가져와서 프롬프트 템플릿을 만들어서 진행하는 방식

배포 시 쿠버네티스 환경 도입 고려할것

자동화 프로세스들

Gitlab 깃헙이랑 비슷한데 cicd환경 대부분 제공해서

깃헙 액션과 준하는걸 제공

대외행사

LLM 접목하는 김에 투자 성향을 추천받고 물어보는 느낌?

캐시성, 인메모리 DB 활용