[RAG] RAG를 사용하는 이유
·
RAG
기존 LLM 모델의 단점우리 주위에는 ChatGPT, Gemini, Claude, LLaMa 등 수도없이 많은 대형 모델들이 존재한다. 대형 모델은 많은 매개변수를 가지고 있기 때문에, 다른 모델보다 뛰어난 성능을 보여준다. 하지만 이러한 성능이 항상 좋은 결과물을 보장하는 것은 아니다. 대형 모델들이 가지는 주요 단점은 다음과 같다.모델의 크기와 자원 소모 대형 모델들은 방대한 매개변수를 포함하고 있어, 저장 공간과 메모리 사용량이 매우 크다. 이로 인해 모델을 실행하기 위한 하드웨어 요구사항이 높아지며, 특히 실시간 애플리케이션이나 모바일 디바이스에서는 적용이 어려울 수 있다.높은 계산 비용과 지연 시간 모델의 크기가 클수록 추론 과정에서 필요한 계산량이 증가한다. 이는 응답 속도를 늦추고, 실시간 ..