[태그:] 모델 라우팅

RAG에 LLM 라우터를 붙인다는 말은 단순히 여러 모델 이름 중 하나를 고르는 기능을 만든다는 뜻이 아닙니다. 사용자의 질문, 검색된 문서의 신뢰도, 컨텍스트 길이, 답변에 필요한 추론 난이도, 비용과 지연 시간, 개인정보 민감도를 함께 보고 어떤 …