Technology/RAG2 Graph RAG: 복잡한 추론 작업을 위한 차세대 RAG 시스템 지식 그래프(Knowledge Graph)는 엔티티(Entity)와 관계(Relation)로 구성됩니다. 그래프가 노드(Node)와 에지(Edge)로 이루어진 데이터 구조이므로, 엔티티는 노드에, 관계는 에지에 대응됩니다. 엔티티는 사람, 장소, 사물 등 구체적인 대상을 나타내고, 관계는 이들 엔티티 간의 연결을 표현합니다.지식 그래프는 의료, 금융, 법률 등 다양한 분야에서 활용될 수 있습니다. 예를 들어, 의료 분야에서는 질병-증상-치료법 간의 관계를 그래프로 표현하여 진단을 지원하고, 금융 분야에서는 기업-투자자-거래 관계를 분석하여 리스크를 평가하는 데 사용할 수 있습니다. 법률 분야에서는 판례-법조항-사건 간의 연결을 통해 유사 사례를 검색하고 법적 논리를 추적하는데 적용할 수 있습니다.LLM의.. 2025. 11. 25. 기존 RAG의 문제점을 해결하는 방법 : REFRAG RAG 기반으로 LLM 서비스를 구축하는 것은 기본 중에 기본입니다. 문제는 기대한 것보다 RAG 기반 답변이 정확하지도 않고 무엇보다 속도가 느리고 메모리도 많이 사용한다는 점입니다.RAG에서 검색을 할 때 의미 검색이나 의미 검색에 키워드 검색을 결합한 방법도 정확한 2,3개의 청크만 검색하기 어려운 것이 현실입니다. 그래서 검색을 통해서 청크를 뽑아낼때 가능하면 많이 검색하려고(Recall 확보) 합니다.그러다보니 사용자의 질의와 관련도가 떨어지는 청크까지 포함되서 가져오다보니 LLM 가져온 청크를 모두 메모리에 올려서 모두 읽고 답변을 하다보니 속도(TTFT : Time To First Token)도 느리고 메모리가 가득차서 서비스가 엄청 느려지게 됩니다.무엇보다 RAG 검색기에서 검색한 청크는.. 2025. 11. 20. 이전 1 다음
