#RAG

3개의 글

메모리 8분의 1, FAISS보다 빠르다: turbovec 분석

1,000만 문서를 31 GB에서 4 GB로 압축하면서 FAISS 이상의 검색 속도를 내는 turbovec. RAG 개발자라면 지금 테스트해야 할 이유를 분석한다.

LLM에 텍스트를 보내기 전에 압축기를 하나 끼워 넣는다. 라이브러리·프록시·MCP 서버 세 가지 형태로 기존 스택에 붙일 수 있고, Apache 2.0 오픈소스다. 왜 지금 트렌딩 1위인지, 어떻게 쓰는지 정리했다.

PDF를 LLM에게 넘기는 가장 빠른 방법은 무엇인가. PP-StructureV3는 최신 벤치마크에서 GPT-4o와 Gemini 2.5 Pro를 제치고 1위를 기록했다. RAG 붐, MCP 서버 지원, 경량 VLM 공개가 겹치며 오늘 하루에만 별 105개가 붙었다.