#양자화

메모리 8분의 1, FAISS보다 빠르다: turbovec 분석

1,000만 문서를 31 GB에서 4 GB로 압축하면서 FAISS 이상의 검색 속도를 내는 turbovec. RAG 개발자라면 지금 테스트해야 할 이유를 분석한다.