#로컬AI

2개의 글

메모리 8분의 1, FAISS보다 빠르다: turbovec 분석

1,000만 문서를 31 GB에서 4 GB로 압축하면서 FAISS 이상의 검색 속도를 내는 turbovec. RAG 개발자라면 지금 테스트해야 할 이유를 분석한다.

LLM의 고질적 약점인 '대화 망각'을 로컬에서 해결하는 MemPalace가 하루 441개의 별을 받으며 트렌딩에 올랐다. 왜 지금 뜨는지, 누가 써야 하는지 분석한다.