PatchCat, një studio me kod të hapur për orkestrimin e proceseve AI, përdor kërkim lokal në shfletues pa një bazë vektoriale në backend. Arkitektura ndërthur embeddings neurale, indeksim leksikor dhe algoritme renditjeje, duke shmangur vonesat e rrjetit, kostot mujore dhe dërgimin e të dhënave private në serverë të palëve të treta.
Kërkimi vektorial kap ngjashmëritë kuptimore, por mund të japë rezultate të parëndësishme për kode gabimi si DAG_CYCLE_DETECTED ose specifikime si RFC-7519. BM25 identifikon termat e saktë, por ka kufizime me sinonimet. PatchCat i bashkon të dy kanalet përmes Reciprocal Rank Fusion (RRF), pa rirenditje në server.
Kanali BM25 punon në memorie, me TypeScript dhe pa varësi të jashtme. Ai përdor variantin e zbutur Robertson-Spärck Jones për të shmangur pikët negative kur një term shfaqet në më shumë se gjysmën e dokumenteve. Tokenizimi ndan fjalët anglisht dhe krijon çifte karakteresh CJK pa fjalor.
Për embeddings, një model BGE-small ONNX i kuantizuar, rreth 35 MB, ekzekutohet në një Web Worker të dedikuar, që përpunimi të mos pengojë ndërveprimin me kanavacën. Modeli shkarkohet gjatë vizitës së parë, ruhet në CacheStorage të shfletuesit dhe llogarit në mënyrë asinkrone vektorë me 384 dimensione.
Burimi: DEV Community (Web Dev Feed) — lexoni artikullin e plotë në anglisht.
