New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

添加查询时使用embedding缓存功能 #406

Merged

LarFii merged 3 commits into HKUDS:main from magicyuan876:main

Dec 6, 2024

Contributor

magicyuan876 commented Dec 6, 2024

在 LightRAG 类中添加 embedding_cache_config配置项
实现基于 embedding 相似度的缓存查询和存储
添加量化和反量化函数，用于压缩 embedding 数据
新增示例演示 embedding 缓存的使用
基于相似度的缓存可以有效的减少LLM的开销，极大提高相似问题的查询效率

yuanxiaobin added 3 commits

December 6, 2024 08:17


          feat(lightrag): 添加 查询时使用embedding缓存功能

525c971

- 在 LightRAG 类中添加 embedding_cache_config配置项
- 实现基于 embedding 相似度的缓存查询和存储
- 添加量化和反量化函数，用于压缩 embedding 数据
- 新增示例演示 embedding 缓存的使用


          feat(lightrag): 添加 查询时使用embedding缓存功能

c19c516

- 在 LightRAG 类中添加 embedding_cache_config配置项
- 实现基于 embedding 相似度的缓存查询和存储
- 添加量化和反量化函数，用于压缩 embedding 数据
- 新增示例演示 embedding 缓存的使用


          整理了一下手误的注释

c01c15f

LarFii merged commit 2a2756d into HKUDS:main

1 check passed

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet