概览 相关应用源码 缓存 相关源码位置 api/core/rag/embedding/cached_embedding.py
对嵌入向量进行缓存。
api/services/account_service.py
……
向量嵌入缓存 缓存key构造参数:模型提供者、模型版本、输入文本
embedding_cache_key = f"{self._model_instance.provider}_{self._model_instance.model}_{hash}" 使用setex为缓存key设置值和过期时间10min。
try: # encode embedding to base64 embedding_vector = np.array(embedding_results) vector_bytes = embedding_vector.tobytes() # Transform to Base64 encoded_vector = base64.