feat: evaluate pinned local embedding models on CPU

2026-10-16 09:11:33 +08:00
parent 1c9b351507
commit cf4e65bb9d
11 changed files with 647 additions and 1 deletions
@@ -28,3 +28,8 @@ FastAPI + Pydantic

 ## 安全边界
 当前无认证与权限控制，仅供本机开发；正式部署前须补充登录鉴权、接口限流、数据库迁移、密钥管理、日志脱敏、CORS 收敛和 HTTPS。
+
+
+## 本地 Embedding 评估（T07 准备）
+
+`app/services/embedding.py` 定义固定模型身份、可替换编码接口及可选 CPU Provider；模型库按需导入，普通 API 启动不加载权重。`evaluation/local_embeddings.py` 在独立进程中验证真实模型向量和 token 预算，并测量已标注合成样本的资源/排序结果；不读取或写入业务数据库。当前尚未把向量接入检索 API，详见 [本地模型评估](LOCAL_EMBEDDING_EVALUATION.md)。