PostgreSQL 和 Qwen3 嵌入模型搭配使用，在论文搜索场景中表现出色

2024 年末，一位用户在论坛上分享了一个有趣的发现：通过 PostgreSQL + pgvector + Qwen3-Embedding-0.6B 搭建的搜索引擎，在 Papers with Code 级别的应用场景下，性能甚至超过了部分专业的向量搜索方案。这套方案的核心在于充分利用现有资源，将 PostgreSQL 承担关键词召回，pgvector 负责语义召回，Qwen3 小模型确保生成速度，最终实现高效的论文推荐。

在部署方面，该方案采用了 Hugging Face 的完整产品栈。Hugging Face Jobs 负责批量 embedding 处理，利用 NVIDIA L4 进行计算；Inference Endpoints 提供在线模型服务；模型文件则存放在 Buckets 中。这种托管式部署方式避免了自行部署 Triton 或 TorchServe 的复杂性，同时保证了系统的稳定性和可靠性。

双路召回是这套方案的核心设计。首先通过 PostgreSQL 的 tsvector + tsquery 执行 BM25 检索，然后通过 Qwen3-Embedding-0.6B 编码查询，由 pgvector 运行 IVFFlat 或 HNSW 近邻搜索。最后将两路结果综合，根据加权分数重新排序，这种逻辑在关键词密度高且语义多变的论文 NLP 场景中非常高效。

关于 Qwen3-Embedding-0.6B 的可靠性，该模型虽然参数量小，但指令微调后的语义匹配能力很强。对比评估显示，它在论文标题/摘要匹配上的表现与 text-embedding-3-small 差距不大，且成本更低。通过 Hugging Face Jobs 在单张 NVIDIA L4 上跑批量嵌入，性价比远超传统 GPU 集群。

选择 PostgreSQL 而非 Elasticsearch 的原因在于运维成本高且资源消耗大。在论文搜索场景中，关键词召回（BM25）至关重要，PostgreSQL 自带全文检索，配合 pgvector 扩展即可同时实现关键词检索和向量相似度搜索，从而形成一套混打方案。

这套方案虽然像是个利用现有资源拼凑的 Hacker 工程，但实际效果极佳，甚至提升了相关论文推荐的质量。它证明了无需追求最昂贵的向量数据库，仅凭 PostgreSQL 扩展和小模型嵌入，也能达到 SOTA 搜索引擎的水平。