用 Pinecone 和 GPT-3.5 给个人主页搭建 RAG 聊天机器人的实战经验

最近我把个人作品集网站做了一次升级，核心目标是让它能“自己说话”。最实用的场景莫过于把简历和项目经历喂给 AI，让它代替我回答访客的问题。很多朋友在尝试构建 AI Agent 时容易陷入追求最强模型的误区，但通过这次实战我发现，一个高效的 RAG（检索增强生成）链路比盲目追求模型版本更重要。

这次升级的核心逻辑是将原本死板的 Prompt 引导，改为基于向量数据库的动态检索。我选择了 Pinecone 作为向量数据库来存储个人信息的 Embeddings。整个技术链路是这样的：当访客在页面右下角的弹窗中提问时，系统并不会直接把问题扔给 LLM，而是先通过 text-embedding-3-small 模型将问题向量化，然后在 Pinecone 库中检索最相关的知识片段。最后，系统将检索到的上下文与用户问题一起塞给 GPT-3.5 Turbo，由模型基于既定事实生成回答。

在模型选择上，虽然现在 Claude 3.5 或 GPT-4o 占据了讨论中心，但针对“个人信息问答”这种低复杂度任务，GPT-3.5 Turbo 的响应速度和成本控制其实是最优解。只要向量检索的精度足够高，模型只需要扮演一个“上下文总结者”的角色，回答质量就非常稳定，且能有效避免大模型在面对私有数据时容易产生的“幻觉”问题。

在 UI/UX 的交互逻辑上，我做了一个较大的调整：砍掉了之前独立的 Chat 页面，改成了全站通用的浮窗模式。这样用户在浏览某个具体项目案例时，如果产生疑问可以直接唤起机器人，而不会中断浏览流程。为了保证体验，我特意处理了状态保持逻辑，确保用户关闭窗口后再重新打开时，之前的对话记录依然存在，而不是每次都像面对一个失忆的机器人。

对于想要复刻这套方案的朋友，基础架构配置可以参考这个 JSON 结构：

{
  "llm": "gpt-3.5-turbo",
  "vector_db": "Pinecone",
  "embedding_model": "text-embedding-3-small",
  "strategy": "RAG",
  "ui_component": "Floating Chat Window"
}

在实际部署过程中，我踩过最大的坑在于数据的分片（Chunking）策略。很多教程建议使用固定字符数切分，但在处理个人简介类数据时，这种做法极其糟糕。如果分片太碎（比如每 100 字切一段），模型在检索时可能会丢失关键的上下文逻辑；如果分片太长，不仅浪费 Token，还会干扰检索精度，导致模型抓取到无关信息。经过测试，我发现最稳妥的方案是按自然段落进行切分，这样能最大限度保留语义的完整性。

目前这个机器人采取的是无需登录的开放模式。对于个人站点这种低并发场景，这种轻量化部署方案效率最高。通过 RAG 架构，我成功地将一个静态的展示页面变成了一个 24 小时在线的“虚拟数字分身”，在提升访客互动率的同时，极大地降低了重复回答基础问题的成本。