一个 RTX 3090 和每天 5 小时死磕
靠一张 3090 显卡在本地跑训练,每天下班后在电脑前坐到凌晨 3 点,这种生活我坚持了三年。最开始我只是想做独立游戏开发,但发现 AI 写代码太猛了,如果不赶紧上手,以后大概率会被替代。于是我开始死磕,从给 Vicuna 和 LLaMA 喂知识开始,后来尝试自己手动构建推理数据集。
下一篇
RAG 检索只要 Top-K 拿不到全部答案就得翻车 →
在这个过程中我踩过最大的坑就是迷信数据量,后来才意识到数据质量才是核心。我花了半年时间手搓 Python 数据集,甚至包括那种能通过单条 Prompt 生成完整游戏的样本,最后搞出了 pydevmini-1。虽然规模不大,但在当时 Python 编码能力居然能跟顶尖模型打平,这也让我被 Tesslate 的团队看中,拿到了第一份真正能写在简历上的技术经历。
之后我尝试自己接单做 AI 咨询,通过 Google Ads 和 LinkedIn 找客户,一个月能挣 3000 刀左右。结果上个月,一个老客户直接给我发了全职 Offer,让我担任 AI 与系统开发总监(Director of AI and Systems Development),年薪 8.4 万刀且奖金不封顶,直接向 CEO 汇报。
最离谱的是,在拿到这个职位之前,我的主业其实是一个时薪 20 刀的后厨厨师,没有大学学位,也没有任何行业人脉。我的实操路径大致是这样的:
一、本地环境搭建
用单卡 RTX 3090 搭建本地训练环境,重点研究 LLaMA 等开源模型的微调。
二、数据质量攻坚
放弃盲目追求数据集规模,转而通过手动构建高质量的推理链(Reasoning Chain)数据集来提升模型逻辑能力。
三、项目闭环验证
开发并发布 pydevmini-1 这种具有具体功能(Python 编码)的小模型,用实际的 Benchmark 结果证明自己的能力。
四、商业化变现
从免费实习 → 独立咨询 → 正式高管,把技术能力转化为商业价值。
现在回看,如果没有那张 3090 和那些熬夜手搓数据的日子,根本不可能在 21 岁进入这个门槛极高的行业。
这个方向的上手步骤与避坑记录见用Claude整理的AI副业教程,有不少直接可参考的案例。