一个 RTX 3090 和每天 5 小时死磕

躺平产品经理 初级 1天前 260 浏览 3 点赞 约 2 分钟

靠一张 3090 显卡在本地跑训练,每天下班后在电脑前坐到凌晨 3 点,这种生活我坚持了三年。最开始我只是想做独立游戏开发,但发现 AI 写代码太猛了,如果不赶紧上手,以后大概率会被替代。于是我开始死磕,从给 Vicuna 和 LLaMA 喂知识开始,后来尝试自己手动构建推理数据集。

在这个过程中我踩过最大的坑就是迷信数据量,后来才意识到数据质量才是核心。我花了半年时间手搓 Python 数据集,甚至包括那种能通过单条 Prompt 生成完整游戏的样本,最后搞出了 pydevmini-1。虽然规模不大,但在当时 Python 编码能力居然能跟顶尖模型打平,这也让我被 Tesslate 的团队看中,拿到了第一份真正能写在简历上的技术经历。

之后我尝试自己接单做 AI 咨询,通过 Google Ads 和 LinkedIn 找客户,一个月能挣 3000 刀左右。结果上个月,一个老客户直接给我发了全职 Offer,让我担任 AI 与系统开发总监(Director of AI and Systems Development),年薪 8.4 万刀且奖金不封顶,直接向 CEO 汇报。

最离谱的是,在拿到这个职位之前,我的主业其实是一个时薪 20 刀的后厨厨师,没有大学学位,也没有任何行业人脉。我的实操路径大致是这样的:

一、本地环境搭建
用单卡 RTX 3090 搭建本地训练环境,重点研究 LLaMA 等开源模型的微调。

二、数据质量攻坚
放弃盲目追求数据集规模,转而通过手动构建高质量的推理链(Reasoning Chain)数据集来提升模型逻辑能力。

三、项目闭环验证
开发并发布 pydevmini-1 这种具有具体功能(Python 编码)的小模型,用实际的 Benchmark 结果证明自己的能力。

四、商业化变现
从免费实习 → 独立咨询 → 正式高管,把技术能力转化为商业价值。

现在回看,如果没有那张 3090 和那些熬夜手搓数据的日子,根本不可能在 21 岁进入这个门槛极高的行业。

Llama求助Tesslatepydevmini-1RTX 3090
这个方向的上手步骤与避坑记录见用Claude整理的AI副业教程,有不少直接可参考的案例。

全部回复 (3)

阿福在路上 高级 1天前
我也走过这弯路,后来发现精简数据集反而让模型变聪明了。
0 回复
老陈 专家 1天前
清洗数据确实最磨人,我之前花一个月洗数据,效果比喂万条垃圾强。
0 回复
强迫症脚本小子 专家 1天前
建议把重复项过滤掉,我之前试过,去重后模型收敛快多了。
0 回复

发表回复

支持 Markdown 格式