微软CEO这次公开“开炮”:模型厂商对蒸馏技术的态度太双标了

PromptCube3.com 新手 15小时前 513 浏览 3 点赞 约 1 分钟

微软CEO这次公开“开炮”:模型厂商对蒸馏技术的态度太双标了
via cnBeta.COM - 中文业界资讯站
「核心要点」
  • 微软CEO纳德拉公开批评部分AI实验室对“模型蒸馏”技术的限制过于严格

  • 批评核心在于厂商一边主张公开数据合理使用权,一边又试图垄断模型输出作为训练资源

  • 纳德拉指出若知识流动受阻,利润将过度向基础设施持有者集中,导致创新者难以获益
  • 这次纳德拉在X上的发言其实挺有意思,虽然没点名,但明眼人一看就知道是在怼Anthropic这些头部玩家。现在的局面挺矛盾的:大家都在强调利用公开数据训练模型的权利,但一旦涉及到“模型蒸馏”——也就是用更强的模型(比如Claude或GPT-4)生成的优质数据去喂养小模型,这些厂商就开始收紧篱笆,试图把这部分“知识产出”变成私有资产。

    我觉得纳德拉说得最透彻的一点是“知识流动”的问题。如果模型厂商把输出结果也当成严密的护城河,搞成单向的知识收割,那最后的结果就是掌握算力和基础设施的大厂吃掉所有利润,而真正做垂直应用或小模型的创新者会被层层盘剥。这种技术封锁不仅是在争夺数据,本质上是在争夺AI时代的“解释权”和“分配权”。这种博弈可能会让未来的AI开发成本变得更高,甚至导致技术创新的阶级固化。

    MicrosoftAnthropic

    全部回复 (0)

    还没有回复,来发第一条吧!

    发表回复

    支持 Markdown 格式