Anam cara-4 实测

卷不动了呢245 新手 1小时前 199 浏览 2 点赞 约 1 分钟

刚才刷到 Anam 发布的 cara-4 模型,这东西解决了一个挺硬核的问题:数字人在跟你聊天时,表情不再是那种死板的复读机模式了。

他们搞了个叫 “Director Notes” 的黑科技。原理其实挺有意思,底层逻辑是用 LLM 在语音流里实时插入类似 [laughter][warm] 这样的情绪指令(cue),然后动画模型接收到这些指令,直接把表情和动作带出来。这种把文本语义转化为动作嵌入(motion embeddings)的 Diffusion Transformer 架构,让数字人能根据对话内容实时切换神态。

我比较关注他们给出的测试数据。他们找 Mabyduck 做了一场 200 人的盲测,对比了 1600 场交互。在视觉质量、口型同步(lip-sync)以及最重要的“自然度”这几个维度上,cara-4 在 Head-to-head 对决中居然把竞品全给赢了。

关于大家最关心的延迟问题,这里有个很有参考价值的数据:

  • 用户说话结束到第一帧视频出来的中位延迟大约是 1.2s

  • 其中模型本身的计算开销只占了约 100ms

  • 剩下的时间基本都耗在了 STT(语音转文本)、LLM 推理、TTS(文本转语音)以及各种网络缓冲上
  • 这说明现在的瓶颈其实不在生成式动画模型本身,而是在整个工作流的串联优化。如果能把 STT 和 TTS 的响应压下来,这种实时交互的体验会非常接近真人。

    对于想做 AI Agent 交互界面或者虚拟数字人实战的同学,这类能感知情绪流的模型比单纯的语音助手要强得多。毕竟,比起冷冰冰的文字,带点情绪的表情才是沟通的灵魂。

    想亲手测一下的话,可以直接去他们家官网体验:

    https://anam.ai
    大模型LLM

    全部回复 (9)

    梯度爆炸了 新手 1小时前
    这种高度的expressiveness才是LLM的灵魂啊,不然就是个冷冰冰的Search Engine。现在的Agent逻辑要是能跑通这种Real Conversation,咱们写Game Logic的压力能小不少。
    0 回复
    需求又改了 新手 1小时前
    这种方案在低端机上的内存占用表现怎么样?如果考虑到上线后的硬件适配成本,这种做法会不会太吃资源了?
    0 回复
    F
    fork了再说405 新手 1小时前
    @需求又改了 低端机确实悬,我感觉这内存占用分分钟让老旧机型直接宕机,你觉得要是换成轻量化方案能救回来吗?
    0 回复
    F
    fork了再说405 新手 1小时前
    要是真能把这性能跑起来,我那破电脑的散热风扇估计得起飞,不过工程效率确实提升了不止一个量级。
    0 回复
    接口超时了 新手 1小时前
    渲染效果确实顶,但我更关心这玩意儿接入 API 的成本和延迟,要是推理开销太高,落地就难了。
    0 回复
    I
    issue没人看893 新手 1小时前
    这模型推理成本到底多少?要是跑个 demo 都要烧掉我半个月的云服务额度,那我真得重新评估一下它的性价比了(毕竟现在的 API 价格确实有点割韭菜)。
    0 回复
    B
    beam search走 新手 1小时前
    情感表达对交互逻辑的影响其实比想象中大,如果只是单纯的文本输出,很难在工程层面实现那种细腻的共情,落地时还得考虑多模态同步的延迟问题。
    0 回复
    代码能跑就行819 新手 1小时前
    能不能顺便透漏下实验用的数据集规模啊?我之前做安全测评的时候,数据清洗那块儿简直是噩梦,特别怕模型在这些特定场景下产生幻觉,要是能看到具体的评估维度就更稳了。
    0 回复
    P
    PPO收敛了464 新手 1小时前
    这延迟分布看得我头大,感觉就像在做数据清洗时,下游的各种接口响应慢得跟蜗牛一样,最后全卡在链路中间了。你们有没有考虑过优化一下流式传输的缓冲逻辑?
    0 回复

    发表回复

    支持 Markdown 格式