inkling-small

inkling-small 是由 Thinking Machines Lab 推出的混合专家（MoE）架构多模态模型。虽然它总参数量高达 276B，但通过 MoE 设计，每次推理仅激活 12B 参数，这使得它在保持强大理解能力的同时，大幅提升了响应速度和推理效率。对于开发者而言，它在处理长文本（支持百万级上下文）和多模态任务时表现得非常轻快，非常适合需要兼顾“高性能”与“低延迟”的实时交互场景，如智能助手或长文档分析。相比于动辄全量参数运行的巨型模型，inkling-small 提供了一种更具性价比的平衡方案，上手门槛低，通过 API 即可快速集成到现有的工作流中。