hermes-agent量产系统

Inkling:你可能永远不会用的最重要AI模型,但它刚刚发布了

一项重要的AI创新悄然到来,为美国企业在不断演变的AI模型格局中提供了新的战略选择。Thinking Machines Lab 最近发布的开源多模态模型 Inkling,展示了几个正在重塑组织在AI采用中采购、预算和竞争差异化的行业趋势。

Inkling 的技术价值主张

讨论聚焦于 Inkling 在闭源模型和中国开源替代品主导的格局中脱颖而出的技术特性。Inkling 是一个 9750 亿参数的混合专家(MoE)Transformer,原生支持文本、图像和音频。它从发布首日起就通过企业级分发渠道提供,并且兼容微调服务,使其成为需要大规模灵活性的企业的即选项。

目前中国的开源权重模型大多仅支持文本。Inkling 的多模态能力填补了企业对更广泛模态覆盖的关键需求。该模型底层架构支持 100 万个Token的上下文窗口,跨模态预训练了 45 万亿个数据样本,并提供大(410 亿活跃参数)和小(120 亿活跃参数)两个版本供安装。

企业采购:AI 供应商策略的转变

讨论中提到,缺乏可信的美国开源权重模型限制了美国企业的采购选择,尤其是那些涉及政府合同或关注供应链安全的企业。由于中美关系以及近期中国可能限制其开源模型获取的迹象,许多大型组织尽管认可中国开源模型的技术优势,但仍避免部署它们。

Inkling 的推出有望为那些此前因监管、安全或品牌价值原因而无法使用开源选项的企业解锁采购渠道。现在,企业可以在招标中采用美国制造、可定制的模型,从而扩大那些不愿或无法依赖中国技术的组织的可用工具集。

AI 模型过剩:合理调整 AI 投资规模

一个关键主题是“模型过剩”挑战:大多数企业并不需要前沿模型(即绝对性能最强、最昂贵的AI系统),这些模型对于商业环境中常见的稳定、重复性任务来说过于强大。虽然财富500强企业有时能从这些高端模型中提取足够价值,但大多数企业——特别是财富501到5000档次的企业——由于成本、复杂性和能力差距,并没有获得成比例的投资回报。

Inkling 的中等性能表现(在人工智能指数上得分为41,大约相当于七个月前顶级模型的水平)体现了一种务实的折衷方案。真正的机会在于将模型的强度与组织的实际需求相匹配,在提供高性能的同时,避免最新专有系统的过高成本。

微调即服务:无需基础设施的定制化

讨论中提出了多个要点,包括微调作为非研究团队的新兴服务。Inkling 可通过 Tinker 平台访问,该平台使企业无需拥有专用GPU基础设施即可微调模型。即使压缩版本的 Inkling 也需要大约 600 GB 内存,这凸显了其旨在服务大型组织或那些利用托管训练/云服务的客户。

具体用例显示了显著的成本节约。例如,一家金融公司使用 Tinker 微调了一个中国开源权重模型,用于重复性判断任务,以比顶级专有模型低 13.8 倍的成本实现了超越。这样的结果突显了当定制化模型针对特定业务流程调整时,其性能可以超越通用系统。

战略重置:企业 AI 的“模型购物”崛起

讨论探讨了高管剧本的转变:组织正在转向“模型购物”——为每个特定工作流选择最合适的模型,而不是将所有工作负载默认分配给某个供应商的旗舰模型。主流云供应商现在正在整合多样化选项,混合使用自己的模型、第三方模型和开源替代品,以最大化运营和成本效率。

未来的工作流将根据风险、规模、隐私和所需专有判断的程度进行评分。对于许多稳定和重复性的任务,系统将自动路由更经济的模型,而将前沿智能保留给模糊或高风险的工作。这种方法借鉴了所展示的例子,包括当今前沿模型的进步,使其能够以最小的技术努力快速训练出更小的专用模型——有时只需两个提示和一个晚上的处理时间。

结论:AI 模型选择作为竞争杠杆

企业 AI 正处于一个转折点——经济优化、合规性和定制化在此交汇。Inkling 的发布以及微调即服务平台的兴起,标志着从“一刀切”模型向有意识、工作流驱动的模型选择与集成的转变。

讨论说明了企业领导者需要重新思考其 AI 采购和部署方式,聚焦于灵活性、与内部流程的一致性以及成本纪律。开源权重模型生态系统的发展——尤其是由美国实验室引领的——从根本上扩大了战略性差异化的机会,以支持 AI 驱动的业务。


本期内容要点

  • Inkling AI 模型发布概述
  • Thinking Machines Lab 领导层亮点
  • Inkling 的多模态和智能体能力
  • 开源与专有 AI 模型对比
  • 使用美国 AI 模型的企业采购
  • AI 微调即服务(Tinker)
  • 基准分数:Inkling vs. 前沿模型
  • 企业定制化与模型购物
  • AI Token 成本驱动模型效率
  • Bridgewater 案例研究:AI 模型定制化
  • 前沿模型赋能高效微调
  • 未来趋势:专业化小型语言模型

类似文章