专注于小型、高效AI模型的初创公司Moondream

Moondream是一家专注于小型、高效AI模型的初创公司,今天获得了450万美元的种子前融资。投资者包括Felicis Ventures、微软的M12 GitHub基金和Ascend。这家公司的目标是开发小型但高效的视觉语言模型,以解决企业AI采用中的关键问题,如云计算成本和隐私担忧。

小模型的优势

Moondream的开源模型已经引起了广泛关注,下载量超过200万次,GitHub星标数达到5100个。这些模型的特点是精度高、运行速度快,且可以在各种设备上本地运行,包括智能手机和工业设备。

CEO Jay Allen(前AWS技术总监)表示:“我们的模型特别之处在于,它是精度极高的小型模型之一,而且运行得非常好。它可以非常容易和快速地在任何地方运行。它甚至可以在iOS和手机上运行。”

解决云成本危机

Moondream的方法解决了企业AI采用中的一个日益严重的问题:云计算的巨大成本和隐私担忧。通过在设备上本地运行AI模型,Moondream帮助企业节省了云资源费用,同时保护了用户隐私。

Allen指出:“随着AI进入越来越多的应用,我们认为我们处于一种矛盾之中,既想要AI的所有好处,又不一定想把我们的生活广播到云端。我更倾向于在边缘附近做尽可能多的事情,这样我就能控制自己的隐私。”

实际应用

早期采用者已经为Moondream的技术找到了多种应用:

  • 零售业:通过移动扫描进行自动库存管理。
  • 运输业:进行车辆检查。
  • 制造业:在本地实施AI进行质量控制,特别是在空气隔离系统中。

技术成就

Moondream的模型在多个基准测试中表现出色:

  • VQAv2:达到80.3%的准确率。
  • GQA:达到64.3%的准确率。

系统的能源效率也非常高,每令牌消耗大约是每十亿参数0.6焦耳。

大卫与歌利亚:小团队挑战科技巨头

当主要科技公司专注于需要大量计算资源的大型模型时,Moondream则专注于实际实施。CTO Vik Korrapati表示:“这个领域的许多公司都专注于AGI,这最终成为一个巨大的干扰。我们专注于感知问题,以及如何在开发者需要的尺寸和形式因素中提供前沿的多模态能力。”

混合云服务

为了简化开发,Moondream推出了Moondream云服务,旨在提供类似于云的服务,同时保持边缘部署的灵活性。Allen说:“他们想要的是最简单的路径,从类似云的提供开始,这样他们就可以随意使用,但一旦他们做到了这一点,他们就不想感觉被锁定了。”

这种混合方法已经吸引了开发者的广泛兴趣,Allen将其归功于公司的“黑客、开源精神”和透明的开发过程。

未来展望

有了新的资金,Moondream计划扩大团队,包括在其西雅图总部招聘全栈工程师。公司的下一个挑战是扩大技术规模,同时保持定义其早期成功的效率和可访问性。

Korrapati警告说:“谈论AI的时间表是一个危险的游戏。”不过,Moondream预计,视觉语言模型将在未来12个月内被广泛采用。

总之,Moondream通过开发小型、高效的AI模型,为企业提供了新的解决方案,解决了云计算成本和隐私问题,同时保持了高性能和灵活性。

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

我们将24小时内回复。
取消