心流logo

Lemony AI推出袖珍AI计算设备 本地部署更安全

创新产品介绍

Uptime Industries(简称Uptime)推出了一款名为Lemony AI的便携式AI计算设备,专注于本地AI基础设施部署。这款掌上型设备体积小巧,能够在单个节点上运行大语言模型(LLM)、AI代理和AI工作流。每台设备仅需65瓦电力即可运行,耗电量相当于笔记本电脑充电,多台设备可堆叠连接组成更大规模的AI集群。

技术能力与合作

Uptime联合创始人兼首席执行官萨沙·布尔勒(Sascha Buehrle)向TechCrunch透露,单个节点可支持最大750亿参数规模的大语言模型,可运行开源模型或改装后的闭源模型。在设备集群中,每个节点能够独立运行不同模型。目前,公司已与IBM(IBM)和JetBrains建立合作关系,为用户提供更便捷的AI模型访问渠道,包括IBM的闭源模型。

产品研发历程

该产品源于一个创新实验:Uptime联合创始人布尔勒和伊万·库列绍夫(Ivan Kuleshov)最初尝试在树莓派(Raspberry Pi)微型计算机上部署分布式语言模型。实验成功后,他们开始探索更多可能性,最终开发出这款专注于数据隐私保护的小型设备,以满足企业级用户的需求。

市场前景与发展规划

公司已获得由True Ventures领投的200万美元种子轮融资,投资方包括Alumni Ventures、JetBrains和多位天使投资人。目前,金融、医疗保健和法律等强监管行业的企业已表现出浓厚兴趣。

布尔勒强调了产品的数据安全性:"所有数据、文档、文件、邮件都存储在设备内,模型和代理均在本地运行,确保数据不会外泄。"

未来发展方向

公司计划将其自主研发的Lemony操作系统(Lemony OS)适配到其他硬件平台,如英伟达(Nvidia)DGX Spark,并将现有的单用户系统扩展为支持团队协作的解决方案。目前,Lemony AI采用订阅制,每月499美元可供最多5名用户使用。