希娃公司(Ceva)首席战略官伊里·特拉沙斯基(Iri Trashanski)凭借其在科技领域的丰富经验,正在塑造智能边缘计算的未来。
随着小型语言模型(Small Language Models,SLM)和多模态模型的能力逐渐接近大型云端系统,AI领域正在发生重大转变。这一发展趋势反映了向设备端智能的全面转移。从可穿戴设备和智能音箱到工业传感器和车载系统,对能够独立于云端运行的语言AI的需求正在快速增长。
微软的Phi(Phi)、谷歌的吉米尼纳米(Gemini Nano)以及米斯特拉尔(Mistral)等开源模型正在快速缩小与大型模型的性能差距。部分模型如谷歌的杰玛3(Gemma 3)和小美人鱼(TinyLlama)仅使用约10亿个参数就能实现出色的性能表现。
通过模型剪枝、量化和知识蒸馏等优化技术,这些模型的规模和能耗进一步降低。据Market.Us研究显示,到2034年,智能设备中的边缘AI全球市场规模预计将超过3,850亿美元。
目前边缘AI发展面临三大主要挑战:
然而,小型语言模型的革新也带来了前所未有的机遇。它降低了AI应用的门槛,使初创企业和制造商都能在各类设备中植入智能功能。随着技术不断成熟,边缘智能将从可能性转变为必然趋势,推动实时、个性化和可持续的AI应用普及。