边缘计算芯片与软件初创公司SiMa.ai刚刚从戴尔技术资本等行业巨头手中获得7000万美元融资,现正发布一款尺寸更小、功耗更低的全新芯片MLSoC Modalix,意在扩大它在边缘AI市场的业务规模。
这款芯片采用6纳米制程工艺,比这家总部位于加州圣何塞的初创公司上一代的16纳米MLSoC芯片先进得多。
这款样报产品以该公司的ONE边缘AI平台为基础,旨在支持卷积神经网络(CNN)、Transformers以及生成式AI等高级AI模型,同时提供业界领先的能效表现与可扩展性能。
在视频电话采访中,SiMa.ai公司CEO Krishna Rangasayee分享了对于产品发布的兴奋之情。他表示:“我们正在扩大自身面向AI应用的平台定位特性,这不仅体现在芯片之中,还体现在与之配套的软件中引入的一项新功能。”
关于Modalix产品线未来将走向何方,Rangasayee的回答是它非常适合“工业自动化、医疗保健、智能视觉系统、航空航天与国防,乃至任何需要多模态元素的应用场景”。
Rangasayee同时指出:“机器人、具身AI以及感官信息将成为未来的发展方向。Modalix非常适合这些领域。它是一种以AI为中心的生成式架构,可用于推动包括人机交互在内的多种新兴应用。”
但这家年轻公司的野心还远不止于此。Rangasayee解释称,这款芯片有望开启一个新的时代,届时“每款电器、每台设备都将具有与人类相仿的能力,代表它能够说话、表达和呈现可视信息。”
突破边缘AI的边界
生成式AI正在迅速改变各行各业,但截至目前它们的应用平台主要局限于台式PC和移动设备。如今,得益于SiMa.ai及其竞争对手(包括GPU市场的领导者英伟达,旗下Orin和Xavier系列同样提供边缘芯片)的共同推动,这项技术正在不断发展,允许将强大的AI模型部署在施工现场及工厂车间的机械臂和无人机等专用设备当中。
Rangasayee宣称:“我们在实际应用中的表现要比直接竞争对手好上10倍,而新款产品的亮相则将这种优势扩大到了比其他任何厂商都要好上10倍。”
SiMa.ai公司的MLSoC Modalix平台旨在提供多模态AI处理能力,可集成文本、图像和音频等输入格式。它能够顺利运行起Meta的Llama 2.7B参数模型变体,从而为边缘推理用例释放巨大的普及潜力。
正如Rangasayee所言:“人们正在将各种现实要素融合起来。因此,用户可以将音频、视频一文本组合于一处,大大放宽输入格式的支持范围,而输出也同样可以是其中两者的结合。这也是我们需要适应的第二个重大转变。”
MLSoC Modalix产品家族提供多种配置选项,范围从25到200 TOPS不等。每种配置均经过精心设计,可处理各类要求苛刻的AI工作负载,同时最大限度降低运行功耗。
根据Rangasayee的介绍,这套新平台代表着功能层面的巨大飞跃:“Modalix将过去两年以来出现的种种演进和成果串连了起来。如今,大家可以在单一芯片之上运行从CNN到最新前沿模型的所有工作负载。”
SimA.ai的技术专为边缘应用所设计,解决了该领域所面临的一系列关键挑战,特别是每瓦性能指标。
Rangasayee在采访中表示:“我们的一大关键技术优势,就体现在每瓦每秒帧数或者每瓦每秒推理数。在实际应用中,我们的表现要比直接竞争对手好上10倍,而Modalix进一步扩大了这一领先优势。”
他补充称,目标就是帮助客户摆脱对供电和冷却限制的担忧。“有了Modalix,也就有了「既要又要」的可能:低功耗、高性能——二者相加就代表着重塑边缘用例的希望。”
广受业内人士认可
SiMa.ai的MLSoC Modalix产品家族,凭借强大的潜力得到了行业领导者们的高度关注。Elementray公司CEO Arye Barnehama对该平台出色的节能与高性能表现赞不绝口,表示这些特性与Elementray视觉检测系统的现实需求高度一致。
与此同时,Hayden AI公司CTO Vaibhav Ghadiok也盛赞了该平台在功率受限的边缘设备上,交付多模态AI的强大能力。
MLSoC Modalix家族也离不开SiMa.ai的Palette Edgematic软件技术栈的支持,这是一套无代码、拖放式平台,旨在让非专业开发人员也能参与到AI部署当中。
该平台融合了集成图像信号处理器(ISP)、PCIe Gen 5支持并搭载有八块Arm Cortex-A65 CPU等创新技术成果,能够处理一系列AI工作负载。SiMa.ai的方案,使得AI功能有望被无缝集成至现有工作流程当中。
不断增长的边缘AI市场
SiMa.ai最新产品正式发布,也表明它与英伟达等行业巨头在市场上一争长短的雄心。虽然英伟达在基于云的AI应用领域占据主导地位,但SiMa.ai所专注的实时设备处理同样是一块至关重要的细分市场。去年,Rangasayee也曾明确强调,SiMa.ai的芯片产品在边缘AI应用的性能和能效两方面,均有着优于英伟达的实际表现。
随着边缘AI的持续增长,分析师们预测未来几年,全球边缘计算市场规模将翻一番,这主要得益于AI技术的进步以及对边缘实时决策需求的扩大。
SiMa.ai的MLSoC Modalix产品家族完全有能力满足这方面需求,提供一套能够在单一芯片之上处理多模态AI模型的强大平台。
随着MLSoc Modalix产品家族的发展壮大,SiMa.ai公司正在扩大它在边缘AI领域的领导地位。该平台的高性能、高能效以及易于部署等优势,将使它成为寻求利用边缘AI力量的行业从业企业的一个引人注目的选择。
而在戴尔技术资本等投资机构以及越来越多行业合作伙伴的大力支持之下,SiMa.ai也完全有可能引领下一波边缘AI创新潮流。
好文章,需要你的鼓励
这项由浙江大学与阿里巴巴通义实验室联合开展的研究,通过创新的半在线强化学习方法,显著提升了AI界面助手在多步骤任务中的表现。UI-S1-7B模型在多个基准测试中创造了7B参数规模的新纪录,为GUI自动化代理的发展开辟了新的技术路径。
阿里巴巴联合浙江大学开发的OmniThink框架让AI学会像人类一样慢思考写作。通过信息树和概念池的双重架构,系统能够动态检索信息、持续反思,突破了传统AI写作内容浅薄重复的局限。实验显示该方法在文章质量各维度均显著超越现有最强基线,知识密度提升明显,为长文本生成研究开辟了新方向。
新加坡国立大学研究人员开发出名为AiSee的可穿戴辅助设备,利用Meta的Llama模型帮助视障人士"看见"周围世界。该设备采用耳机形态,配备摄像头作为AI伴侣处理视觉信息。通过集成大语言模型,设备从简单物体识别升级为对话助手,用户可进行追问。设备运行代理AI框架,使用量化技术将Llama模型压缩至10-30亿参数在安卓设备上高效运行,支持离线处理敏感文档,保护用户隐私。
腾讯混元3D 2.0是一个革命性的3D生成系统,能够从单张图片生成高质量的带纹理3D模型。该系统包含形状生成模块Hunyuan3D-DiT和纹理合成模块Hunyuan3D-Paint,采用创新的重要性采样和多视角一致性技术,在多项评估指标上超越现有技术,并提供用户友好的制作平台。作为开源项目,它将大大降低3D内容创作门槛,推动3D技术的普及应用。