边缘计算芯片厂SiMa.ai发布Modalix,将多模态AI推向每一个角落

SiMa.ai公司正在扩大它在边缘AI领域的领导地位。

边缘计算芯片与软件初创公司SiMa.ai刚刚从戴尔技术资本等行业巨头手中获得7000万美元融资,现正发布一款尺寸更小、功耗更低的全新芯片MLSoC Modalix,意在扩大它在边缘AI市场的业务规模。

这款芯片采用6纳米制程工艺,比这家总部位于加州圣何塞的初创公司上一代的16纳米MLSoC芯片先进得多。

边缘计算芯片厂SiMa.ai发布Modalix,将多模态AI推向每一个角落

这款样报产品以该公司的ONE边缘AI平台为基础,旨在支持卷积神经网络(CNN)、Transformers以及生成式AI等高级AI模型,同时提供业界领先的能效表现与可扩展性能。

在视频电话采访中,SiMa.ai公司CEO Krishna Rangasayee分享了对于产品发布的兴奋之情。他表示:“我们正在扩大自身面向AI应用的平台定位特性,这不仅体现在芯片之中,还体现在与之配套的软件中引入的一项新功能。”

关于Modalix产品线未来将走向何方,Rangasayee的回答是它非常适合“工业自动化、医疗保健、智能视觉系统、航空航天与国防,乃至任何需要多模态元素的应用场景”。

Rangasayee同时指出:“机器人、具身AI以及感官信息将成为未来的发展方向。Modalix非常适合这些领域。它是一种以AI为中心的生成式架构,可用于推动包括人机交互在内的多种新兴应用。”

但这家年轻公司的野心还远不止于此。Rangasayee解释称,这款芯片有望开启一个新的时代,届时“每款电器、每台设备都将具有与人类相仿的能力,代表它能够说话、表达和呈现可视信息。”

突破边缘AI的边界

生成式AI正在迅速改变各行各业,但截至目前它们的应用平台主要局限于台式PC和移动设备。如今,得益于SiMa.ai及其竞争对手(包括GPU市场的领导者英伟达,旗下Orin和Xavier系列同样提供边缘芯片)的共同推动,这项技术正在不断发展,允许将强大的AI模型部署在施工现场及工厂车间的机械臂和无人机等专用设备当中。

Rangasayee宣称:“我们在实际应用中的表现要比直接竞争对手好上10倍,而新款产品的亮相则将这种优势扩大到了比其他任何厂商都要好上10倍。”

SiMa.ai公司的MLSoC Modalix平台旨在提供多模态AI处理能力,可集成文本、图像和音频等输入格式。它能够顺利运行起Meta的Llama 2.7B参数模型变体,从而为边缘推理用例释放巨大的普及潜力。

正如Rangasayee所言:“人们正在将各种现实要素融合起来。因此,用户可以将音频、视频一文本组合于一处,大大放宽输入格式的支持范围,而输出也同样可以是其中两者的结合。这也是我们需要适应的第二个重大转变。”

MLSoC Modalix产品家族提供多种配置选项,范围从25到200 TOPS不等。每种配置均经过精心设计,可处理各类要求苛刻的AI工作负载,同时最大限度降低运行功耗。

根据Rangasayee的介绍,这套新平台代表着功能层面的巨大飞跃:“Modalix将过去两年以来出现的种种演进和成果串连了起来。如今,大家可以在单一芯片之上运行从CNN到最新前沿模型的所有工作负载。”

SimA.ai的技术专为边缘应用所设计,解决了该领域所面临的一系列关键挑战,特别是每瓦性能指标。

Rangasayee在采访中表示:“我们的一大关键技术优势,就体现在每瓦每秒帧数或者每瓦每秒推理数。在实际应用中,我们的表现要比直接竞争对手好上10倍,而Modalix进一步扩大了这一领先优势。”

他补充称,目标就是帮助客户摆脱对供电和冷却限制的担忧。“有了Modalix,也就有了「既要又要」的可能:低功耗、高性能——二者相加就代表着重塑边缘用例的希望。”

广受业内人士认可

SiMa.ai的MLSoC Modalix产品家族,凭借强大的潜力得到了行业领导者们的高度关注。Elementray公司CEO Arye Barnehama对该平台出色的节能与高性能表现赞不绝口,表示这些特性与Elementray视觉检测系统的现实需求高度一致。

与此同时,Hayden AI公司CTO Vaibhav Ghadiok也盛赞了该平台在功率受限的边缘设备上,交付多模态AI的强大能力。

MLSoC Modalix家族也离不开SiMa.ai的Palette Edgematic软件技术栈的支持,这是一套无代码、拖放式平台,旨在让非专业开发人员也能参与到AI部署当中。

该平台融合了集成图像信号处理器(ISP)、PCIe Gen 5支持并搭载有八块Arm Cortex-A65 CPU等创新技术成果,能够处理一系列AI工作负载。SiMa.ai的方案,使得AI功能有望被无缝集成至现有工作流程当中。

不断增长的边缘AI市场

SiMa.ai最新产品正式发布,也表明它与英伟达等行业巨头在市场上一争长短的雄心。虽然英伟达在基于云的AI应用领域占据主导地位,但SiMa.ai所专注的实时设备处理同样是一块至关重要的细分市场。去年,Rangasayee也曾明确强调,SiMa.ai的芯片产品在边缘AI应用的性能和能效两方面,均有着优于英伟达的实际表现。

随着边缘AI的持续增长,分析师们预测未来几年,全球边缘计算市场规模将翻一番,这主要得益于AI技术的进步以及对边缘实时决策需求的扩大。

SiMa.ai的MLSoC Modalix产品家族完全有能力满足这方面需求,提供一套能够在单一芯片之上处理多模态AI模型的强大平台。

随着MLSoc Modalix产品家族的发展壮大,SiMa.ai公司正在扩大它在边缘AI领域的领导地位。该平台的高性能、高能效以及易于部署等优势,将使它成为寻求利用边缘AI力量的行业从业企业的一个引人注目的选择。

而在戴尔技术资本等投资机构以及越来越多行业合作伙伴的大力支持之下,SiMa.ai也完全有可能引领下一波边缘AI创新潮流。

来源:VentureBeat

0赞

好文章,需要你的鼓励

2024

09/13

16:30

分享

点赞

邮件订阅