AI芯片初创公司Eta Compute已从芯片公司转型发展成为一家系统解决方案公司,专门研究边缘设备中超低功耗的AI实现。该初创公司还宣布了与Synaptics的战略合作伙伴关系,Synaptics已投资了Eta Compute,并独家获得该公司的Tensai Flow软件授权。展望未来,Eta Compute将继续出售其现有的ECM3532超低功耗AI芯片,但是并不会有更新的路线图,该公司还将开发基于ECM3532和Synaptics新型Katana AI SoC的电路板和模块。
Eta Compute还宣布已完成C轮融资,筹集了1250万美元,使募集的资金总额达到3150万美元。该轮融资由Synaptics牵头,现有投资者也参与其中。 Synaptics的首席战略官Satish Ganesan已加入Eta Compute董事会。
Eta Compute的ECM3532是一种异构多核SoC,针对超低功耗AIoT应用进行了优化,该应用仅需几微瓦的功耗即可执行AI推理。该公司的秘诀在于无需锁相环(PLL)即可实现的专有电压和频率缩放技术,与Arm Cortex-M3和NXP CoolFlux DSP内核结合使用,二者可独立运行电压和频率缩放。可以使用一个或两个内核来加速AI工作负载。该公司的软件栈Tensai Flow既包括ECM3532的编译器,又包括针对低功耗操作进行了优化的神经网络模型。
边缘智能
Synaptics一直在将其产品组合扩展到IoT领域,并于今年夏天收购了Broadcom的无线IoT业务(以及扩展坞应用的IC和软件公司DisplayLink)。
Synaptics的首席战略官Satish Ganesan告诉EE Times,该公司正在将SoC应用到诸如智能扬声器,机顶盒,智能显示器和头戴式耳机之类的产品中,趋势是在边缘实现更多智能。AI对电池应用的推断是一个挑战。Synaptics已推出了一个名为Katana的平台,该平台包括一个具有AI功能的多核SoC,该芯片针对边缘设备的低功耗进行了优化,现在还将包括Eta Compute的Tensai Flow软件。
Ganesan说:“随着市场的扩大,我们的目标是增加一系列AI处理器。”
Synaptics的Katana系列中的第一个SoC是具有AI功能的多核设计(图片来源:Synaptics)
与Eta Compute的ECM3532一样,Katana SoC使用混合多核体系结构(在这种情况下,是标准Arm内核和针对低功耗进行了优化的定制DSP),但是Katana提供了更高的性能选项,足以运行不止一种AI推理并行进行。尽管与ECM3532可能在架构上有些相似,但设计是来自Synaptics的。
为什么不是收购Eta Compute并将团队和软件引入内部?
Ganesan说:“目前,投资是我们合适的工具。我们将共同探索市场,并在以后确定未来的路线。”
两家公司计划合作推出面向市场的产品。
Ganesan说:“ Eta Compute将可以使用我们的Katana芯片,从而能够根据客户开发模块,电路板和平台,从他们的角度出发去占领市场。对于某些客户或某些应用程序,我们将能够与Eta Compute软件和编译器配对,并将其作为捆绑包提供给我们的客户,这是我们达成的联合开发和销售协议。”
功率效率
Eta Compute的ECM Compute 2的ECM3532发布后,客户表示,除了提高能效外,他们的首要任务是易于使用。Eta Compute的首席执行官Ted Tewksbury告诉EE Times,异构处理体系结构尤其如此,这可能对编程造成挑战。
Eta CEO Ted Tewksbury
“我们很清楚地知道,开发者需要一种非常易于使用的方法来将这些复杂的处理器与TensorFlow,PyTorch和其他AI框架接口集成,”Tewksbury说,“我们正在与Synaptics紧密合作,共同优化硬件和软件,以在Synaptics Katana处理器上提供最高效的代码。”
Tewskbury表示,Tensai Flow的编译器比市场上其他编译器或专有编译器获得更高的效率,这可以通过各种内存优化技术以及性能和功耗的优化来完成,但是必须针对特定目标处理器对软件进行优化。
Tensai Flow的编译器最初针对ECM3532进行了优化,将被移植到Katana处理器上。 Synaptics是唯一的授权方,编译器不会针对其他目标硬件进行优化。鉴于异构多核(Arm微控制器加DSP),Tewksbury表示,在这两种芯片中,Tensai Flow和Katana之间有很多协同作用。
“这是建立这种合作关系的原因之一,我们的软件在业内能够将Tensor Flow转换为混合多核处理器进行转换,压缩和优化,这在业内是独一无二的,而混合多核处理器是最难进行嵌入式编程的。”Tewksbury表示,“在整个行业中,Synaptics和Katana确实拥有最先进,最复杂和最节能的混合多核处理器。因此,存在很多协同作用,因为我们已经开发出了从Tensor Flow到混合多核架构的优化和编译技术。”
Eta Compute的Tensai Flow工具链
商业模式
尽管Eta Compute已将其软件许可给Synaptics,但该公司的新业务模式不是软件许可。相反,该公司将专注于更多的端到端解决方案,围绕自己和Synaptics的芯片设计模块。
Tewksbury说:“目前,我们不打算进一步开发芯片。我们计划采用Synaptics的新一代的Katana,之后双方将合作开发下一代产品。”
ETA AI传感器节点开发板
放弃芯片技术开发将有助于Eta Compute减少其开销。展望未来,Tewksbury计划通过建立现有ECM3532的销售以及基于ECM3532和Katana的使用Tensai Flow软件的板卡和模块的销售来发展公司。
“最终,我们将包装其他应用程序软件,无论它是仪表板,分析,业务见解即服务等模式,我们都将这些服务围绕我们的模块化解决方案进行包装,并将其作为完整的解决方案出售给客户。” Tewksbury说。 “这使我们的平均销售价格提高了一个数量级或更多。因此,从本质上讲,我们已经从单纯的半导体公司转变为系统解决方案公司。”
Katana SoC系列的第一个成员现已上市,Eta Compute的ECM3532也已上市。专为Synaptics的Katana硬件量身定制的Eta Compute的Tensai Flow软件版本将于2021年上半年上市。