AWS推出了用于训练ML模型的下一代定制芯片Trainium

日期:2020-12-03 作者:Saipriya艾耶 类别:#新闻

AWS推出了用于训练ML模型的下一代定制芯片Trainium

亚马逊子公司AWS最近推出了一款新的定制芯片,用于训练机器学习模型,被称为AWS Trainium。据该公司称,在re:Invent开发者大会上发布的下一代芯片旨在提供比云计算竞争对手更好的性能,支持PyTorch、TensorFlow和MXNet。

该芯片将在亚马逊的机器学习平台Amazon SageMaker中提供,并作为EC2实例提供。基于这些定制芯片构建的新实例将于2021年推出。

成本和速度是Trainium芯片的主要优势之一。与标准AWS GPU实例相比,AWS承诺在这些芯片中,每推理成本降低近45%,吞吐量提高30%。

除了新的发布,AWS还与英特尔签署了合作伙伴关系,推出由哈瓦那高迪驱动的新的EC2实例,用于训练机器学习模型。为2021年的发布做好准备,与目前基于gpu的EC2实例相比,这些实例的价格/性能提高了40%。该芯片还将支持PyTorch和TensorFlow。

这两个产品都是对AWS Inferentia平台的补充,该平台是在去年的re:Invent大会上推出的。在记录中,Inferentia作为这些ML训练块的推理对应物,并且还使用了自定义芯片。

根据AWS团队发布的一份声明,新的AWS Trainium解决了固定的机器学习培训预算带来的限制,以及增强模型及其应用所需的培训频率和范围的后续上限,为云中的机器学习培训提供了优越的性能和相对经济的成本。声明称,通过使用Inferentia和Trainium,客户将可以访问端到端的ML计算流,从扩展训练工作量到部署加速推理。

据报道,新的定制芯片将于2021年上半年引入AWS云。

信贷来源:https://techcrunch.com/2020/12/01/aws-launches-trainium-its-new-custom-ml-training-chip/



关于作者


Saipriya艾耶linkdin-box推特

Saipriya艾耶

Saipriya Iyer目前是AlgosOnline的一名内容开发者。作为一名计算机工程师,她冒险进入了写作领域,因为她喜欢玩文字游戏。有了3年的工作经验后,她开始涉足网站……

阅读更多

帖子Recommendents

到2026年肠内喂食管市场的技术、应用和地理分析与预测爱游戏登陆

作者:拉胡尔Varpe

DEC Research最近发表了一份题为“全球肠内喂食管市场研究报告”的研究报告。在这份报告中,分析师提供了全球肠内喂食管市场的详细评估。这份报告很包容……


植发市场综合研究,主要趋势,主要驱动力和挑战2026

作者:拉胡尔Varpe

DEC Research最近发布了一份名为《全球植发市场研究报告》的研究报告。在这份报告中,分析师提供了全球植发市场的详细评估。该报告包括一个完整的…


鼻窦扩张设备市场增长,机会,行业分析和预测到2026年

作者:拉胡尔Varpe

DEC Research最近发表了一份题为“全球鼻窦扩张设备市场研究报告”的研究报告。在这份报告中,分析师提供了全球鼻窦扩张设备市场的详细评估。这份报告包括……