
亚马逊旗下的AWS云计算部门周二表示,将在其未来几代人工智能计算芯片中采用关键的英伟达技术,因为该公司正加大力度吸引主要AI客户使用其服务。
AWS表示,将在名为Trainium4的未来芯片中采用NVLink Fusion技术。它没有具体说明发布日期。NVLink技术可在不同类型的芯片之间建立高速连接,是英伟达的王牌技术之一。
两家公司是在拉斯维加斯举行的AWS年度为期一周的云计算会议上宣布这一消息的,该会议吸引了约60000人参加。
英伟达一直在推动其他芯片公司采用其NVLink技术,英特尔、高通以及现在的AWS都已加入。
该技术将帮助AWS构建更大的AI服务器,这些服务器可以更快地相互识别和通信,这是训练大型AI模型的关键因素,在训练中必须将数千台机器连接在一起。作为与英伟达合作的一部分,客户将能够访问AWS所谓的“AI工厂”,这是位于其自有数据中心内的专属AI基础设施,以实现更快的速度和就绪状态。
英伟达CEO黄仁勋在一份声明中表示:“英伟达和AWS正在共同为AI工业革命创造计算架构——将先进的AI带给每个国家的每家公司,并加速世界通往智能的道路。”
另外,亚马逊表示正在推出基于名为Trainium3芯片的新服务器。AWS计算和机器学习服务副总裁Dave Brown表示,这些周二上市的新服务器每台包含144个芯片,其算力是AWS上一代AI产品的四倍多,同时功耗降低了40%。
Brown没有给出功耗或性能的绝对数字,但表示AWS旨在通过价格与包括英伟达在内的竞争对手展开竞争。
“我们要向他们证明,我们有一款产品能提供他们所需的性能,并且价格合适,这样他们就能获得性价比优势,”Brown说。“这意味着他们可以说,‘嘿,是的,那就是我想去用的芯片。’”
该公司周二还推出了其名为Nova的AI模型的新版本。亚马逊表示,Nova 2速度更快、响应更灵敏,并且包含一个名为Nova的版本,可以响应图像或文本到文本、图像、语音或视频提示。另一个名为Sonic的版本可以用语音输出来响应语音提示,AWS CEO Matt Garman在其主题演讲中称其为“类人”的。
在与OpenAI的ChatGPT、Anthropic的Claude和谷歌的Gemini等竞争对手的较量中,亚马逊一直难以让Nova获得广泛认可。尽管如此,亚马逊在最近一个季度的AWS销售额仍增长了20%,这主要归功于其云计算和AI基础设施服务。
在AWS拉斯维加斯会议上,亚马逊还推出了一项名为Nova Forge的服务,以帮助公司使用其输入的数据创建自己的AI模型。Garman说:“这允许你生成一个深刻理解你信息的模型,同时又不会忘记该模型所训练的核心信息。”
周二中午,亚马逊股价上涨0.9%,至235.98美元。
亚马逊云服务(AWS)已启用其位于美国印第安纳州的Rainier数据中心,旨在使用亚马逊的自研Trainium芯片加速Anthropic公司大型语言模型(LLM)Claude的训练。Rainier设施是亚马逊在该州的最大投资项目,获得了110亿美元的资金支持。
该数据中心占地1200英亩,计划共建设30栋建筑,电力容量超过2.2GW,足以为约160万户家庭供电。目前,已有七栋建筑投入运营,容纳了约50万颗Trainium2芯片。AWS计划在今年年底前将这一数字翻倍至100万颗。
亚马逊云服务首席执行官Matt Garman表示,Rainier项目是专为Anthropic设计的,这使亚马逊能够通过垂直整合(结合定制硬件和优化软件)在AI训练市场占据更大份额。此前,亚马逊承诺向Anthropic提供约80亿美元的支持,包括用于模型训练和部署的Trainium AI芯片及AWS云基础设施。
亚马逊和Anthropic正在合作开发AI芯片。亚马逊透露,它与Anthropic联合开发Trainium 3芯片。Anthropic的首席产品官Mike Krieger强调,他的公司在芯片设计阶段提供的反馈有助于提高其能源效率、训练速度并降低延迟。
亚马逊云服务副总裁Prasad Kalyanaraman解释说,管理从硬件设计到云软件平台的整个技术堆栈,对于满足大型AI模型严苛的计算需求至关重要。亚马逊对Rainier数据中心的快速部署受到了Anthropic的称赞,称其远快于竞争对手,这凸显了速度和规模在AI基础设施竞赛中的重要性。
本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。
