亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例漳州市某某矿山设备维修站亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马漳州市某某矿山设备维修站用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读相关文章
- 当地时间11月7日,美国联邦储备委员会宣布,将联邦基金利率目标区间下调25个基点,降至4.5%至4.75%之间的水平。 今年9月18日,美联储宣布将联邦基金利率目标区间下调50个基点,降至4.72024-11-13
- @TuTouSuo™️*小红书账号:秃头研究所新传考研/秃头研究所Monsters*如果你觉得自己读论文太过于盲目,不知道从哪里开始;如果你也想要通过碎片化的时间来补充和拓展知识储备;如果你想要一份直2024-11-13
- 当地时间7月21日,知情人士表示,在美国总统拜登当日宣布退出2024年总统大选之后,全美50个州的民主党主席举行了电话会议,各方均表示将全力支持副总统哈里斯成为美国民主党总统候选人。△美国副总统哈2024-11-13
- 食疗也可能不安全?专家提醒:自行食疗更应注意食品安全2024-07-17 14:11:51 来源:羊城晚报2024-11-13
剑指顶尖航天科技高中!建校仅7年,人附系这所成员校又有大动作
刚刚,海淀区基础教育创新人才培养迎来新动向!10月21日,人大附中航天城学校以下简称人航)科学技术协会揭牌成立,这不仅是人航在科技创新教育领域迈出的重要一步,也是京城中小学科技教育改革创新的新亮点。据2024-11-13- 原标题:温州一医生遭男子持刀伤害致多处严重损伤,经抢救无效不幸去世) 7月20日凌晨,温州医科大学附属第一医院官方微信公众号发布悼文《沉痛悼念李晟医生》:延伸阅读2024-11-13
最新评论