发布日期:2024-12-12 13:41 点击次数:177
IBM近日布告了一项创新性的光学本领冲破,该本领概况以光速考试AI模子99abcd,并在数据中心期骗中显贵省俭动力。据IBM先容,通逾期骗这一冲破性本领,数据中心在考试AI模子时省俭的动力量,极端于5000个好意思国度庭的年度动力使用量。
在数据中心里面,尽管它们通过光纤电缆与外界达成高速贯穿,但在数据中心里面,传统的铜线贯穿仍然占据主导地位。这些铜线贯穿着GPU加快器,这些加快器在恭候来自其他缔造的数据时,常常会破耗多数时期处于得志景况,这不仅奢靡了多数的动力,还增多了数据中心的运营老本。
为了处置这个问题,IBM推出了共封装光学器件(CPO)原型。这一本领通过显贵增多数据中心的带宽,最大抵制地减少了GPU的停机时期,从而达成了AI处理的加快。IBM高档副总裁兼沟通总监DarioGil示意:“由于生成AI需要更多的动力和处理能力,数据中心必须继续发展。同封装光学器件不错使这些数据中心面向未来,开启一个更快、更可握续的通讯新时间,概况处理未来的AI责任负载。”
据IBM先容,其新的CPO本领不仅擢升了数据传输速率,还显贵贬抑了大型讲话模子(LLM)的考试时期。正本需要三个月的考试时期,咫尺不错裁减到三周。此外99abcd,擢升动力成果也贬抑了动力使用量,从而减少了与考试LLM联系的老本。