本文转自:科技日报开云体育(中国)官方网站 科技日报讯 (记者刘霞)好意思国俄勒冈州立大学科研团队研发出一种新式AI芯片,奏凯将谎话语模子的能耗裁减50%。这项效果于近期在波士顿举行的IEEE定制集成电路会议上发布,是半导体规模的重要打破,有望成为处分谎话语模子高能耗问题的“绿色钥匙”。 现时,以谷歌“双子座”和OpenAI的GPT-4为代表的谎话语模子,因海量参数使得算力需求激增,进而导致动力需求急速飙升。 询查团队指出,问题的要害在于数据中心铜基通讯链路的数据传输。
本文转自:科技日报开云体育(中国)官方网站
科技日报讯 (记者刘霞)好意思国俄勒冈州立大学科研团队研发出一种新式AI芯片,奏凯将谎话语模子的能耗裁减50%。这项效果于近期在波士顿举行的IEEE定制集成电路会议上发布,是半导体规模的重要打破,有望成为处分谎话语模子高能耗问题的“绿色钥匙”。
现时,以谷歌“双子座”和OpenAI的GPT-4为代表的谎话语模子,因海量参数使得算力需求激增,进而导致动力需求急速飙升。
询查团队指出,问题的要害在于数据中心铜基通讯链路的数据传输。高速数据交换不仅会产生裂缝,更会带来弘大的动力浪费。传统平衡器虽能纠错,但其本人便是“电老虎”。一种处分决策是诞生更高效的有线通讯芯片。
他们诞生的新芯片或者借助AI期间,通过熟识其上的分类器识别并校正造作,以更智能高效的方式收复数据,从而降粗劣耗。与传统想象比较,新芯片能使谎话语模子浪掷的动力减半。
询查团队已入辖下手诞生下一代芯片开云体育(中国)官方网站,展望将带来更惊东谈主的能效推崇。跟着各人AI算力需求合手续飙升,这项期间或将成为绿色诡计的坚苦推手。