科技日报讯（记者刘霞）美国俄勒冈州立年夜学科研团队研发出一种新型AI芯片，乐成将年夜语言模子的能耗降低50%。这项结果在近期于波士顿进行的IEEE定制集成电路集会上发布，是半导体范畴的庞大冲破，有望成为解决年夜语言模子高能耗问题的“绿色钥匙”。 当前，以google“双子座”及OpenAI的GPT-4为代表的年夜语言模子，因海量参数使患上算力需求激增，进而致使能源需求急速飙升。 研究团队指出，问题的要害于在数据中央铜基通讯链路的数据传输。高速数据互换不仅会孕育发生偏差，更会带来巨年夜的能源华侈。传统平衡器虽能纠错，但其自身就是“电山君”。一种解决方案是开发更高效的有线通讯芯片。 他们开发的新芯片可以或许借助AI技能，经由过程练习其上的分类器辨认并改正过错，以更智能高效的方式恢复数据，从而降低能耗。与传统设计比拟，新芯片能使年夜语言模子耗损的能源减半。 研究团队已经着手开发下一代芯片，估计将带来更惊人的能效体现。跟着全世界AI算力需求连续飙升，这项技能或者将成为绿色计较的主要推手。
吉公网安备 22010202000255号