ChatGPT对资源的需求越来越失去控制

2024-09-20 09:40:06爱云资讯阅读量:80,789


(爱云资讯消息)众所周知,生成式人工智能的发展需要越来越多的水和电。《华盛顿邮报》和加州大学河滨分校的研究人员合作进行了一项新的研究,揭示了OpenAI的聊天机器人在执行最基本功能时所需的资源数量。

就用水量而言,ChatGPT编写一封100字的电子邮件所需的水量取决于该州以及用户与OpenAI最近的数据中心之间的距离。在给定区域,水越稀缺,电价越便宜,数据中心就越有可能依赖电力驱动的空调设备。在德克萨斯州,该聊天机器人每发送一封100字的电子邮件仅消耗约235毫升的水。然而在华盛顿编写同一封电子邮件,则每封邮件需要消耗1,408毫升的水(将近1.5升)。

随着生成式AI技术的发展,数据中心的规模越来越大,密度也越来越高,以至于空气冷却系统难以跟上。因此,许多AI数据中心已经转向了液态冷却方案,即通过泵送大量水流经服务器堆栈,以吸收热量,然后将收集到的热量排放到冷却塔中,让热量散发出去。

ChatGPT的电力需求也不容小觑。据《华盛顿邮报》报道,使用ChatGPT编写那封100字的电子邮件所需的电量足以让超过12个LED灯泡点亮一个小时。如果全美十分之一的人每周使用ChatGPT编写一次这样的电子邮件,这一过程所消耗的电力将相当于华盛顿特区所有家庭20天的用电量。华盛顿特区约有67万人口。

这不是短期内能够解决的问题,而且情况可能会变得更糟,直到有所改善。例如,Meta公司在训练其最新的Llama 3.1模型时,需要2200万升水。根据法庭记录,谷歌在俄勒冈州塔尔拉斯的数据中心被发现消耗了该镇可用水资源的近四分之一。而xAI的新的孟菲斯超级集群已经从孟菲斯电力、燃气和水公司那里索取了150兆瓦的电力——足以为多达3万个家庭供电。

相关文章

人工智能技术

更多>>

人工智能公司

更多>>

人工智能硬件

更多>>

人工智能产业

更多>>
关于我们|联系我们|免责声明|会展频道

冀ICP备2022007386号-1 冀公网安备 13108202000871号

爱云资讯 Copyright©2018-2024