人工智能是否已经达到瓶颈?据报道,GPT-5可能遭遇了困境
2024-11-12 10:52:15爱云资讯17835
(爱云资讯消息)据外媒的一份新报告称,备受期待的OpenAI下一代Orion ChatGPT模型有传闻称将于今年年底推出,但可能并没有人们想象的那么强大。
该报告援引了匿名的OpenAI员工的话,称Orion模型相对于其GPT-4前代产品所表现出的改进幅度要小得多,而GPT-4相对于GPT-3所表现出的改进幅度要大得多。这些消息来源还指出,虽然该新模型在诸如总结文件或生成电子邮件等通用语言能力方面表现更为出色,但是Orion在处理某些任务时并不比其前代产品(GPT-4)表现得更为可靠,尤其是在编写应用程序方面几乎没有进展。
该报告指出,新模型无法取得显著进展的一个主要原因是可用于训练新模型的高质量文本和其他数据的供应正在减少。简而言之,人工智能行业正迅速陷入训练数据瓶颈,已经从X、Facebook和YouTube等网站清除了容易获取的社交媒体数据。因此,这些公司越来越难以找到有助于将模型提升至超出当前能力水平的棘手编码挑战,从而减缓了其在发布前的训练速度。
这种降低了的训练效率有着巨大的生态和商业影响。随着前沿级LLMs的不断发展,其参数数量进一步增加至万亿级别以上,预计未来十年所需的能源、水和其他资源将增加六倍。这就是为什么我们看到微软试图重启三英里岛核电站,亚马逊购买了960兆瓦的发电厂,谷歌购买了七个核反应堆的发电量,因为它们不断增长的人工智能数据中心提供所需的电力越来越大,目前美国的电力基础设施无法满足需求了。
据另一外媒报道,OpenAI成立了一个基础团队来解决缺乏适当的训练数据的问题。这些技术可能包括使用合成训练数据,比如英伟达的Nemotron系列模型生成的数据。该团队还在研究如何在模型训练后提高其性能。
Orion最初被认为是OpenAI的GPT-5的代号,目前预计它将在2025年才能推出。
相关文章
- 红熊 AI 亮相 2025 世界人工智能大会,以技术融合驱动行业高质量发展
- 2025世界人工智能大会开幕!喜马拉雅成独家播客合作平台
- 在2025世界人工智能大会 求解城市AI基础设施如何高效运行
- 真实世界跃然“屏”上,知天下AI项目斩获人工智能创新创业大赛一等奖
- 如视携伽罗华P4亮相2025世界人工智能大会, 以数据基石赋能空间智能行业突破
- 中国联通成功举办 2025世界人工智能大会“AI+制造”发展论坛
- 世界人工智能大会首届青年菁英会成功举办,聚焦 AI 学术前沿
- 加佳科技亮相世界人工智能大会,参与浦东重点项目签约并发布创新技术成果
- 在这里看到数智女性的未来2025世界人工智能大会·AI女性菁英论坛在沪举办
- 共绘金融支付数智蓝图,中国银联在2025世界人工智能大会正式启动国家人工智能应用中试基地项目
- 智联招聘亮相2025世界人工智能大会,首发智联招聘AI版
- 飞桨入选中国人工智能产业创新成果展,百度打造AI产业基础设施“国家队”样板
- 绿算领航・智序共生|天罡智算第二届人工智能与智算发展论坛盛大启幕
- 中兴通讯联合合作伙伴斩获2025世界人工智能大会SAIL奖
- 中兴通讯亮相2025世界人工智能大会:算力普惠 AI向实
- WAIC 2025促进人工智能技术的安全发展与人类共享