破解大模型“幻觉”,云测数据发布行业大模型AI数据解决方案
2023-09-17 19:18:32爱云资讯
作为人工智能发展的重要方向,大模型具有效果好、泛化性强、研发流程标准化的特点,为人工智能的进一步发展带来全新机遇。
当前,大模型发展百花齐放,深度赋能千行百业,但其在产业化过程中仍面临诸多挑战。其中,如何高效获取和有效使用垂直行业的数据是核心。
在2023年中国国际服务贸易交易会上,云测数据结合自身在智能驾驶、智慧金融、AIOT、电商等领域的丰富经验和技术积累,将去年发布的“AI工程化的数据解决方案”全面升级,面向垂直行业大模型提供全生命周期的AI数据解决方案,为大模型应用落地提供关键支撑,助力行业大模型高质量发展。
高质量数据破解大模型“幻觉”
大模型的研发离不开算法、算力和数据的综合支撑。近两年,受益于三者的快速发展,AI大模型进入爆发式增长。其中,数据是推动大模型高质量发展的关键。
“大模型的预训练对数据要求特别高,必须在前期进行清洗、标注、标识,但围绕千行百业的数据训练,在数据供给方面也呈现出了许多问题和挑战。” 上海数据交易所副总经理韦志林在媒体采访时提到。
近期,大模型“幻觉”也被各大科技企业频繁提及。大模型“幻觉”指模型生成不正确、无意义或不真实文本的现象,这也常被人们称为是“一本正经地胡说八道”。
“幻觉”问题的出现和大模型核心技术原理有关,即Transformer架构下的Next Token Prediction,即“下一个字符的预测”。因此,提高数据的数量、质量和多样性,对于大模型提高性能至关重要。“以数据为中心”,成为越来越多业内人士的共识。
当前,各家大模型在算力和算法方面尚且无法拉开巨大差距,这让“数据”成为各家企业杀出“百模大战”重围的关键之战。
深定制数据解决方案,助力获取高价值AI数据
就在刚刚结束的2023年服贸会成果发布上,云测数据全新公布了旗下AI数据解决方案,致力于通过场景化的数据服务行业,为人工智能企业和用户提供基础数据集、数据标注和数据管理工具链,进一步提升算法精度。
据介绍,该AI数据解决方案可为行业大模型提供从持续预训练、任务微调、评测联调测试到应用发布,全生命周期的高质高效数据,帮助垂直行业企业更好地落地大模型相关算法应用。
作为拥有面向行业场景数据采集能力和丰富数据集积累的数据服务商,云测数据可以为行业客户深度定制数据采集方案,助力获取高价值场景化数据。
当面对微调任务时,可以根据大模型落地场景特点,提供包含QA-instruct、prompt等文本类任务项目和多模态大模型的相关能力支持。微调后,云测数据通过垂直领域专家积累+评测体系和服务,帮助企业评估各个垂直应用落地领域。通过以集成数据底座为核心的数据标注平台,将难例数据回流完成清洗标注,为更有效率的模型调优做准备。
在机器学习、自然语言处理和其他人工智能领域中,难例数据常指模型训练和测试中难以逾越的障碍,需要特别关注和解决。常见的难例数据包括拼写错误、语法错误、不完整或冗余的信息、歧义性和模糊性等。
目前,云测数据深度合作伙伴覆盖了多个行业,包括汽车、安防、手机、家居、金融、教育、新零售、生态系统等。其中,包含多家世界500强企业、高校科研机构、政府机构、头部AI企业和大型互联网企业。
- 大模型扬帆启航新征程,微美全息加速AIGC技术攻“尖”拓展应用边界
- 科大讯飞2023年净利润同增超17%,大模型商业效应开始显现
- 小米SU7引爆北京车展,车企纷纷“上车”通义大模型
- 最早入局大模型,出门问问IPO第二日市值逼近60亿元
- 颜水成挂帅,昆仑万维2050全球研究院联合NUS、NTU发布Vitron,奠定通用视觉多模态大模型终极形态
- CCBN2024|讯飞星火大模型助力产品创新,引领广电视听新体验
- 华为开发者大会2024发布邀请函,盘古大模型又双叒叕要上新了?
- 专访小竹财税AI袁林:在通用大模型浪潮中寻找财税大模型的蓝海
- TIMEDAY·腾讯智慧出行技术开放日:发布汽车行业大模型、升级智能汽车云
- 科大讯飞业绩会上透露这些信息:2024年50%的研发费用用在大模型的底座能力提升
- 腾讯云发布汽车行业大模型解决方案,助力产业智能化升级
- 科大讯飞2023年财报的关键词,星火大模型
- 讯飞星火大模型走入聚光灯下,科大讯飞筑牢安全“防火墙”
- 星火大模型引领智能工作新时代,讯飞听见在INFOCOMM展亮相
- 科大讯飞Q1营收同比增长26.27%,星火大模型等研发新增投入近3亿元
- RockAI参与上海市政协重点课题调研,共话大模型技术发展与实践革新