亮相CCIG2024，合合信息文档解析技术破解大模型语料“饥荒”难题

近日，2024中国图象图形大会在古都西安盛大开幕。本届大会由中国图象图形学学会主办，空军军医大学、西安交通大学、西北工业大学承办，通过二十多场论坛、百余项成果，集中展示了生成式人工智能、大模型、机器学习、类脑计算等多个图像图形领域的进展。

大模型技术正随着科技革新实现广泛应用，满足多行业图像处理需求。大会期间，由CSIG文档图像分析与识别专委会与上海合合信息科技股份有限公司（简称“合合信息”）联合主办了《大模型技术及其前沿应用》论坛，来自华南理工大学、上海交通大学、清华大学、复旦大学、上海人工智能实验室、合合信息等高校、研究机构及企业的专家代表就大模型技术在图像领域的发展、应用进行了深入研讨。

图说：行业关注者聆听《大模型技术及其前沿应用》论坛分享

大模型一路“高歌猛进”的背后，隐藏着一场关于模型训练语料的“能源危机”。根据人工智能研究人员小组Epoch研究估计，机器学习数据集可能会在2026年前耗尽所有“高质量语言数据”。现阶段，大量的高质量语料数据存在于书籍、论文、研报、企业文档等文档之中，复杂的版面结构制约了大模型的训练语料处理及大模型文档问答的应用能力。文档解析技术的进步，让机器能够识别文档中的多种元素，更好地处理文本、表格、图像等多类型数据，还原文档阅读顺序，加速大模型训练与应用。论坛上，合合信息智能创新事业部研发总监常扬分享了合合信息智能文档处理技术在文档解析领域的工作，给与会者带来了新的技术视角。

“文档解析的难点在于如何准确识别文档中的各个元素，并理解其之间的逻辑关系，需要关注'物理版面分析'和'逻辑版面分析。'”据常扬介绍，物理版面分析侧重于视觉特征、文档布局，主要任务是把相关性高的文字聚合到一个区域，比如一个段落，一个表格等等，并选用目标检测任务进行建模，使用基于回归的单阶段检测模型进行拟合，从而获得文档中各种各样的布局方式；逻辑版面分析侧重于对语义特征的分析，主要任务是把不同的文字块根据语义建模，例如通过语义的层次关系，形成一个目录树结构。

文档解析技术中文档元素检测、文字表格识别、文档版面分析、阅读顺序还原等任务涉及对版面元素和版面整体布局的判断，是文档处理领域典型的技术难题。通过十几年技术积淀，合合信息打通了电子档解析、扫描档图像处理、文字识别、表格识别、版面分析、版面还原和排版布局等文档智能化处理的全流程，面对电子文档及扫描件，能够灵活地识别文字、表格、无线表、跨页表格、页眉、页脚、公式、图像、流程图等版面元素，准确地还原文档阅读顺序，为大模型领域提供了精准的训练语料与文档问答应用体验。

图说：高校研究者、学生排队体验智能文档处理技术

“我们研究过程中发现，真实世界的文档有着极为丰富的布局类型，没法单纯地用单栏，双栏、三栏等类别去定义。”常扬表示，近年来的开放词汇目标检测（OVD），视觉语义对齐（Alignment）等工作，以及生成式模型等前沿进展，将给版面分析带来新的研究思路，合合信息技术团队也将持续在智能文档处理领域深耕，让新技术在行业中更快速地产生价值。