构建高质量多模态预训练语料中国大模型语料数据联盟开源发布“书生·万卷”-亚洲资本网

构建高质量多模态预训练语料中国大模型语料数据联盟开源发布“书生·万卷”

2023-08-19 05:08:00来源： 新民晚报

(资料图)

新民晚报讯（记者叶薇）继今年7月在2023世界人工智能大会发起成立“中国大模型语料数据联盟”，上海人工智能实验室（上海AI实验室）于昨天宣布，联合语料数据联盟成员单位，共同开源发布“书生·万卷”1.0多模态预训练语料。

“书生·万卷”1.0目前包含文本数据集、图文数据集、视频数据集三部分，本次开源的数据总量超过2TB。该语料数据包含超过5亿个文本，2200万个图文交错文档，1000个节目影像视频。其中文本数据为来自网页、百科、书籍、专利、教材、考题等不同来源的清洗后预训练语料，数据总量超过5亿个文档，数据大小超过1TB，覆盖科技、文学、媒体、教育、法律等多个领域。图文数据主要来自公开网页，经处理后形成图文交错文档。文档总量超过2200万个，数据大小超过140GB（不含图片），覆盖新闻事件、人物、自然景观、社会生活等多个领域。视频数据主要来自中央广播电视总台和上海文广集团，包含新闻、影视等多种类型的节目影像，总计视频文件数超过1000个，数据大小超过900GB，内容覆盖军事、文艺、体育、自然、真实世界、知识、影像艺术、媒体、美食、历史、科教等方面。“书生·万卷”1.0，具备多元融合、精细处理、价值对齐、易用高效等四大特征。

中国大模型语料数据联盟是由上海人工智能实验室联合中央广播电视总台、人民网、国家气象中心、中国科学技术信息研究所、上海报业集团、上海文广集团、上海数据集团、上海市数商协会、金杜律师事务所等单位联合发起成立的开放组织。联盟于今年7月6日世界人工智能大会开幕式上成立，旨在打造国际化、开放型的大模型语料数据生态圈。高质量、多模态、宽领域的数据支持已成为当前人工智能大模型发展的重要基石，中国大模型语料数据联盟将持续通过开源开放，共建包容、开放、有序、共享的人工智能大生态。

关键词：