2025年6月30日,百度正式开源文心大模型4.5系列模型。作为国内领先的大模型之一,文心大模型4.5系列模型的开源,标志着我国人工智能技术在开放创新、协同发展方面迈出了重要一步。中国算力平台模创空间率先上线文心大模型,为推动行业智能化发展注入新动力。
在工业和信息化部的指导和支持下,中国信息通信研究院积极推动中国算力平台建设。模创空间作为中国算力平台的特色版块,目标是打造“算力+模型+AI创作”的智算生态共建空间,构建从“模型接入→开发创作→共享共建”的完整价值链,赋能开发者极速构建AI应用。通过核心板块:模型集、数据集以及AI应用创作,汇聚“多源+多元”模型服务。通过服务网关能力,实现模型及AI应用的在线调用服务。模型方可以将自有模型通过API方式发布到模型市场,开发者可以在线调用模型进行开发创作,根据需求打造属于自己的创作空间,为开发者生态用户带来即时触达的体验。
文心4.5作为前沿人工智能成果,创新运用多模态混合专家模型预训练技术,以异构混合专家结构结合了多维旋转位置编码,并且在损失函数计算时,增强了不同专家间的正交性,提升文本生成、图像理解以及多模态推理等任务效能。为支持高效训练提出异构混合并行和多层级负载均衡策略,在推理方面提出多专家并行协同量化方法和卷积编码量化算法,从而实现高效训练推理框架。对预训练模型进行了针对模态的精调,大语言模型针对通用语言理解和生成进行了优化,多模态大模型侧重于视觉语言理解,支持思考和非思考模式,以满足实际场景不同需求。
中国算力平台模创空间上线文心大模型,将为各行业带来显著的赋能效应,进一步推动我国人工智能产业的发展,促进各行业的数字化转型和智能化升级。中国算力平台自上线以来,超百家算力服务商竞相入驻,百余项优质算力商品上架,千余名B端用户完成注册,超八万次总访问量见证平台热度。目前,河南、山西、山东分平台已建成运行,宁夏、新疆、上海、青岛等地方分平台加速推进。未来,中国算力平台将不断丰富算力产品内容、推动算力资源聚合、完善算力产业生态,全面加速算力赋能千行百业,助力我国数字经济发展和数字中国建设。
本文来源:中国信通院