在2024（第二十三届）中国互联网大会期间，联通研究院成功展出“AI内生安全一体化解决方案”，向与会嘉宾专家介绍人工智能安全治理领域的联通经验。
7月9日，2024中国互联网大会在北京国家会议中心盛大开幕，大会主题为“互联三十载 智汇新质变”，主要聚焦人工智能、工业互联网、数据要素、数字政府、数据安全等热点。中国联通研究院在会上成功展出“AI内生安全一体化解决方案”，向与会嘉宾专家介绍了人工智能安全治理领域的联通经验，有力推动人工智能技术“更安全、更可靠、更可控”的发展。
在AI内生安全体系的基础上，中国联通研究院开发了针对AI“大模型”与“小模型”安全的一站式服务平台。该平台融合了自主研发的“评估检测”、“内生可信增强”和“数字水印”技术，提供多维度的评测服务，覆盖人工智能生成内容的安全性、模型算法的鲁棒性和可解释性等方面。同时，支持图片、语音等作为载体的多种水印嵌入算法和对应水印提取算法。该解决方案不仅为联通AI业务提供端到端内生安全防护，还为产业链上下游合作伙伴开放安全评测服务，助力初创AI公司实现一站式可信增强。
目前，在“大模型生成内容安全评测”方面，中国联通研究院已成功完成了对多款主流开源预训练无“外挂”防护的大模型全面评测。基于安全评测结果，本解决方案采取了针对性的安全增强措施，使得增强后大模型在验证集上的安全评分显著提升。同时在“小模型可信评估”方面，从模型的可解释性和鲁棒性两个核心维度对小模型进行全面、综合的考量，本平台支持超过40种小模型的测试，并集成了50多种可解释性和对抗攻击算法。
近年来，中国联通研究院围绕网络与信息安全领域，重点聚焦基础网络安全、互联网基础资源安全、数据安全、人工智能安全、网络安全攻防等重点方向，开展前沿技术研究、核心技术攻关，力求突破、缓解我国网络安全产业存在的卡点难点，并积极推动相关领域白皮书、标准编制与创新研究成果的落地与转化，助力集团公司持续发挥好网络安全现代产业链链长的主体支撑与融通带动作用。未来，中国联通研究院将持续与产业链各方积极开展合作与交流，持续推动网信安全技术创新研究工作，为我国网络安全产业高质量发展贡献力量。
本文来源：中国联通研究院
