全球人工智能呈爆发式发展态势，云计算不断重构算力供给方式，正加速与人工智能融合，AI云成为开发和应用人工智能技术的重要选择，推动整个行业迈入新一轮上升周期。在AI云场景中，云平台承载着数据的汇聚、存储、计算与流转，人工智能进行数据价值的深度挖掘与转化，数据安全已成为保障AI云稳定运行的基石。因此，确保AI云上海量数据全生命周期的安全，是创造纯净准确的AI云、护航国家“人工智能+”战略实施的核心命题。
我国AI云市场发展势头强劲，云上数据安全备受关注
智能化驱动云计算产业创新发展，AI云承载海量数据。产业整体方面，我国云计算市场持续高速增长，2024年整体规模达8288亿元，同比增长34.4%，数智化发展格局底座初步形成。得益于以人工智能为代表的新技术的深度赋能，云计算市场边界加速扩展，预计“十五五”期间增速将维持在20%以上。细分领域方面，增长动能转向智能化服务，2024年公有云IaaS市场规模达4201亿元，同比增长超800亿元，其中智能算力服务的爆发性需求是核心驱动力。同时得益于企业级应用的裂变与智能体市场的快速崛起，公有云SaaS市场率先发力，增长率由2023年的23.1%跃升至68.2%。随着AI云基础设施日益完善和应用场景的规模化落地，未来3至5年，AI云将形成“技术突破”与“生态协同”的双轮驱动增长格局。在AI云快速发展的同时，也应注意，云上数据量激增，到2029年约有58.53ZB的数据直接在云端生成，AI云面临高频繁的数据交互，承载并处理着远超传统云服务模式的庞大数据规模，如何做好数据安全工作十分关键。
薄弱的数据安全工作将稀释数据价值，影响AI云的服务质量。数据被誉为新时代的“石油”，不仅是训练模型的原始材料，更是驱动技术创新、未来决策的核心资源。然而与原油价值稳定不同，数据价值与数据安全息息相关，安全工作缺失会导致数据价值的大幅下降。一是内部数据质量管控缺失使模型性能劣化。AI云场景中“劣进劣出”效应显著，低质数据输入不仅导致模型输出空洞化与逻辑偏差，其生成的虚假或低价值内容更会作为新污染源回流至训练数据集，形成自我强化的负反馈，造成模型性能的断崖式下滑。二是外部攻击污染模型提示词，输出虚假信息。攻击者可以通过对抗样本注入等手段进行数据投毒，污染模型函数，导致模型输出中出现系统性误导或恶意内容，触发欺诈蔓延、社会信任崩塌等连锁反应。一直以来，国家高度重视数据安全顶层规划，《网络数据安全管理条例》《关于促进数据标注产业高质量发展的实施意见》等一系列文件的相继出台，明确了以完善人工智能数据安全规范和依法开展数据活动为前提的行业发展道路。
云计算与人工智能深度融合后面临更复杂的数据安全挑战。一是催生多源数据类型。传统云服务主要包含个人信息、用户上传数据和日志数据，易于区分保护。AI云衍生出模型数据（模型参数文件、提示词等）和生成数据（推理缓存数据、推理结果数据等）。不同数据参与的流转过程存在较大差异，面临不同的安全风险，因此数据保护工作需要根据不同对象进行细化。二是引入新的参与角色。AI云在传统云服务商与云服务用户的角色基础上，引入了大模型提供者的概念，云服务用户的安全能力影响训练数据质量，云服务商的安全能力影响数据流通底座，大模型服务商的安全能力影响数据处理过程，因此明确不同角色的数据保护责任是保障AI云产业高质量发展的关键。三是面临新的数据安全风险。AI云的核心在于训练与部署大模型，这一特性衍生出新的风险维度。一方面，攻击者可以通过特殊构造的语料对大模型进行访问，诱导大模型生成敏感信息。另一方面发生数据安全事件后责任难界定，大模型的数据处理过程呈现黑盒模式，安全溯源困难且难以清晰划分责任归属。
从标准、生态、企业三方面共创AI云数据安全可信态势
布局AI云数据安全标准体系，打造纯净准确的AI云。一是加强AI云数据安全标准体系顶层规划。响应《国家人工智能产业综合标准化体系建设指南》要求，围绕数据泄露、数据偏见、数据来源违规等痛点问题，积极推进可信AI云数据安全标准体系，覆盖数据入口管控、数据清洗、数据分类分级安全管理等方面。二是逐步加大AI云数据安全国际标准推进活动。积极推动行业标准与ITU-T国际标准对接，持续提升我国在国际标准方面的活跃度。三是强化标准体系的配套评估。依托第三方机构、科研院所等开展标准宣贯、试点验证等活动，遴选一批具有示范作用的AI云数据安全典型企业。
构建以数据安全责任共担为基础的联动生态，筑牢产业可持续发展底座。一是建立跨主体的AI云数据安全责任共担体系。凝聚云服务商、大模型服务商、数据服务商、行业用户等核心参与方，围绕数据安全责任共担原则与数据权属界定达成共识，清晰划分各方权责边界，建立工作协同机制，形成安全目标一致、风险联防联控的数据安全合力。二是加速构建垂直行业AI云数据安全服务生态。针对金融、医疗、教育等重点行业，以云服务商为主导，联合大模型服务商、安全厂商，共同研发满足行业特性需求的数据安全产品和服务，助力用户更加便捷地构建AI云数据安全体系。
提升供需双方数据安全履责能力，共创可信的AI云数据安全环境。一是供应侧企业增强AI云数据安全保障能力的透明度。以云服务商、大模型服务商为代表的供应主体，应通过服务协议SLA等方式清晰地披露数据安全服务承诺与保障能力指标，覆盖数据处理透明度、安全事件响应时效、数据泄露赔偿机制等方面，为用户选择可信AI云奠定判断基准。二是应用侧用户强化数据安全治理。作为AI云的直接使用者，行业用户应积极开展与自身业务深度结合的数据安全治理工作，建立健全覆盖AI云数据全生命周期的内部安全管控体系，涵盖数据分级分类、操作权限审批、常态化数据安全风险评估、应急演练等方面，确保数据安全责任闭环。
本文来源：中国通信标准化协会
