市委网信办举办第七十一期网络安全技术沙龙

　　为有效提升我市党政机关和重点单位网络安全技术能力，市委网信办组织开展网络安全技术沙龙系列活动。9月9日下午，以“筑牢AI安全防线：从技术规范到生态共建分享”为主题的第七十一期网络安全技术沙龙顺利举办。

此次活动由中共静安区委网络安全和信息化委员会办公室、上海市互联网业联合会网络和数据安全委员会、公安部第三研究所、中镡核信（上海）认证服务有限公司承办，特邀专家以“人工智能安全检查要点分享”“加强供应链安全能力建设 共创供应链安全生态”“AI语料库的数据安全体系化防护”为题，促进安全理念交流、技术经验共享与行业资源整合，全面提升相关主体在AI安全、供应链安全及数据安全领域的风险应对能力与协同治理水平，为数字经济高质量发展筑牢安全屏障。

在“人工智能安全检查要点分享”环节，首先介绍了人工智能技术演进、安全风险及国内外监管态势，指出大模型安全风险贯穿原始语料采集、数据预处理、微调对齐、部署运行等全过程，并集中体现在信息内容、网络运行和数据安全三个维度。结合专项检查实践，详细讲解了“线上巡查、现场核查”机制：信息内容安全检测依托自动化测试与人工验证，检测6大类、36小类风险，并核查拒答率、生成合成内容显隐式标识和境外模型调用情况；网络运行安全检测综合运用漏洞扫描、渗透测试和配置核查，重点排查安全漏洞、入侵防护、恶意程序以及安全审计与日志留存问题；数据安全检测则聚焦训练数据采集、传输、共享、存储、使用、删除全生命周期，并通过抽样测试验证语料清洗与防投毒措施的有效性。最后，结合检测中发现的共性问题，强调应重视各类内生及衍生风险，健全法律法规、技术监测、风险预警和应急响应体系，推动人工智能安全可靠、规范发展。

在“加强供应链安全能力建设 共创供应链安全生态”环节，结合近年来一系列供应链安全事件，指出供应链攻击具有链路长、隐蔽性强、影响范围广等特点。面对国内外持续强化的立法监管要求，企业需要将供应链安全覆盖开源组件、代码仓库、编译构建、制品镜像、部署运行以及供应商和人员管理全过程。建议以安全左移为目标，综合运用软件成分分析、可信中心仓、风险情报和产品安全测试等能力，并结合AI关联分析和AI赋能增强数据，建设涵盖软件全生命周期的闭环防御。

在“AI语料库的数据安全体系化防护”环节，专家指出，大模型能力源于对海量数据的学习归纳，语料库安全已从传统数据工程的质量管控问题，升级为AI产业供应链安全的核心信任底座，要以国家专项方案为纲领、以国家标准为技术基线、以 AI 语料全生命周期合规管控为核心目标，构建系统化防护建设体系。按照摸底排查、体系建设、核验测评、长效运营四阶段闭环推进，扎实开展数据资产梳理、安全制度体系搭建、多层次技术防护体系构建、专业人员能力提升等工作，对接优质合规数据集，实现 AI 语料数据安全体系化防护迭代升级，将语料安全打造为企业人工智能创新发展的基础支撑与核心竞争优势。

交流互动环节，专家人工智能技术对供应链攻击形态的影响、高质量数据集的构建思路等话题展开讨论。

本市35家党政机关和重点单位相关网络安全技术人员参加活动。