日前，中国人工智能产业发展联盟（下称“AIIA”）安全治理委员会成果发布会在北京顺利召开，来自于中国科学院自动化研究所、北京大学、北京邮电大学、对外经济贸易大学、邮储银行、百度、华为、腾讯、360、vivo、蚂蚁、阿里、中国法九游体育 中国官方网站学会、金杜律师事务所、斗象科技等近200名行业专家、高校学者以及企业代表，围绕这一话题进行了深度讨论。

　　“人工智能发展治理和安全，正在成为全球各国当前面临的一个重大议题。”在发布会上，AIIA秘书长、中国信息通信研究院院长余晓晖表示。而围绕这一难题，AIIA安全治理委员会于去年底正式成立，经过半年运营，目前成员单位数已达近百家，主任单位由中国信通院牵头，副主任单位则覆盖了多家知名企业和高校。

　　据悉，该委员会目前分为治理组、安全组两个工作组，其中，前者主要围绕AI治理框架、合规治理、赋能治理展开一系列工作，后者则重点开展大模型安全、合规等研究及基准测试。这两大工作组的一些阶段性成果，已在当天的发布会上被一一发布。

　　比如，中国信通院依托AIIA安全治理委员会，在2024年上半年启动的大模型安全、AIGC检测、安全大模型、代码大模型安全、生物特征识别安全等联盟规范的制定和评估工作，公布了最新评估结果，vivo、蚂蚁、中数通、齐鲁壹点、东方通、招商银行、阿里云、海康威视、中移金科、百度网讯、马上消费、科大讯飞、商汤等企业代表获得证书。

　　AIIA安全治理委员会安全组组长陈文弢则介绍，中国信通院人工智能所近半年来依托联盟深度开展了大模型安全基准测试工作，重点推动大模型安全加固能力建设，开展大语言模型安全、图文大模型安全、代码大模型和人工智能赋能网络安全等方面的技术规范研究，并推动了相关评测工作。同时发布了具备强鲁棒性的隐式数字水印服务，提升大模型平台的合规能力。

　　中国信通院自研的大模型安全加固解决方案也在当天被发布。据悉，该能力通过模型微调、外挂安全知识库等模式对开源大模型自身进行安全防护加固，在保持模型原有通用能力和推理效率的前提下，明显增强其抵御多种诱导攻击的能力。

　　此外，大会上还正式启动了“人工智能安全守护计划”。该计划将打造 AI Guard 品牌，共同建立 AI 系统情报共享机制、AIGC 真实性和可信赖来源互认机制，推动设立人工智能相关保险产品，提升国内人工智能技术的服务提供方、使用方的安全防护能力。（数智前线/周享玥）

　　特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

　　小米SU7销量破10万辆！雷军直呼亏本，黄牛“倒卖”一台净赚6万元，非洲客户称车子有多少收多少，直接打全款【附二手汽车行业市场前景分析】

　　特朗普欲加征60%的关税！陈敏尔 袁家军 黄坤明 楼阳生 倪岳峰如何强链补链建链 省市领导谈强链

　　宁德时代：2024年半年度净利润约228.65亿元，同比增加10.37%

　　超薄版iPhone 17将带来A19 芯片、单后置摄像头、半钛金属边框等配置

　　Apple Intelligence确定将出现在稍后的iOS 18开发者测试版中