手机版

杭州通用人工智能发展论坛大模型安全可信分论坛成功召开

时间:2023-06-12 11:14:35作者:马慧思来源:互联网

2023年5月31日上午,由中国信息通信研究院(以下简称“中国信通院”)、 中国人工智能产业发展联盟主办的,人工智能关键技术和应用评测工信部重点实验室、可信人工智能推进计划承办的杭州通用人工智能发展论坛大模型安全可信分论坛成功召开。

本次分论坛以“智赋百业,可信为基”为主题,聚焦人工智能尤其是大模型的安全可信问题,邀请了各行业专家共同探讨。论坛上来自上海浦东发展银行股份有限公司、蚂蚁集团、腾讯优图实验室、北京瑞莱智慧科技有限公司、顺丰科技有限公司及中国信通院云计算与大数据研究所的专家们(以下简称“云大所”)分享了大模型安全可信行业实践、技术方案、标准体系等内容。

首先,中国信通院云大所副所长魏凯为本次分论坛致辞。魏所长从产业背景出发,阐述了通用人工智技术发展带来的潜在风险和挑战,总结了全球人工智能治理的探索实践,并重点介绍了中国信通院在可信人工智能领域的系列工作成果,提出了“切实服务产业发展,推动可信人工智能实践落地”的工作目标。

中国信通院云计算与大数据研究所副所长 魏凯

上海浦东发展银行股份有限公司资深数据科学家张博雅以《可信AI赋能数据合作生态》为题发表精彩演讲,从当前产业内数据协作面临的信任鸿沟、信息孤岛等困境出发,介绍了浦发银行融合应用可信AI技术赋能数据合作生态的实践,阐述了如何在安全释放数据价值的同时实现业务价值的增效,推动可信AI技术在金融领域的发展。

上海浦东发展银行股份有限公司资深数据科学家 张博雅

蚂蚁集团模型风险管理总监、蚂蚁技术委员会可信AI联合工作组副组长杨舟以《大模型时代下的可信AI挑战及其应对探索》为题,从大模型时代的AI风险切入,介绍了蚂蚁集团的算法治理框架、模型操作风险防控体系及模型全生命周期质量管控体系,展示了蚂蚁集团的智能化模型风险管理平台及AI安全检测平台,为产业推动AI向善,打造可信、可靠的AI提供优秀参考。

蚂蚁集团模型风险管理总监、蚂蚁技术委员会可信AI联合工作组副组长 杨舟

为了促进业界可信AI能力提升,增强AI计算平台的安全性能,在人工智能计算任务执行过程中,保障AI模型传输、存储、训练、推理全流程安全,中国信通院与企业合作编写了《基于AI计算平台的模型保护安全框架》标准。中国信通院云大所人工智能部高级业务主管董昊在本次分论坛上对该项标准进行了发布及解读。该项标准规定了人工智能计算平台保护人工智能模型的安全框架,包括模型保护相关安全功能模块和安全机制。适用于为边缘计算、数据中心场景的人工智能计算平台提供方、使用方保护人工智能模型安全提供参考。

中国信通院云计算与大数据研究所人工智能部高级业务主管 董昊

腾讯优图实验室高级算法研究员姚太平以《可信技术在典型场景中的实践》为题,从人脸安全技术背景出发,介绍了面向物理介质攻击、数字合成攻击以及模型对抗攻击的防御手段,并展示了可信AI技术在典型场景中的落地实践,为应用安全发展提供了新的思路。

腾讯优图实验室高级算法研究员 姚太平

中国信通院云大所人工智能部工程师丁怡心围绕技术研究、标准评估及测试、产业生态三个维度展开了中国信通院可信人工智能工作介绍。在技术研究方面,梳理了中国信通院在可信AI领域的技术成果和后续研究计划;在标准评估测试方面,系统介绍了可信人工智能标准体系和推进计划,并详细介绍了正在推进的3项标准;在产业生态方面,发布了“智信”计划第二批成员单位,介绍了已开展的产业交流活动及AI风险事件监测平台和可信AI测试平台建设的工作计划。

中国信通院云计算与大数据研究所人工智能部工程师 丁怡心

北京瑞莱智慧科技有限公司公共事务总监胡嵩智以《安全可信人工智能的实践探索》为主题进行演讲,从大模型时代AI研究范式的改变切入,阐述了AI技术发展面临的新型安全风险,介绍了瑞莱智慧的安全可信人工智能“三部曲”,为行业安全发展提供了可借鉴的思路和落地方案。

北京瑞莱智慧科技有限公司公共事务总监 胡嵩智

顺丰科技有限公司后端高级研发工程师廖建科以《顺丰可信AI助力生产》为题,从安全管理、质量管理、经营管理和风险管控等维度全方位介绍了顺丰科技可信AI助力生产的实践闭环,阐述了如何将AI技术有机地结合到企业生产环节中,保障业务安全稳健发展,为企业实践提供了有价值的参考。

顺丰科技有限公司后端高级研发工程师 廖建科

会议最后,中国信通院云大所人工智能部主任曹峰对本次分论坛进行了总结。

中国信通院云计算与大数据研究所人工智能部主任 曹峰

分论坛上,各位演讲嘉宾为我们带来了精彩纷呈的分享,上百名观众热情参与,论坛举办圆满成功!未来,我们会携手各行业企业继续深入可信AI研究,扩大技术交流平台,加深行业交流互动,推动人工智能产业健康可持续发展。

联系人

龚老师,13633043729,gongliuting@caict.ac.cn

张老师,13840517805,zhangweiting@caict.ac.cn

可信AI推进计划(“智信”计划)

为进一步推进人工智能可信治理能力提升,加快达成行业共识,保障智能应用快速健康可持续落地,中国信通院云大所成立了可信AI推进计划(简称:“智信”计划)。“智信”计划聚焦人工智能可信治理,面向政、产、学、研、用等人工智能相关主体,主要开展技术研究、标准制定、测试评估、供需对接、产业交流、赛事峰会、平台建设、案例推广等工作。

推荐阅读

  • 数据资源入表:难点分析与实施路径探索

    摘要 本文基于数字经济深化发展的时代背景,系统分析数据要素纳入企业资产负债表的难点分析与实施路径。通过解构《企业数据资源相关会计处理暂行规定》等政策文件,揭示数据资产在会计确认、初始计量和后续计……

    时间:2025-06-24 10:42:04
  • 浪潮海岳inSuite by DELMIAWorks:以“端到端深度融合”打造智能制造新引擎

    2025年9月25日,浪潮海岳inSuite by DELMIAWorks在中国国际工业博览会正式发布。该产品由浪潮数字企业携手达索系统联合推出,是面向成长型离散制造业企业,覆盖研发设计、生产制造到经营管理的端到端一体化的工……

    时间:2025-09-25 11:51:38
  • 哪些食物含铁量高?(哪些食物铁含量比较高)

    秋天多吃8种含铁最高的食材,让你面色红润,气色好看,合理进补。今天是10月16日,虽然现在还是秋天,但是我们这里温度下降非常快,只有14°左右,感觉像是进入冬天了,要穿秋裤了。每年到秋冬季节,很多女性朋友都……

    时间:2023-01-06 22:42:40
  • 长宁县民宗局专题学习《宗教活动场所管理办法》

    近日,国家宗教事务局公布了《宗教活动场所管理办法》。为进一步做好学习宣传贯彻工作,不断提高全县宗教活动场所管理的科学化、规范化和法治化水平,长宁县民宗局组织场所负责人专题学习《宗教活动场所管理办法……

    时间:2023-09-20 16:46:19
  • 2025浪潮数字企业生态创新论坛圆满落幕

    近日,由浪潮数字企业技术有限公司与浪潮集团北京区主办、云汉联盟承办的“AI向新·潮涌未来——2025浪潮数字企业生态创新论坛”在北京成功举办!本次论坛汇聚了众多行业专家、生态伙伴与企业代表,共同探讨企业数智……

    时间:2025-08-21 10:33:29
  • 不运动的减肥方法有哪些(不运动怎样能减肥)

    国庆7天胖十斤,有没有? 快速减脂食谱来喽,点赞收藏,跟着虾米来减肥,轻松不反弹! 周一:早餐:全麦面包 鸡蛋 奶(豆浆) 午餐:糙米饭 芹菜炒虾仁 晚餐:鸡蛋一个 炒西兰花 周二:早餐:全麦欧包 鸡蛋 黑咖……

    时间:2023-01-06 22:42:23
  • 精彩速递|四特酒造势2023糖酒会,彰显中国白酒的品质力量!

    从“蓉”开始,引爆品牌声量        第108届糖酒会        四特酒香满蓉城 强势吸睛       作为中国特香型白酒代表,江西“省……

    时间:2023-04-09 16:58:21
  • 电子凭证会计数据标准全面推广!浪潮海岳助力企业业财全流程标准化升级

    为贯彻落实党中央、国务院有关决策部署,在全国范围内推广应用电子凭证会计数据标准,近日,财政部、税务总局、中国人民银行、国务院国资委、国家档案局、国家标准委、国家电子文件管理部际联席会议办公室(国家……

    时间:2025-05-29 13:02:06
  • 上饶高铁投资公司完成江西首个自动驾驶数据资产入表

    近日,上饶高铁经济试验区投资建设有限公司(简称“高投公司”)全资子公司上饶高铁经济试验区资产运营管理有限公司(简称“资管公司”)成功完成数据资产入表工作,成功打造江西首个自动驾驶数据资产入表案例,这标……

    时间:2024-09-18 09:39:00
  • 云数领航 智慧监管,国资国企监管数字化转型白皮书正式发布

    近日,由浪潮通软、德勤中国联合编撰的《基于国资云的国资国企监管数字化转型》白皮书在济南发布,为国资国企监管数字化转型提供路径和实践参考。 当前,国资监管工作进入数字化、网络化、智能化发展新阶段,……

    时间:2023-02-27 15:47:57
随机推荐