手机版

杭州通用人工智能发展论坛大模型安全可信分论坛成功召开

时间:2023-06-12 11:14:35作者:马慧思来源:互联网

2023年5月31日上午,由中国信息通信研究院(以下简称“中国信通院”)、 中国人工智能产业发展联盟主办的,人工智能关键技术和应用评测工信部重点实验室、可信人工智能推进计划承办的杭州通用人工智能发展论坛大模型安全可信分论坛成功召开。

本次分论坛以“智赋百业,可信为基”为主题,聚焦人工智能尤其是大模型的安全可信问题,邀请了各行业专家共同探讨。论坛上来自上海浦东发展银行股份有限公司、蚂蚁集团、腾讯优图实验室、北京瑞莱智慧科技有限公司、顺丰科技有限公司及中国信通院云计算与大数据研究所的专家们(以下简称“云大所”)分享了大模型安全可信行业实践、技术方案、标准体系等内容。

首先,中国信通院云大所副所长魏凯为本次分论坛致辞。魏所长从产业背景出发,阐述了通用人工智技术发展带来的潜在风险和挑战,总结了全球人工智能治理的探索实践,并重点介绍了中国信通院在可信人工智能领域的系列工作成果,提出了“切实服务产业发展,推动可信人工智能实践落地”的工作目标。

中国信通院云计算与大数据研究所副所长 魏凯

上海浦东发展银行股份有限公司资深数据科学家张博雅以《可信AI赋能数据合作生态》为题发表精彩演讲,从当前产业内数据协作面临的信任鸿沟、信息孤岛等困境出发,介绍了浦发银行融合应用可信AI技术赋能数据合作生态的实践,阐述了如何在安全释放数据价值的同时实现业务价值的增效,推动可信AI技术在金融领域的发展。

上海浦东发展银行股份有限公司资深数据科学家 张博雅

蚂蚁集团模型风险管理总监、蚂蚁技术委员会可信AI联合工作组副组长杨舟以《大模型时代下的可信AI挑战及其应对探索》为题,从大模型时代的AI风险切入,介绍了蚂蚁集团的算法治理框架、模型操作风险防控体系及模型全生命周期质量管控体系,展示了蚂蚁集团的智能化模型风险管理平台及AI安全检测平台,为产业推动AI向善,打造可信、可靠的AI提供优秀参考。

蚂蚁集团模型风险管理总监、蚂蚁技术委员会可信AI联合工作组副组长 杨舟

为了促进业界可信AI能力提升,增强AI计算平台的安全性能,在人工智能计算任务执行过程中,保障AI模型传输、存储、训练、推理全流程安全,中国信通院与企业合作编写了《基于AI计算平台的模型保护安全框架》标准。中国信通院云大所人工智能部高级业务主管董昊在本次分论坛上对该项标准进行了发布及解读。该项标准规定了人工智能计算平台保护人工智能模型的安全框架,包括模型保护相关安全功能模块和安全机制。适用于为边缘计算、数据中心场景的人工智能计算平台提供方、使用方保护人工智能模型安全提供参考。

中国信通院云计算与大数据研究所人工智能部高级业务主管 董昊

腾讯优图实验室高级算法研究员姚太平以《可信技术在典型场景中的实践》为题,从人脸安全技术背景出发,介绍了面向物理介质攻击、数字合成攻击以及模型对抗攻击的防御手段,并展示了可信AI技术在典型场景中的落地实践,为应用安全发展提供了新的思路。

腾讯优图实验室高级算法研究员 姚太平

中国信通院云大所人工智能部工程师丁怡心围绕技术研究、标准评估及测试、产业生态三个维度展开了中国信通院可信人工智能工作介绍。在技术研究方面,梳理了中国信通院在可信AI领域的技术成果和后续研究计划;在标准评估测试方面,系统介绍了可信人工智能标准体系和推进计划,并详细介绍了正在推进的3项标准;在产业生态方面,发布了“智信”计划第二批成员单位,介绍了已开展的产业交流活动及AI风险事件监测平台和可信AI测试平台建设的工作计划。

中国信通院云计算与大数据研究所人工智能部工程师 丁怡心

北京瑞莱智慧科技有限公司公共事务总监胡嵩智以《安全可信人工智能的实践探索》为主题进行演讲,从大模型时代AI研究范式的改变切入,阐述了AI技术发展面临的新型安全风险,介绍了瑞莱智慧的安全可信人工智能“三部曲”,为行业安全发展提供了可借鉴的思路和落地方案。

北京瑞莱智慧科技有限公司公共事务总监 胡嵩智

顺丰科技有限公司后端高级研发工程师廖建科以《顺丰可信AI助力生产》为题,从安全管理、质量管理、经营管理和风险管控等维度全方位介绍了顺丰科技可信AI助力生产的实践闭环,阐述了如何将AI技术有机地结合到企业生产环节中,保障业务安全稳健发展,为企业实践提供了有价值的参考。

顺丰科技有限公司后端高级研发工程师 廖建科

会议最后,中国信通院云大所人工智能部主任曹峰对本次分论坛进行了总结。

中国信通院云计算与大数据研究所人工智能部主任 曹峰

分论坛上,各位演讲嘉宾为我们带来了精彩纷呈的分享,上百名观众热情参与,论坛举办圆满成功!未来,我们会携手各行业企业继续深入可信AI研究,扩大技术交流平台,加深行业交流互动,推动人工智能产业健康可持续发展。

联系人

龚老师,13633043729,gongliuting@caict.ac.cn

张老师,13840517805,zhangweiting@caict.ac.cn

可信AI推进计划(“智信”计划)

为进一步推进人工智能可信治理能力提升,加快达成行业共识,保障智能应用快速健康可持续落地,中国信通院云大所成立了可信AI推进计划(简称:“智信”计划)。“智信”计划聚焦人工智能可信治理,面向政、产、学、研、用等人工智能相关主体,主要开展技术研究、标准制定、测试评估、供需对接、产业交流、赛事峰会、平台建设、案例推广等工作。

推荐阅读

  • smd115ed2k,電視上放過的韓劇在哪裡可看

    视频播放器下载排行 现在的视频播放器实在太多了,如暴风影音播放器smd 115 ed2k、迅雷看看播放器、爱奇艺万能播放器、腾讯视频播放器等五花八门的,有的网络视频播放器还自带本地播放功能,那么小编安装视频播放……

    时间:2023-01-06 22:36:34
  • 浪潮KaiwuDB受邀出席中国智能化油气管道与智慧管网技术交流大会

    5月22-24日,由中国石油学会石油储运专业委员会、石油工业标准化技术委员会油气储运专标委等联合主办的“第十三届中国智能化油气管道与智慧管网技术交流大会”在浙江省杭州市盛大召开。全国石油石化和管道业务领域……

    时间:2024-05-28 11:22:44
  • 构建数字人才培养新生态!浪潮卓数大数据组织召开“数据要素×”校企合作研讨会

    5月24日,济南浪潮科技园群贤毕至,由浪潮卓数大数据主办的“数据要素×”校企合作研讨会盛大启幕。来自全省各大高校近60位院长、学科带头人齐聚一堂,共商数据资产化实践与“数据要素×教育”融合新模式。浪潮卓数大……

    时间:2025-05-27 18:31:12
  • 山东郯城:“153”机制推动矛盾纠纷全链条化解

    近年来,山东省郯城县树牢“以人民为中心”思想,立足县情主动作为,建立健全“153”工作机制,即搭建“一个平台”、完善“五项机制”、强化“三个保障”,推动全县各级领导干部直奔基层、直面群众,推动矛盾纠纷全链条化……

    时间:2023-10-10 12:41:56
  • 沐爱镇多措并举推动群众满意度再提升

    为了进一步提高便民服务水平,沐爱镇坚持全心全意为人民服务的宗旨,贯彻落实人民至上的服务理念,多措并举推动群众满意度再提升。 一、精准目标人群。结合民政、社保、农民工服务、市场监管等相关工作,分类……

    时间:2023-05-25 17:59:53
  • 陶都承古韵•江南探非遗 ——‘颢召’与非遗百景不期而遇

    2024年7月19日至21日,一场世人瞩目的文化盛会——‘第二届中国非物质文化遗产保护年会’在宜兴窑湖盛大举行,这座隐世桃源的江南小镇惊艳世事,火爆出圈。本次盛会继续秉承以“守正创新,赓续薪火”的初心,再次展现……

    时间:2024-07-23 11:24:52
  • 宜宾市宗教团体到长宁县开展“爱国爱家乡” 学习交流活动

    5月24日,宜宾宗教团体20余人在市民宗局的组织下,深入到长宁县竹海镇永江村开展“爱国爱家乡”学习交流活动,长宁县委统战部常务副部长罗毅等陪同介绍相关情况。 在天府旅游名村永江村,学习交流团先后参……

    时间:2023-05-31 14:49:31
  • 厚植东融“新土壤” 集聚发展“新动能”

    ——广西实体经济服务员驻贺州市工作队上半年工作纪实 【△2024年3月6日 工作队会同市工信局在广西能源股份有限公司召开仁信热电联产项目协调推进会 贺州日报 摄】 今年是中华人民共和国成立75周年,是实现“……

    时间:2024-07-15 18:10:25
  • 联盟亮相2025世界人工智能大会(WAIC),共绘AI产业发展新蓝图

    7月28日,联盟作为支持单位,参与2025世界人工智能大会(WAIC)“重塑升力·AI智启新增长”AI AGENT落地实践与产业创新论坛。此次分论坛汇聚众多行业精英与专家学者,共同探讨人工智能在新时代背景下如何为各行业带……

    时间:2025-07-28 16:08:06
  • 杭州通用人工智能发展论坛将于5月30日启幕

    2023年5月30-31日,杭州通用人工智能发展论坛将在杭州未来科技城举行。本次会议以“大模型应用机遇和挑战”为主题,由中国信息通信研究院、浙江省经济和信息化厅、杭州市人民政府、中国人工智能产业发展联盟主办,……

    时间:2023-05-28 11:07:47
随机推荐