手机版

杭州通用人工智能发展论坛大模型安全可信分论坛成功召开

时间:2023-06-12 11:14:35作者:马慧思来源:互联网

2023年5月31日上午,由中国信息通信研究院(以下简称“中国信通院”)、 中国人工智能产业发展联盟主办的,人工智能关键技术和应用评测工信部重点实验室、可信人工智能推进计划承办的杭州通用人工智能发展论坛大模型安全可信分论坛成功召开。

本次分论坛以“智赋百业,可信为基”为主题,聚焦人工智能尤其是大模型的安全可信问题,邀请了各行业专家共同探讨。论坛上来自上海浦东发展银行股份有限公司、蚂蚁集团、腾讯优图实验室、北京瑞莱智慧科技有限公司、顺丰科技有限公司及中国信通院云计算与大数据研究所的专家们(以下简称“云大所”)分享了大模型安全可信行业实践、技术方案、标准体系等内容。

首先,中国信通院云大所副所长魏凯为本次分论坛致辞。魏所长从产业背景出发,阐述了通用人工智技术发展带来的潜在风险和挑战,总结了全球人工智能治理的探索实践,并重点介绍了中国信通院在可信人工智能领域的系列工作成果,提出了“切实服务产业发展,推动可信人工智能实践落地”的工作目标。

中国信通院云计算与大数据研究所副所长 魏凯

上海浦东发展银行股份有限公司资深数据科学家张博雅以《可信AI赋能数据合作生态》为题发表精彩演讲,从当前产业内数据协作面临的信任鸿沟、信息孤岛等困境出发,介绍了浦发银行融合应用可信AI技术赋能数据合作生态的实践,阐述了如何在安全释放数据价值的同时实现业务价值的增效,推动可信AI技术在金融领域的发展。

上海浦东发展银行股份有限公司资深数据科学家 张博雅

蚂蚁集团模型风险管理总监、蚂蚁技术委员会可信AI联合工作组副组长杨舟以《大模型时代下的可信AI挑战及其应对探索》为题,从大模型时代的AI风险切入,介绍了蚂蚁集团的算法治理框架、模型操作风险防控体系及模型全生命周期质量管控体系,展示了蚂蚁集团的智能化模型风险管理平台及AI安全检测平台,为产业推动AI向善,打造可信、可靠的AI提供优秀参考。

蚂蚁集团模型风险管理总监、蚂蚁技术委员会可信AI联合工作组副组长 杨舟

为了促进业界可信AI能力提升,增强AI计算平台的安全性能,在人工智能计算任务执行过程中,保障AI模型传输、存储、训练、推理全流程安全,中国信通院与企业合作编写了《基于AI计算平台的模型保护安全框架》标准。中国信通院云大所人工智能部高级业务主管董昊在本次分论坛上对该项标准进行了发布及解读。该项标准规定了人工智能计算平台保护人工智能模型的安全框架,包括模型保护相关安全功能模块和安全机制。适用于为边缘计算、数据中心场景的人工智能计算平台提供方、使用方保护人工智能模型安全提供参考。

中国信通院云计算与大数据研究所人工智能部高级业务主管 董昊

腾讯优图实验室高级算法研究员姚太平以《可信技术在典型场景中的实践》为题,从人脸安全技术背景出发,介绍了面向物理介质攻击、数字合成攻击以及模型对抗攻击的防御手段,并展示了可信AI技术在典型场景中的落地实践,为应用安全发展提供了新的思路。

腾讯优图实验室高级算法研究员 姚太平

中国信通院云大所人工智能部工程师丁怡心围绕技术研究、标准评估及测试、产业生态三个维度展开了中国信通院可信人工智能工作介绍。在技术研究方面,梳理了中国信通院在可信AI领域的技术成果和后续研究计划;在标准评估测试方面,系统介绍了可信人工智能标准体系和推进计划,并详细介绍了正在推进的3项标准;在产业生态方面,发布了“智信”计划第二批成员单位,介绍了已开展的产业交流活动及AI风险事件监测平台和可信AI测试平台建设的工作计划。

中国信通院云计算与大数据研究所人工智能部工程师 丁怡心

北京瑞莱智慧科技有限公司公共事务总监胡嵩智以《安全可信人工智能的实践探索》为主题进行演讲,从大模型时代AI研究范式的改变切入,阐述了AI技术发展面临的新型安全风险,介绍了瑞莱智慧的安全可信人工智能“三部曲”,为行业安全发展提供了可借鉴的思路和落地方案。

北京瑞莱智慧科技有限公司公共事务总监 胡嵩智

顺丰科技有限公司后端高级研发工程师廖建科以《顺丰可信AI助力生产》为题,从安全管理、质量管理、经营管理和风险管控等维度全方位介绍了顺丰科技可信AI助力生产的实践闭环,阐述了如何将AI技术有机地结合到企业生产环节中,保障业务安全稳健发展,为企业实践提供了有价值的参考。

顺丰科技有限公司后端高级研发工程师 廖建科

会议最后,中国信通院云大所人工智能部主任曹峰对本次分论坛进行了总结。

中国信通院云计算与大数据研究所人工智能部主任 曹峰

分论坛上,各位演讲嘉宾为我们带来了精彩纷呈的分享,上百名观众热情参与,论坛举办圆满成功!未来,我们会携手各行业企业继续深入可信AI研究,扩大技术交流平台,加深行业交流互动,推动人工智能产业健康可持续发展。

联系人

龚老师,13633043729,gongliuting@caict.ac.cn

张老师,13840517805,zhangweiting@caict.ac.cn

可信AI推进计划(“智信”计划)

为进一步推进人工智能可信治理能力提升,加快达成行业共识,保障智能应用快速健康可持续落地,中国信通院云大所成立了可信AI推进计划(简称:“智信”计划)。“智信”计划聚焦人工智能可信治理,面向政、产、学、研、用等人工智能相关主体,主要开展技术研究、标准制定、测试评估、供需对接、产业交流、赛事峰会、平台建设、案例推广等工作。

推荐阅读

  • 清淡下火的食物(清火的食物)

    本期导读:过年大鱼大肉吃的多,容易上火,分享12道菜肴,清淡好吃又祛火 过年了,大鱼大肉吃的多,俗语说:“鱼生火,肉生痰。大鱼大肉吃多了,这类食物虽然好处很多,但也不能食用过量,否则就会伤害身体。人在大……

    时间:2023-01-06 22:42:36
  • 长宁县委统战部召开半年目标绩效分析研判会

    2023年7月11日,长宁县委统战部在419会议室召开半年目标绩效分析研判会,县委常委、统战部部长赵善亮主持会议并讲话,县委统战部机关全体干部职工参加会议。 会上,常务副部长罗毅汇报了长宁县统一战线基本情……

    时间:2023-07-13 16:02:37
  • 浪潮云颜亮:打造数据云,提供支撑数据空间的分布式数据基础设施服务

    导语:随着数据与应用解耦、与算力平台解耦,云服务已经从“业务上云”阶段向“云上数据”阶段演进,“公共数据”应进一步加大开放的力度和政策支撑,它将成为数据流通的先锋,而面向“数据”的基础设施建设是当务之急,……

    时间:2023-05-05 17:23:49
  • 浪潮云算力平台ICP荣获2024云边协同大会多项大奖

    7月18日,第四届云边协同大会在北京成功召开。大会聚集了众多行业专家与产业链企业代表,共同探讨云边端分布式算力领域的技术新突破、应用新场景与发展新价值。大会公布多项成果奖项,浪潮云凭借在分布式算力和……

    时间:2024-07-23 11:26:32
  • 2024年浪潮京津冀生态伙伴营销研讨会

    9月7号,由京津冀三地以“向新而行、智慧赋能,加速企业数字化创新发展!”为主题的“2024浪潮数字企业生态合作营销研讨会”在北京举办,本次活动联合汇聚了京津冀三地共计38家浪潮生态伙伴代表,围绕平台+大模型……

    时间:2024-12-27 14:34:47
  • mophie 告诉你60W车载拒绝「充电乏力」

    车载充电充电慢是「一大现象级问题」 燃油车上点烟器的输出电压一般为 12V 而输出功率一般为 10W 左右 如果在车中点烟器上仅装配 10W 车载充电器 —— 可想而知充电过程会慢很多 「但随着G……

    时间:2023-12-27 12:24:51
  • 浪潮一体化政务大数据平台获国际先进水平认定

    近日,浪潮一体化政务大数据平台关键技术及应用顺利通过山东电子学会的科技成果评价,获得国际先进水平认定。 浪潮一体化政务大数据平台产品采用云原生架构,突破了大数据智能调度、高速跨网数据采集、基于知……

    时间:2024-07-31 10:41:35
  • 加快推进财务数智化转型,浪潮海岳亮相中国交通会计学会第八届会员代表大会

    近日,中国交通会计学会第八届会员代表大会在北京举行,浪潮海岳软件受邀参会,与来自中国交通会计学会、交通厅、知名企业的相关领导、总会计师共同探讨交通行业财务数智化转型新路径,加快推进一流财务管理体系……

    时间:2024-04-01 17:19:11
  • 浪潮云斩获2024年“数据要素×”大赛全国总决赛三等奖

    近日,由国家数据局组织开展的2024年“数据要素×”大赛全国总决赛获奖名单正式揭晓,浪潮云从全国666支队伍中成功突围,斩获现代农业赛道三等奖。 2024年“数据要素×”大赛是由国家数据局牵头,会同其他相关……

    时间:2024-10-30 10:48:44
  • 2023未来数字生产力荣誉揭晓!浪潮云斩获十余项大奖

    12月19日,2023数字生态产业峰会暨第十六届信息主管年会在北京顺利召开,会议旨在为我国城市数字化转型中的智能应用与可持续发展提供方向指引。会议期间,2023 未来数字生产力创新年度评选颁奖仪式同步举行,浪……

    时间:2023-12-20 10:42:14
随机推荐