手机版

中国信通院联合金橙果科技等十七家单位发起人工智能大模型安全基准测试

时间:2024-02-22 14:11:43作者:马慧思来源:互联网

2024年2月20日下午,AIIA“SafetyAI Bench”(人工智能大模型安全基准测试)线上研讨会成功举办。来自中国信息通信研究院(以下简称“中国信通院”)、厦门大学、北京大学、北京交通大学、360、百度、蚂蚁集团、VIVO、西门子、小鹏汽车、马上消费、浪潮科技、海信视像、交通银行、商汤科技、邮储银行、普华永道、科大讯飞、金橙果科技、万商天勤律所、中兴通讯、博特智能、开源网安、云天励飞等单位40余位科研机构专家及企业代表参加了本次会议。

中国信通院人工智能研究中心、AIIA 安全治理委员会 AI原生安全工作组组长张蔚敏介绍了AIIA“SafetyAI Bench”的工作背景。为了进一步推动大模型的安全部署应用,中国信通院联合17家单位发起大模型安全基准测试SafetyAI Bench,秉持公平公正、产业应用和场景导向的原则,目标建立业内权威大模型安全中文基准测试体系。以提高内容安全、数据安全和科技伦理等安全能力为目标,覆盖价值观正确、合法合规、隐私保护、文明健康等二十个维度的中文评测数据集。帮助大模型技术提供方提升模型安全风险防范能力,为大模型研发和落地保驾护航。

中国信通院人工智能研究中心安全与元宇宙部白入文博士介绍了“大模型评测系统”建设工作,系统将依托工信部大模型公共服务平台形成大模型评测执行的“硬工具”,为通用大模型、行业大模型、 大模型应用产品等提供一站式评测服务。一是以中立身份形成全维度、可拓展、公开、公正、公平的大模型评测能力,二是围绕产业实际应用需求开展动态评测服务,三是提供包括模型选型与供需对接在内的应用落地配套服务。

金橙果科技是人工智能中台技术研发的优秀团队,其产品AZSYS系统可以有效提升对异构数据的处理能力,帮助大模型与应用场景深度融合。搭载该系统的伙伴AI在深度学习、自然语言理解、AI模型开发、拟人角色构建与训练等领域均有非常出色的表现。金橙果科技首席运营官李欣惠表示,伙伴AI始终坚持将数据安全和用户隐私放在首位,致力于为用户提供更安全、更专业、更具保护性的AI服务,我们期待并乐于推动行业标准的制定和实施,也呼吁更多同行者加入进来共同开拓更为安全的AI未来。

推荐阅读

  • IDC:浪潮数字企业稳居中国生产与运营软件市场国产厂商第一

    近日,国际数据公司IDC发布《中国企业级应用管理(EA)市场跟踪研究报告(2024H2)》,数据显示,在生产与运营软件市场,浪潮数字企业稳居国产厂商第一,再次彰显了浪潮海岳制造运营管理平台MOM的领先实力。 ……

    时间:2025-05-29 13:10:43
  • 2025浪潮数字企业生态创新论坛圆满落幕

    近日,由浪潮数字企业技术有限公司与浪潮集团北京区主办、云汉联盟承办的“AI向新·潮涌未来——2025浪潮数字企业生态创新论坛”在北京成功举办!本次论坛汇聚了众多行业专家、生态伙伴与企业代表,共同探讨企业数智……

    时间:2025-08-21 10:33:29
  • 浪潮海岳软件亮相2023中国国际智能产业博览会

    9月4日,2023中国国际智能产业博览会在重庆召开。大会期间,国家工业信息安全发展研究中心、重庆市经济和信息化委员会、重庆市江北区人民政府共同承办“第三届制造业数字化转型高峰论坛”,以“数字新动能 智造新高……

    时间:2023-09-13 09:33:14
  • 浪潮云链·自主区块链平台(IBC)荣获第三届可信区块链安全攻防大赛安全方案夺旗奖

    9月21日,由成都市人民政府、中国信息通信研究院共同主办,成都市经济和信息化局成都市新经济发展委员会、可信区块链推进计划承办的第三届中国可信区块链安全攻防大赛总决赛圆满结束。来自全国各地的126支战队、……

    时间:2023-09-26 16:01:54
  • 博士通AI外呼技术助力教育机构提升营销与运营效率

    在用户需求日益多元、市场竞争加剧的背景下,教育机构在客户触达、意向筛选及持续运营环节面临效率与精准度的双重挑战。博士通依托其自主研发的AI语音交互与数据智能平台,推出面向教育行业的智能营销解决方案,……

    时间:2025-07-18 17:58:45
  • 更“懂”行的人工智能+丨浪潮云帆燃气安检智能体守护城市生命线

    伴随城市化进程的加速与清洁能源的广泛普及,我国城市燃气消费量持续攀升。2024年,全国天然气表观消费量4260.5亿立方米,同比增长8%,其中城市燃气用量约为1413亿立方米。然而,在燃气行业规模迅速扩张的同时,……

    时间:2025-08-01 10:12:34
  • 一站式化解企业管理挑战,云帆一体机驱动奇盛云全流程数智化再造

    当前,随着国内外IT环境的变化和新技术的快速迭代,企业用户在数智化转型过程中对智能计算、数据安全、原生应用、云边协同、按需部署等多场景方面提出了新的需求。为此,浪潮企业云精准聚焦用户核心痛点,打造的……

    时间:2026-01-04 15:41:14
  • 浪潮云泽多云管理平台V4.0产品正式发布

    近日,浪潮云泽多云管理平台V4.0新产品正式发布,并在山东省科技成果评价中获得“国际先进水平”认定,标志着浪潮云在多云监管、一体化运维以及云成本优化服务等领域具备深厚积累和卓越能力,进一步巩固了浪潮云的……

    时间:2024-11-27 10:50:09
  • 浪潮云成功入选2025年度山东省数字经济创新平台

    近日,山东省工业和信息化厅公布2025年度山东省数字经济创新平台名单,浪潮云凭借“人工智能工厂”这一典型创新实践,在评选中脱颖而出,入选“2025年度数字经济创新人才基地名单”。 为贯彻国家数字经济发展战略……

    时间:2025-11-13 14:34:30
  • 三亚数字经济产业园“数智赋能 向‘数’图强”推介会暨浙琼深度合作落地洽谈会在杭举办

    2024年10月15日下午,三亚数字经济产业园“数智赋能 向‘数’图强”推介会暨浙琼深度合作落地洽谈会圆满落幕,此次活动汇聚了杭州众多数字经济领域的佼佼者,共同聚焦数字经济、数字贸易、互联网创新等前沿议题……

    时间:2024-10-17 17:55:58
随机推荐